150 多位数学家敦促政府超越人工智能炒作

超过 150 名数学家警告政府不要“相信人工智能的炒作”

在一份前所未有的集体声明中，来自世界各地的 150 多名数学家就当前围绕人工智能 (AI) 的讨论向各国政府和政策制定者发出了严厉警告。专家们警告不要不加批判地接受人工智能炒作，并强调评估人工智能能力和局限性时需要数学严谨。

人工智能的数学视角

代表从纯数学到应用统计学等不同领域的数学家小组认为，当前有关人工智能的公共和政治讨论往往缺乏必要的数学基础。他们指出，许多关于人工智能能力的说法都是基于对复杂系统的过于简单化的解释，而不是严格的数学分析。

“我们正在目睹一种危险的趋势，即为了耸人听闻的头条新闻而牺牲了数学的微妙之处，”该声明的主要签署人、专门研究计算复杂性理论的著名数学家埃琳娜·罗德里格斯教授表示。 “现实情况是，当前的人工智能系统尽管有令人印象深刻的演示，但其运行原理与人类认知根本不同。”

重点关注的问题

数学家们确定了几个值得特别关注的领域：

• 高估人工智能能力：当前的人工智能系统，尤其是大型语言模型，经常被描述为具有它们实际上并不具备的理解、推理能力或意识。
• 统计推理与因果推理：人工智能系统擅长统计模式识别，但缺乏真正的因果理解，这限制了它们在复杂决策场景中的可靠性。
• 数学基础：许多人工智能应用程序在部署时没有充分了解其数学局限性，从而导致边缘情况下的潜在失败。
• 可解释性：先进人工智能系统的“黑匣子”性质使其难以从数学上验证其输出，从而引发了人们对问责制的担忧。

呼吁政策中的数学素养

声明强调，政策制定者在评估人工智能技术及其影响时需要提高数学素养。数学家提出了几个具体步骤：

• 建立具有数学专业知识的独立小组，在关键基础设施部署之前评估人工智能系统
• 投资于澄清当前人工智能功能的数学界限的研究
• 制定考虑人工智能决策统计性质的监管框架
• 优先考虑人工智能数学局限性的透明度，而不是仅仅关注其能力

行业反应

该声明引起了科技行业的不同反应。一些人工智能研究人员对数学观点表示欢迎，承认该领域有时会做出夸大的说法。然而，其他人则为创新的快速步伐辩护，认为数学的严谨性有时会减缓有益的技术发展。

“我们同意数学理解至关重要，”一家领先科技公司的首席人工智能科学家 Marcus Chen 博士说道。 “但我们也必须平衡这一点与人工智能给社会带来的实际利益。挑战在于找到这种平衡。”

全球影响

这一警告是在世界各国政府正在制定人工智能战略和法规的关键时刻发出的。欧盟的《人工智能法案》、美国最近的人工智能行政命令以及中国和其他国家的类似举措都在试图应对人工智能的挑战和机遇。

“这并不是要扼杀创新，”罗德里格斯教授强调。 “这是为了确保创新在清楚地了解这些技术能做什么和不能做什么的情况下进行。数学的严谨性提供了这种清晰度。”

前进的道路

数学家的声明最后呼吁就人工智能进行更细致的公开对话，承认其潜力和局限性。他们主张数学家、计算机科学家、政策制定者和公众之间加强合作，以制定更现实、更有益的人工智能开发和部署方法。

随着人工智能不断融入社会的各个方面，数学视角为围绕这些技术的耸人听闻的叙述提供了至关重要的平衡。希望这一警告能够促使人们更加深思熟虑地考虑人工智能的真正能力，并帮助引导其朝着创新和负责任的方向发展。

超过 150 名数学家警告政府不要“相信人工智能的炒作”

阅读全文

#AIethics #Mathematics #AIfuture предуп 超过 150 名数学家警告政府不要“相信人工智能的炒作”

阅读全文

#AIethics #Mathematics #AIfuture предуп