TechOffice达里奥·阿莫迪主张政府有权阻止人工智能部署
Anthropic CEO 主张政府有权阻止有风险的人工智能模型
行业领导者对人工智能治理的意外立场引发争论
Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 公开主张授予政府当局阻止或阻止被认为存在不可接受风险的人工智能模型部署的权力，这一令人惊讶的发展在人工智能界引起了轩然大波。他的个人博客上最近发表的一篇政策文章中阐述了这一立场，代表了一位行业知名人士在先进人工智能系统治理方面的重要立场。Anthropic 和 Dario Amodei 的背景
Anthropic 已成为人工智能研究领域的领先者，以开发高级语言模型和专注于人工智能安全而闻名。该公司由 Dario Amodei 等 OpenAI 前研究人员创立，将自己定位于前沿人工智能开发和安全考虑的交叉点。 Amodei 曾担任 OpenAI 研究副总裁，一直直言需要负责任的人工智能开发，但通常与行业主导而非政府强制的安全措施联系在一起。
该公司已获得大量资金，包括来自大型科技公司的投资，并开发了自己的人工智能系统，尤其是 Claude，它被定位为市场上一些更强大模型的更安全的替代品。
政策建议：政府干预人工智能部署
在最近题为“AI 指数政策”的博客文章中，Amodei 概述了 AI 治理框架，其中包括一项有争议的条款：授予政府当局干预 AI 模型部署的权力。 Amodei 认为，只有当第三方评估确定模型存在不可接受的风险时，才应行使这一权力。
“如果根据第三方评估确定该模型会带来不可接受的风险，政府应该有权阻止或阻止该模型的部署，”阿莫迪在他的政策文件中指出。这一立场明显背离了支持自我监管和自愿安全措施的典型行业立场。
四种特定风险类别
阿莫迪的提案强调，政府权力的范围应仔细界定，以应对四个特定的风险类别。虽然原始帖子没有明确列出这些类别，但它们可能包含人工智能安全讨论中常见的问题，包括：
- 高性能人工智能系统带来的灾难性风险
- 人工智能辅助危险剂设计带来的生物风险
- 由人工智能控制的自主武器系统
- 关键基础设施或经济稳定面临系统性风险
针对政治偏袒的保护措施
阿莫迪提案的一个关键组成部分是纳入防止潜在滥用政府权力的保障措施。他特别呼吁采取“针对政治偏袒或任意决定的保护措施”，并认识到在确定应限制哪些模式时需要客观标准。
这些保护措施可能包括：
- 透明的评估方法
- 独立审查机构
- 开发者的申诉流程
- 政府机构的定期日落或审查
行业背景和反应
Amodei 对政府干预的立场与人工智能行业内的普遍情绪形成鲜明对比，后者普遍支持自我监管和自愿安全承诺。科技行业历来抵制政府监管，尤其是在人工智能开发等快速发展的领域。
鉴于 Anthropic 作为领先的人工智能研究组织的地位，这一地位变得更加引人注目。该公司一直参与前沿模型论坛等行业倡议，该论坛的重点是通过行业协作而不是监管要求来制定安全标准。
人工智能治理方法比较
对人工智能治理的影响
Amodei 的提议是在人工智能治理辩论的关键时刻提出的。随着人工智能系统变得越来越强大，有关适当监督机制的问题已从理论讨论转变为紧迫的政策考虑。欧盟的人工智能法案、美国的各种提案以及英国人工智能峰会等论坛上的国际讨论都反映出朝着某种形式的监管框架不断增长的势头。
将倡导政府干预的知名行业声音纳入其中可能会改变奥弗顿的人工智能治理窗口，使更严格的监管方法在政治上可行。这也可能标志着行业内部认识到，仅靠自愿措施可能不足以解决日益先进的人工智能系统带来的最重大风险。
批评和考虑
尽管阿莫迪主张政府干预，但对于这一框架的实际实施仍然存在重大问题和担忧：
- 专业知识差距：政府机构可能缺乏准确评估先进人工智能系统的技术专业知识。
- 创新抑制：严格的部署要求可能会抑制创新并减缓有益的人工智能发展。
- 国际协调：有效的治理需要国际合作来防止监管套利。
- 定义“不可接受的风险”：建立明确、客观的标准来确定哪些模型会带来不可接受的风险仍然具有挑战性。
结论
达里奥·阿莫迪 (Dario Amodei) 主张政府有权阻止人工智能模型部署，这代表了正在进行的人工智能治理对话的重大进展。通过将自己定位为支持精心设计的监管机制，阿莫迪承认纯粹以行业为主导的方法存在潜在局限性，同时试图解决合法的安全问题。
随着人工智能系统继续快速发展，关于适当治理机制的争论可能会加剧。阿莫代的提议强调特定的风险类别和针对政治偏袒的保护措施，可能会在不受限制的发展和过度监管之间提供一条中间道路。随着政策制定者、行业领导者和民间社会利益相关者努力开发在日益强大的人工智能时代平衡创新与安全的框架，未来几个月和几年，这些想法可能会持续演变。
Anthropic 在这个问题上的立场尤其值得注意，因为该公司的行动（超出了 Amodei 的个人政策建议）将表明这种倡导是否代表了公司战略的真正转变，或者只是更广泛的行业讨论中的一个观点。
事实证明，Anthropic 首席执行官 - 达里奥本人希望政府有权阻止或阻止模型的部署🤦 如果根据第三方评估确定该模型存在不可接受的风险，政府应有权阻止或阻止该模型的部署。这一权力必须涵盖上述四种具体风险，并且必须有针对政治偏袒或任意决定的保护措施。 酱料： https://darioamodei.com/post/policy-on-the-ai-exponential 关注@TechLeaksZone 事实证明，Anthropic 首席执行官 - 达里奥本人希望政府有权阻止或阻止模型的部署 🤦 如果根据第三方评估确定该模型存在不可接受的风险，政府应有权阻止或阻止该模型的部署。这一权力必须涵盖上述四种具体风险，并且必须有针对政治偏袒或任意决定的保护措施。 酱料： https://darioamodei.com/post/policy-on-the-ai-exponential 关注@TechLeaksZone
