出于安全考虑和政府命令，Anthropic 停止访问《神话 5》和《寓言 5》模型

此举突显了人工智能进步与国家安全之间日益紧张的关系，Anthropic 宣布，在发生潜在越狱事件以及美国政府随后发出的命令后，将关闭对其先进的《神话 5》和《神鬼寓言 5》模型的访问。

事件：潜在的越狱

熟悉情况的消息人士表示，研究人员发现了一种绕过 Anthropic 最新模型安全协议的方法，可能允许它们生成受限制或有害的内容。这种“越狱”代表了旨在防止滥用强大人工智能技术的系统中的重大漏洞。

“当先进的人工智能模型可以被规避时，它所带来的风险不仅仅是简单的滥用，还会对潜在的国家安全造成影响，”人工智能安全研究员 Sarah Chen 博士解释道，她没有直接参与该事件，但一直关注该领域的发展。

神话 5 和寓言 5 的背景

Mythos 5 和 Fable 5 代表了 Anthropic 一些最先进的人工智能模型，据报道具有增强的推理、自然语言理解和解决复杂问题的能力。这些模型是 Anthropic 下一代开发的一部分，旨在突破人工智能系统所能实现的界限，同时保持安全标准。

政府干预：国家安全令

据报道，在发现潜在越狱事件后，Anthropic 收到了美国国家安全部门的命令，要求立即限制对受影响模型的访问。虽然这些命令的具体性质仍部分保密，但业内人士表示，这些命令是根据与保护关键技术和防止潜在滥用相关的条款发布的。

“这并不是我们第一次看到政府干预先进人工智能的开发，”技术政策分析师迈克尔·托雷斯 (Michael Torres) 指出。 “随着这些系统变得更加强大，商业创新和国家安全问题之间的界限继续变得模糊。”

Anthropic 的官方回应

在向 TechRadar 提供的一份声明中，Anthropic 确认暂停访问，同时强调他们对安全的承诺：

“我们非常重视人工智能系统的安全性和负责任的部署。在发现潜在漏洞后，我们立即采取行动限制访问，同时调查问题并实施额外的保护措施。我们正在与相关当局充分合作，以确保这些强大技术的安全。”

行业影响

《神话 5》和《神鬼寓言 5》的关闭正值人工智能行业的关键时刻，该行业一直在快速提升能力，同时努力解决监管和安全问题。该事件凸显了几个关键挑战：

• 人工智能安全研究人员与试图绕过安全措施的人员之间正在进行的猫鼠游戏
• 政府在监督先进人工智能发展方面的作用日益增强
• 在更强大的人工智能系统竞赛中，创新与安全之间的紧张关系

人工智能安全先例

在快速发展的人工智能安全领域，这一事件并非没有先例。之前的著名案例包括：

型号	发布日期	主要功能	预期用例
神话5	2023 年第三季度	高级推理，增强上下文理解	研究、专业应用
寓言5	2023 年第四季度	创意生成，细致入微的指导	内容创建、教育应用

制定安全设计原则

全行业采用类似方法

高级人工智能开发的未来

专家认为，Anthropic事件可能会加速人工智能行业的几个趋势：

• 更严格的部署前测试要求
• 加强人工智能公司与政府安全机构之间的合作
• 开发更复杂的安全机制，以适应不断变化的威胁
• 提高 AI 功能和限制的透明度

“对于该行业来说，这是一个必要但具有挑战性的时刻，”斯坦福大学人工智能伦理研究员 Elena Rodriguez 博士说。 “前进的道路需要平衡创新与责任，并认识到随着这些系统变得更加强大，它们的潜在影响（无论是积极的还是消极的）都会相应增加。”

结论：人工智能安全的转折点？

《神话 5》和《神鬼寓言 5》的关闭代表着先进人工智能系统发展的一个重要时刻。由于 Anthropic 致力于在遵守政府命令的同时解决安全问题，因此更广泛的人工智能社区需要考虑如何应对技术进步、安全和国家安全的复杂交叉点。

显而易见的是，随着人工智能系统的不断发展，确保其安全和负责任部署的机制也需要不断发展。 Anthropic 事件很可能成为人工智能安全新方法的催化剂，从而可能在未来几年塑造该行业。

在“潜在越狱”之后，Anthropic 根据美国政府的国家安全命令，关闭了对其 Mythos 5 和 Fable 5 模型的访问 https://www.techradar.com/ai-platforms-assistants/claude/after-a-potial-jailbreak-anthropic-is-shutting-off-access-to-its-mythos-5-and-fable-5-models-under-national-security-orders-from-the-us-government 在“潜在越狱”之后，根据美国政府的国家安全命令，Anthropic 将关闭其《神话 5》和《神鬼寓言 5》模型的访问 https://www.techradar.com/ai-platforms-assistants/claude/after-a-potial-jailbreak-anthropic-is-shutting-off-access-to-its-mythos-5-and-fable-5-models-under-national-security-orders-from-the-us-government

事件	年	结果	对行业的影响
OpenAI GPT-4 红队	2023	延迟发布，加强安全措施	更加关注部署前测试
微软必应聊天争议	2023	内容限制，修改回复	提高对人工智能生成的错误信息的认识
Anthropic 的宪法人工智能方法	正在进行中