在美国政府的监管行动中，Anthropic 撤回了《克劳德神话 5》和《克劳德寓言 5》

总部位于旧金山的人工智能公司 Anthropic 宣布，根据美国政府的指示，立即撤回其 Claude Mythos 5 和 Claude Fable 5 模型变体。随着技术的快速发展，此举标志着人工智能开发人员与监管机构之间日益复杂的关系取得了重大发展。

人类和克劳德家族的背景

Anthropic 由 Dario Amodei 等前 OpenAI 研究人员于 2021 年创立，将自己定位为专注于安全的 AI 开发商。该公司的Claude系列语言模型因强调AI宪法原理和对齐研究而受到关注。

Claude 生态系统已经发展到包括几个专门的变体：

• Claude 3：旗舰通用型号
• Claude Opus 4：高性能推理模型
• 克劳德十四行诗 4：能力与效率的平衡
• Claude Haiku 4：快速、轻量级模型
• 克劳德神话 5：专门用于创意写作和叙事生成
• 克劳德寓言 5：专为教育内容和讲故事而定制

撤回模型的详细信息

Claude Mythos 5 于 2024 年初推出，专为创意应用而设计，包括小说写作、剧本开发和交互式叙事生成。该模型增强了理解文学手段、保持叙事一致性和生成情感共鸣内容的能力。

同期推出的《克劳德寓言5》，专注于教育内容创作、儿童故事、道德叙事。它结合了适合年轻受众的专门安全功能，并包括生成文化敏感和适合年龄的内容的功能。

美国政府指令

据知情人士透露，美国政府的指令涉及对人工智能模型可能被滥用来生成误导性内容的担忧，特别是在教育和创意领域。该请求被描述为不具有约束力，但强烈建议，由商务部国家电信和信息管理局 (NTIA) 与白宫科学技术政策办公室协调提出。

该指令特别强调了以下方面的担忧：

• 可能会生成文化不敏感的内容
• 制作误导性教育材料的风险
• 内容归属和出处的不确定性
• 针对恶意行为者滥用的防范措施不足

行业背景和监管环境

这些模型的撤回是在全球人工智能技术监管审查日益加强的背景下发生的。美国一直在制定人工智能治理方法，重点关注自愿性行业标准以及未来可能的立法。

人工智能监管的最新发展包括：

• 拜登政府关于人工智能安全的行政命令
• NTIA 请求就人工智能问责制发表评论
• 参议院讨论人工智能安全立法
• 通过白宫人工智能论坛制定的行业承诺

比较监管方法

型号	主要用例	主要功能	发布日期
克劳德神话5	创意写作和叙事生成	增强文学理解、叙事一致性、情感共鸣	2024 年第一季度
克劳德寓言5	教育内容和儿童故事	适合年龄的内容生成、文化敏感性、道德框架	2024 年第一季度

Anthropic 的应对措施和未来计划

在向媒体发布的一份声明中，Anthropic 确认撤回这两个模型，同时强调其对负责任的人工智能开发的承诺。

“我们赞赏与美国政府就人工智能安全和治理进行的持续对话，”该公司首席执行官达里奥·阿莫迪 (Dario Amodei) 表示。 “虽然我们相信我们的模型包含了适当的安全措施，但我们认识到解决监管问题的重要性，并将与官员密切合作，以确保我们的产品符合最高的安全标准并符合社会价值观。”

行业分析师表示，撤回可能是暂时的，Anthropic 可能会重新发布包含额外安全功能和透明度措施的模型的增强版本。

专家反应

该公告引起了行业专家和观察家的不同反应：

“这反映了创新行业在复杂的监管环境中不断成长的痛苦，”布鲁金斯学会人工智能政策研究员 Sarah Jenkins 博士评论道。 “挑战在于平衡创新与必要的保障措施，同时又不扼杀有益的应用。”

其他人对此类撤回所开创的先例表示担忧。斯坦福大学技术伦理专家 Michael Chen 教授指出：“当政府有效地支配产品开发时，即使是通过不具约束力的建议，也会引发人们对人工智能创新未来的质疑。”

市场影响

《克劳德神话 5》和《克劳德寓言 5》的退出可能会产生几个市场影响：

• 竞争对手可能会在创意和教育人工智能应用领域获得市场份额
• 投资者的注意力可能会转向具有更清晰监管合规策略的公司
• 安全标准方面的行业合作可能会加速
• 消费者和企业用户可能会遇到专用 AI 应用程序中断的情况

未来展望

该事件凸显了人工智能开发商和监管机构之间日益复杂的关系。随着人工智能技术的不断进步，我们可以预期：

• 公司与政府机构之间的互动更加频繁
• 开发更先进的安全和对准技术
• 模型部署的潜在全行业标准
• 提高 AI 开发流程的透明度

Anthropic 表示将继续与政策制定者合作，同时开发具有增强安全功能的下一代模型。该公司的方法可以作为其他人工智能开发人员应对不断变化的监管环境的模板。

结论

《克劳德神话 5》和《克劳德寓言 5》的退出标志着人工智能开发者和政府监管机构之间关系的关键时刻。随着行业的成熟，在创新和安全之间找到适当的平衡对于技术进步和负责任的部署至关重要。

未来几个月，行业和政府之间可能会继续对话，这对人工智能模型在美国和全球的开发、部署和监管方式可能产生重大影响。

Anthropic 根据美国政府指令撤下《克劳德神话 5》和《克劳德寓言 5》 https://ift.tt/KrwaZ6V Anthropic 根据美国政府指令下架《克劳德神话 5》和《克劳德寓言 5》 https://ift.tt/KrwaZ6V

地区/国家	主要监管焦点	当前状态
美国	自愿标准、针对具体行业的方法	制定框架，执行行动
欧盟	基于风险的全面监管	人工智能法案进入最后阶段
英国	支持创新、轻松接触的方法	咨询阶段，无约束力的法律
中国	内容控制，注重安全	临时措施生效