Anthropic отзывает игры Claude Mythos 5 и Claude Fable 5 из-за регуляторных мер правительства США

Находящаяся в Сан-Франциско компания Anthropic, занимающаяся искусственным интеллектом, объявила о немедленном отзыве своих вариантов моделей Claude Mythos 5 и Claude Fable 5 в соответствии с директивой правительства США. Этот шаг знаменует собой значительное изменение во все более сложных отношениях между разработчиками ИИ и регулирующими органами по мере быстрого развития технологий.

История Антропика и семьи Клод

Anthropic, основанная в 2021 году бывшими исследователями OpenAI, включая Дарио Амодеи, позиционирует себя как разработчик искусственного интеллекта, ориентированный на безопасность. Серия языковых моделей Claude, разработанная компанией, привлекла внимание благодаря акценту на конституционных принципах ИИ и исследованиях согласованности.

Экосистема Claude развилась и теперь включает несколько специализированных вариантов:

Пункт 3. Флагманская модель общего назначения.

Клод Опус 4: Высокоэффективная модель рассуждения

Клод Сонет 4: баланс возможностей и эффективности

Claude Haiku 4: быстрая и легкая модель.

Claude Mythos 5: Специально для творческого письма и создания повествования.

Клод Fable 5: создан для образовательного контента и повествования.

Подробная информация об снятых моделях

Claude Mythos 5, выпущенный в начале 2024 года, был разработан специально для творческих приложений, включая написание романов, разработку сценариев и создание интерактивного повествования. Модель обладала расширенными возможностями понимания литературных приемов, поддержания последовательности повествования и создания эмоционально резонансного контента.

Claude Fable 5, представленная одновременно, ориентирована на создание образовательного контента, детских рассказов и моральных повествований. Он включал в себя специальные функции безопасности, подходящие для более молодой аудитории, а также возможности создания контента, учитывающего культурные и возрастные особенности.

Директива правительства США

По данным источников, знакомых с ситуацией, директива правительства США связана с опасениями по поводу потенциального злоупотребления моделями искусственного интеллекта для создания вводящего в заблуждение контента, особенно в образовательной и творческой сферах. Запрос, который характеризуется как необязательный, но настоятельно рекомендуемый, поступил от Национального управления по телекоммуникациям и информации (NTIA) Министерства торговли в координации с Управлением политики в области науки и технологий Белого дома.

В директиве особо подчеркнуты опасения по поводу:

Потенциальное создание контента, не учитывающего культурные особенности.

Риски создания вводящих в заблуждение образовательных материалов.

Неопределенность в отношении атрибуции и происхождения контента.

Недостаточно средств защиты от неправомерного использования со стороны злоумышленников.

Отраслевой контекст и нормативно-правовая база

Отказ от этих моделей происходит на фоне усиления контроля со стороны регулирующих органов в отношении технологий искусственного интеллекта во всем мире. США развивают свой подход к управлению ИИ, уделяя особое внимание добровольным отраслевым стандартам и возможному будущему законодательству.

Последние разработки в области регулирования ИИ включают:

Указ администрации Байдена о безопасности и защите ИИ

Запрос NTIA на комментарии по поводу подотчетности ИИ

Обсуждение в Сенате законодательства о безопасности ИИ.

Обязательства отрасли, разработанные в рамках Форума искусственного интеллекта Белого дома.

Сравнительные подходы к регулированию

Модель	Основной вариант использования	Основные характеристики	Дата запуска
Клод Мифос 5	Креативное письмо и создание повествования	Улучшение литературного понимания, последовательность повествования, эмоциональный резонанс	1 квартал 2024 г.
Клод Басня 5	Образовательный контент и детские истории	Создание контента, соответствующего возрасту, культурная чувствительность, моральные рамки	1 квартал 2024 г.

Реакция Anthropic и планы на будущее

В заявлении, опубликованном для прессы, Anthropic подтвердила отказ от двух моделей, подчеркнув при этом свою приверженность ответственной разработке ИИ.

«Мы ценим продолжающийся диалог с правительством США по вопросам безопасности и управления ИИ», — заявил генеральный директор компании Дарио Амодей. "Хотя мы считаем, что наши модели включают в себя соответствующие меры безопасности, мы признаем важность решения проблем нормативного регулирования и будем тесно сотрудничать с официальными лицами, чтобы обеспечить соответствие нашей продукции самым высоким стандартам безопасности и общественным ценностям".

Отраслевые аналитики предполагают, что отзыв может быть временным, поскольку Anthropic потенциально может перевыпустить расширенные версии моделей, включающие дополнительные функции безопасности и меры прозрачности.

Реакция экспертов

Это объявление вызвало разную реакцию со стороны отраслевых экспертов и обозревателей:

"Это отражает растущие трудности инновационной отрасли, которая пытается справиться со сложными нормативными условиями", – прокомментировала доктор Сара Дженкинс, исследователь политики в области искусственного интеллекта в Брукингском институте. «Задача заключается в том, чтобы сбалансировать инновации с необходимыми мерами безопасности, не подавляя при этом полезные приложения».

Другие выразили обеспокоенность по поводу прецедента, созданного таким выводом средств. «Когда правительства фактически диктуют разработку продуктов, даже посредством необязательных предложений, это поднимает вопросы о будущем инноваций в области искусственного интеллекта», — отметил профессор Майкл Чен, эксперт по технологической этике в Стэнфордском университете.

Рыночные последствия

Отзыв Claude Mythos 5 и Claude Fable 5 может иметь несколько последствий для рынка:

Конкуренты могут увеличить долю рынка творческих и образовательных приложений ИИ.

Внимание инвесторов может сместиться в сторону компаний с более четкой стратегией соблюдения нормативных требований.

Отраслевое сотрудничество в области стандартов безопасности может ускориться.

Потребительские и корпоративные пользователи могут столкнуться с перебоями в работе специализированных приложений искусственного интеллекта.

Перспективы на будущее

Этот инцидент подчеркивает все более сложные отношения между разработчиками ИИ и регулирующими органами. Поскольку технологии искусственного интеллекта продолжают развиваться, мы можем ожидать:

Более частое взаимодействие между компаниями и государственными органами.

Разработка более сложных методов безопасности и выравнивания.

Потенциальные общеотраслевые стандарты для развертывания моделей.

Повышение прозрачности процессов разработки ИИ.

Anthropic заявила, что продолжит сотрудничать с политиками при разработке следующего поколения моделей с улучшенными функциями безопасности. Подход компании может послужить образцом для других разработчиков ИИ, ориентирующихся в меняющейся нормативной среде.

Заключение

Отзыв Claude Mythos 5 и Claude Fable 5 представляет собой поворотный момент в отношениях между разработчиками ИИ и государственными регулирующими органами. По мере развития отрасли поиск правильного баланса между инновациями и безопасностью будет иметь решающее значение как для технологического прогресса, так и для ответственного внедрения.

В ближайшие месяцы, скорее всего, продолжится диалог между промышленностью и правительством, что потенциально может иметь серьезные последствия для того, как модели искусственного интеллекта разрабатываются, внедряются и регулируются в США и во всем мире.

Anthropic отзывает Claude Mythos 5 и Claude Fable 5 в соответствии с директивой правительства США. https://ift.tt/KrwaZ6V Anthropic отзывает Claude Mythos 5 и Claude Fable 5 в соответствии с директивой правительства США https://ift.tt/KrwaZ6V

Регион/страна	Основные направления регулирования	Текущий статус
США	Добровольные стандарты, отраслевые подходы	Разработка структуры, исполнительные действия
Европейский Союз	Комплексное регулирование, основанное на рисках	Закон об искусственном интеллекте находится на завершающей стадии
Великобритания	Инновационный подход	Этап консультаций, никаких обязательных законов
Китай	Контроль контента, ориентированный на безопасность	Действуют временные меры