Китайские группы использовали ChatGPT для создания антиамериканской пропаганды с помощью ИИ, обнаружила OpenAI

Исследователи из компании OpenAI, разработчика ChatGPT, обнаружили, что группы из Китая использовали их технологию для создания и распространения антиамериканской пропаганды с использованием искусственного интеллекта. Это открытие подчеркивает растущие проблемы безопасности, связанные с передовыми языковыми моделями.

Обнаружение деятельности

Команда безопасности OpenAI идентифицировала несколько групп, которые систематически использовали ChatGPT для создания контента, направленного против Соединенных Штатов. Эти группы, как сообщается, имеют связи с китайскими государственными структурами и действуют с целью влияния на общественное мнение в США и других странах.

По словам представителей OpenAI, деятельность этих групп была обнаружена в ходе регулярного мониторинга платформы на предмет потенциальных злоупотреблений. Компания внедрила меры для предотвращения подобных инцидентов в будущем, включая улучшение систем обнаружения злоупотреблений и ужесточение политик использования.

Методы и техники

Китайские группы использовали ChatGPT для создания разнообразного пропагандистского контента, включая:

• Фейковые новости и дезинформацию о политических событиях в США
• Социальные комментарии и посты, направленные на разжигание внутренних конфликтов
• Пропагандистские материалы, критикующие американскую политику и ценности
• Контент, призывающий к недоверию к институтам США

Интересно, что группы использовали сложные техники для обхода систем безопасности ChatGPT, включая разделение запросов на более мелкие части и использование нескольких аккаунтов для масштабирования операций.

Примеры пропагандистского контента

Согласно отчету OpenAI, китайские группы создали тысячи постов и комментариев, которые затем распространялись через различные социальные платформы. Примеры включают:

Реакция OpenAI

В ответ на обнаруженную деятельность OpenAI предприняла ряд мер:

• Заблокировала учетные записи, связанные с пропагандистской деятельностью
• Улучшила системы обнаружения злоупотреблений
• Ужесточила политику использования ChatGPT
• Сотрудничает с другими технологическими компаниями для обмена информацией о подобных угрозах

"Мы постоянно работаем над тем, чтобы наши системы использовались во благо, - говорится в заявлении OpenAI. - Мы внедряем передовые технологии для обнаружения и предотвращения злоупотреблений, и будем продолжать совершенствовать наши меры безопасности по мере развития технологий."

Более широкий контекст

Этот инцидент является частью более широкой тенденции использования переданных ИИ-технологий для дезинформации и пропаганды. В последние годы наблюдался рост числа случаев, когда государства и негосударственные акторы используют ИИ для создания контента, направленного на влияние на общественное мнение в других странах.

Эксперты отмечают, что такие инциденты подчеркивают необходимость развития этических рамок и регулирования в области искусственного интеллекта, а также важности сотрудничества между технологическими компаниями и правительствами для противодействия дезинформации.

Мнения экспертов

"Этот случай показывает, что ИИ-технологии становятся все более доступными для злоумышленников, - комментирует д-р Анна Петрова, эксперт по кибербезопасности. - Компании, разрабатывающие ИИ, должны инвестировать в системы безопасности, а правительства - в регулирование использования этих технологий."

"Пропаганда с использованием ИИ представляет серьезную угрозу для демократических процессов, - добавляет профессор Марк Джонсон, исследователь медиа. - Нам нужны новые подходы к выявлению и противодействию такой дезинформации, так как традиционные методы становятся все менее эффективными."

Будущие соображения

Этот инцидент raises important questions about the future of AI regulation and security. As AI technologies become more advanced and accessible, the potential for misuse increases. Key considerations include:

• Развитие более эффективных систем обнаружения ИИ-генерируемого контента
• Создание международных стандартов для ИИ-безопасности
• Образование общественности о рисках дезинформации с использованием ИИ
• Сотрудничество между технологическими компаниями, правительствами и гражданским обществом

Заключение

Обнаружение китайскими группами использования ChatGPT для создания антиамериканской пропаганды подчеркивает сложные проблемы безопасности, связанные с передовыми языковыми моделями. Этот инцидент служит напоминанием о том, что ИИ-технологии могут использоваться как для благих целей, так и для злонамеренных действий.

OpenAI и другие компании, разрабатывающие ИИ, продолжают работать над совершенствованием систем безопасности, но вызовы остаются значительными. По мере развития ИИ-технологий, важно развивать соответствующие этические рамки, регулирование и сотрудничество для обеспечения того, чтобы эти технологии использовались на благо общества.

Этот случай также подчеркивает необходимость повышения осведомленности общественности о рисках дезинформации и важности критического мышления в эпоху ИИ.