中国のグループがChatGPTを利用して反米AIプロパガンダを生成、OpenAI調査で判明
人工知能と地政学的な影響力の交差の増大を浮き彫りにする重要な進展の中で、OpenAI は、中国関連グループが同社の ChatGPT プラットフォームを利用して反米プロパガンダ素材を生成していることを発見しました。この事実は、AI ガバナンスにおける新たな課題と、大規模な言語モデルが情報戦目的で兵器化される可能性を浮き彫りにしています。
発見: 調整されたプロパガンダ キャンペーンを明らかにする
OpenAI の研究チームによると、同社のセキュリティ部門は、米国の政策、社会、価値観に批判的なコンテンツを生成するために ChatGPT を悪用しようとする、中国を拠点とする組織による組織的な取り組みを特定しました。数か月に及ぶこの作戦には、モデルに組み込まれた悪用に対する保護機能を回避するための高度なプロンプト技術が含まれていました。
「私たちのシステムは、典型的な ChatGPT の使用法から逸脱した異常なアクティビティ パターンを検出しました」と OpenAI のセキュリティ責任者、サラ チェンは説明しました。 「調査の結果、これらのアカウントは特定の反米的な言説に沿ったコンテンツを組織的に作成しており、その多くの場合、驚くべき一貫性とボリュームを持っていることが判明しました。」
方法論: AI をプロパガンダ生成に活用する
中国のグループは、プロパガンダ キャンペーンの効果を最大化するためにいくつかの手法を採用しました。
- 複数のアカウントを使用してワークロードを分散し、検出を回避する
- 望ましい成果を引き出すための専門的な迅速なエンジニアリング戦略を開発する
- AI が生成したコンテンツと人間による編集を組み合わせて信憑性を高める
- 拡散を最大化するために複数の言語をターゲットにする
- 意見の対立を引き起こす社会的および政治的問題に焦点を当て、エンゲージメントを最大化する
プロパガンダの内容は、アメリカの外交政策への批判、社会的不平等、人種的緊張、政治的二極化など、幅広いトピックをカバーしていました。この資料は本物であるように見えるように設計されており、ソーシャル メディア フォーラム、コメント セクション、メッセージング アプリなどのさまざまなオンライン プラットフォームに配布されました。
技術分析: ChatGPT がどのように侵害されたか
OpenAI の技術チームは、中国のグループが ChatGPT を効果的に操作してその使用ポリシーに違反するコンテンツを作成する高度なプロンプト シーケンスを開発していたことを発見しました。リクエストを複数のステップに分割し、慎重に作成された言葉を使用することで、グループは、政治的内容の生成を防ぐために設計されたコンテンツ フィルターを回避することができました。
「このアプローチは、ChatGPT の機能と限界の両方について高度な理解を示しました」と、AI 安全性に関する OpenAI の主任研究員である Michael Torres 博士は述べています。 「彼らは、複雑な命令に従うモデルの傾向を効果的に利用し、目的に沿ったコンテンツを生成する方向にモデルを徐々に誘導しました。」
影響評価: プロパガンダの規模と範囲
OpenAI は、このキャンペーンにより複数の言語で数千のコンテンツが生成され、世界中の数百万人のユーザーにリーチする可能性があると推定しています。このプロパガンダは、反米感情がすでに存在していた地域で特に効果的で、新しい物語を生み出すのではなく、既存の物語を増幅させました。
次の表は、プロパガンダ キャンペーンの主要な側面をまとめたものです。
| アスペクト |
詳細 |
| 期間 |
約 6 か月 |
| 関係するアカウントの数 |
50 ～ 100 アカウント |
| コンテンツのボリューム |
数千のピースが生成 |
| 対象言語 |
英語、中国語、スペイン語、アラビア語 |
| 主なプラットフォーム |
ソーシャル メディア、フォーラム、コメント セクション |
OpenAI の対応と緩和策
このキャンペーンを発見すると、OpenAI は直ちに作戦を中断する措置を講じました。同社は特定されたアカウントを停止し、同様の活動を検出するための追加の保護措置を導入し、プラットフォームを悪用する組織的な試みを特定するために監視システムを強化しました。
「私たちは検出機能と応答プロトコルを継続的に改善しています」と OpenAI CEO の Sam Altman 氏は最近の声明で述べています。 「私たちは悪用の防止において大きな進歩を遂げてきましたが、このインシデントは、脅威アクターが戦術を進化させるにつれて、AI セキュリティには継続的な警戒と適応が必要であることを示しています。」
OpenAI はまた、その調査結果を関連セキュリティ機関やテクノロジー企業と共有し、業界全体で AI の悪用に対処するための協力的なアプローチを推進しています。
AI ガバナンスに対する広範な影響
このプロパガンダ キャンペーンの発見は、AI ガバナンスと国際関係の将来に重大な影響を及ぼします。これは、高度な AI システムが、特に地政学的な競争の文脈において、悪意のある目的に悪用されないようにするという増大する課題を浮き彫りにしています。
「この事件は、影響力作戦のための AI 使用の懸念すべきエスカレーションを表しています」と、グローバル デジタル セキュリティ研究所の技術政策専門家であるエブリン リード博士はコメントしました。 「AI がよりアクセスしやすく、機能が向上するにつれ、イノベーションとセキュリティおよび倫理的配慮のバランスを取る堅牢なフレームワークを開発する必要があります。」
業界の反応と専門家のコメント
テクノロジー業界はこの暴露に対し、懸念と根本的な問題に対処する決意が入り混じった態度で対応した。大手 AI 企業は、AI のセキュリティと使用ポリシーに関する業界全体の標準を確立するための協力的な取り組みの必要性を強調しています。
「ChatGPT を使用した中国のプロパガンダ キャンペーンは、個別の事件ではなく、AI 誤用のより広範なパターンの一部です」と、AI 安全性センターの上級研究員であるジェームス ミッチェル博士は指摘しました。 「これは、より洗練されたコンテンツ検出システムと、AI の開発と展開に関するより明確な国際基準が緊急に必要であることを浮き彫りにしています。」
一方、サイバーセキュリティの専門家は、同様のキャンペーンが他の AI プラットフォームをターゲットにしている可能性があると警告し、業界全体で警戒を強化する必要性を強調しています。
将来の展望: AI 防御の強化
この事件やその他の新たな脅威に対応して、OpenAI やその他の AI 企業は、より堅牢なセキュリティ対策の開発に多額の投資を行っています。これには、改善されたコンテンツ検出アルゴリズム、強化された監視システム、および組織的な悪用の試みを特定するためのより高度な技術が含まれます。
業界は今後を見据えて、AI の悪用に対するより透明性の高い報告メカニズムの開発と、責任ある AI の使用に関するより明確なガイドラインの確立にも注力しています。目標は、有害なアプリケーションの可能性を最小限に抑えながら、AI イノベーションが繁栄できるエコシステムを構築することです。
結論: イノベーションとセキュリティのバランス
反米プロパガンダを生成するために ChatGPT を使用している中国のグループの発見は、進化する AI テクノロジーの状況における重大な課題を表しています。これは、高度な言語モデルの能力と脆弱性の両方を実証し、AI の安全性とセキュリティへの継続的な投資の緊急の必要性を強調しています。
AI テクノロジーが進化し続ける中、業界はイノベーションの促進と悪用の防止との間で微妙なバランスを取る必要があります。この事件は、優れた技術力には大きな責任が伴い、AI のセキュリティと倫理的な使用を確保するには、テクノロジー企業、研究者、政策立案者、市民社会の間の継続的な協力が必要であることを思い出させます。
このプロパガンダ キャンペーンに対する OpenAI の発見と対応は、これらの課題に正面から取り組む同社の取り組みを示しています。しかし、この事件はまた、AI セキュリティが単一の組織だけで解決できる問題ではないことも強調しています。効果的な保護手段を開発し、責任ある AI 開発と導入のための明確な規範を確立するには、業界全体で調整された取り組みが必要です。
中国グループが反米 AI プロパガンダを生成するために ChatGPT を使用、OpenAI が発見
https://ift.tt/MrJLqbG
中国グループがChatGPTを利用して反米AIプロパガンダを生成、OpenAIが発見
https://ift.tt/MrJLqbG
TechOffice
