Apple と Google、AI を活用した「Nudify」アプリケーションを削除するよう圧力をかける

法的および倫理的懸念により、ディープフェイクヌードジェネレーターに対する規制措置を早急に講じる

主要なテクノロジー プラットフォームである Apple と Google は、一般に「Nudify」アプリと呼ばれる、個人の同意のないヌード画像を生成できる人工知能を利用したアプリケーションを削除するよう求める圧力を強めています。この需要は、被写体の許可なしに現実的だが捏造された露骨なコンテンツを作成できるディープフェイク技術の蔓延に対する懸念が高まる中で生じたものです。

アプリの「Nudify」現象を理解する

「Nudify」アプリケーションは、進歩する AI 機能と倫理的境界の不穏な交差点を表しています。これらのアプリは通常、深層学習アルゴリズムを利用して、服を着た個人の写真を分析し、それらの画像のリアルなヌードバージョンを生成します。これらのアプリの背後にあるテクノロジーは、多くの場合、敵対的生成ネットワーク (GAN) や、露骨な画像の膨大なデータセットでトレーニングされた同様の AI アーキテクチャに依存しています。

最近の報告によると、そのようなアプリケーションが Apple App Store と Google Play Store の両方に数十個出現しており、その多くは検出を避けるために欺瞞的な戦術を採用しています。一部のアプリは、その主な機能が同意のない露骨なコンテンツの生成であるにもかかわらず、写真編集ツール、ボディ スキャナー、さらには無害なエンターテイメント アプリケーションとして偽装しています。

規制上の要求

削除要求は、デジタル権利団体と法執行機関の連合からのもので、Apple と Google の両社に対して、これらのアプリケーションをそれぞれの市場から削除するために直ちに行動を起こすよう正式に要求しています。テクノロジーニュースソースが入手したこの書簡は、これらのアプリがコンテンツ、プライバシー、さらにはさまざまな管轄区域の刑法に関する複数のポリシーに違反している可能性があると主張しています。

「これらのアプリケーションは単なるエッジの効いたコンテンツではなく、個人のプライバシーと同意を直接侵害しています」と、要求の背後にある組織の 1 つであるデジタル著作権財団の代表者は述べました。 「彼らは、知らないうちに、あるいは許可なしに、誰のイメージも武器として利用される危険な前例を作ってしまいます。」

要求の重要なポイント

• 特定されたすべての「Nudify」アプリケーションを即時削除
• コンテンツ生成機能を備えた AI アプリケーション向けの強化されたスクリーニング プロセスの実装
• ディープフェイクと合成メディアに関するポリシーをより明確に
• 同意のない親密な画像の被害者向けの報告メカニズムの改善

物議を醸しているアプリの背後にあるテクノロジー

これらのアプリケーションを強化する AI テクノロジーは、近年大幅に進歩しました。ほとんどの「Nudify」アプリは 2 段階のプロセスを採用しています。まず、AI が画像内の人物の服を着ている部分を識別してセグメント化します。 2 番目に、トレーニング データセットから学習したパターンに基づいて、対応するヌード部分を生成します。

より洗練されたアプリケーションの一部にはスタイル転送技術が組み込まれており、被写体に合わせてよりパーソナライズされたように見える画像を生成できます。結果として得られるコンテンツはより説得力があり、被害者にとってより大きな損害を与える可能性があるため、これは特に懸念を引き起こします。

これらのアプリの多くは規制が緩い管轄区域のサーバーから動作しますが、その他のアプリはユーザーのデバイスで直接データを処理するため、追跡と執行がより困難になります。

法的および倫理的影響

「Nudify」アプリの急増により、複数の管轄区域にわたって複雑な法的問題が生じています。多くの国では、同意のない親密な画像の作成と配布は刑事犯罪となり、しばしば「リベンジポルノ」法と呼ばれます。ただし、AI によって生成されたコンテンツへのこれらの法律の適用は、多くの地域で法的に曖昧なままです。

倫理的な観点から見ると、これらのアプリは個人の自主性と同意に対する重大な違反となります。危害の可能性は、直接の被害者にとどまらず、デジタル メディアに対する信頼や個人のセキュリティ上の懸念など、より広範な社会的影響にまで及びます。

表: 地域ごとの同意のないディープフェイク画像の法的地位

App Store のポリシーと施行の課題

Apple と Google はどちらも、同意のない親密な画像の作成を促進するアプリケーションを禁止するコンテンツ ガイドラインを維持しています。しかし、AI テクノロジーの急速な進化により、プラットフォーム オペレーターにとって施行上の課題が生じています。

「開発者とアプリ ストア レビュアーの間のいたちごっこは、生成 AI の出現で激化しています」と、匿名を希望した元 Apple App Store レビュアーは指摘しました。 「これらのアプリの多くは、表面的には無害に見えるコード化された言語と機能セットを使用しているため、より深い技術的レビューがなければ検出は困難です。」

表: AI 生成コンテンツに関する現在の App Store ポリシー

地域/管轄	明示的な法律	ペナルティ	AI が生成したコンテンツの明確さ
米国	州によって異なります。 48 の州でリベンジポルノ法が制定されている	罰金、懲役（数年以下）	限定的;新たな法的枠組み
欧州連合	GDPR および特定の加盟国の法律	多額の罰金、刑事告発の可能性	開発中。デジタル サービス法はいくつかの問題に対処します
イギリス	2015 年重大犯罪法	最高 2 年の懲役	AI が生成したコンテンツを明示的に含めます
オーストラリア	犯罪法改正 (親密な画像) 法	最高 3 年の懲役	AI が生成したコンテンツを明示的に含めます

業界の反応と今後の影響

圧力の高まりに応えて、Apple と Google は、アプリの承認プロセスと、特に AI アプリケーションに関するコンテンツ管理ポリシーを見直していることを示しました。両社とも、追加の対策を実施するスケジュールについては約束していません。

広範なテクノロジー業界も、AI テクノロジーの二重用途の性質にどう対処するかに取り組んでいます。これらの同じテクノロジーは、ヘルスケア、エンターテイメント、クリエイティブ分野で正当な用途に使用されていますが、悪用される可能性があるため、開発者とプラットフォーム オペレーターの両方にとって大きな課題となっています。

デジタル権利擁護者は、AI が生成したコンテンツに対する標準化された透かしや、生成機能を備えたアプリケーションに対するより明確な開示要件など、事後的な執行ではなく、積極的な措置を求めています。

結論: イノベーションと保護のバランスをとる

「Nudify」アプリの削除要求は、技術革新と倫理的配慮およびユーザー保護のバランスを取る重要な必要性を浮き彫りにしています。 AI の機能が進化し続けるにつれて、新たな課題に対処するために規制枠組みとプラットフォーム ポリシーの両方を進化させる必要があります。

この訴訟の結果は、AI アプリケーションがどのように規制されるか、またテクノロジー プラットフォームが強力なテクノロジーの二重使用の性質をどのように管理するかについて重要な前例となる可能性があります。現時点では、有害なアプリケーションを即時に削除することに重点が置かれている一方、将来同様の問題を防ぐための長期的なソリューションが開発されています。

Apple と Google は AI の「Nudify」アプリをプルする需要に見舞われています。 MacRumors 経由: Mac のニュースと噂 - すべてのストーリー https://ift.tt/t10iUEd AppleとGoogle、AI「Nudify」アプリをプルする需要に見舞われる MacRumors 経由: Mac のニュースと噂 - すべてのストーリー https://ift.tt/t10iUEd

プラットフォーム	明示的な AI コンテンツに関するポリシー	強制メカニズム	最近の注目すべきアクション
Apple App Store	「同意のない親密な画像の作成を促進する」アプリを禁止します	人によるレビュー、自動スキャン、ユーザーレポート	いくつかの AI 画像生成アプリは 2023 年に削除
Google Play ストア	「露骨な性的またはポルノ的な」コンテンツを禁止します	自動スキャン、人によるレビュー、ユーザーレポート	2023 年には AI アプリに対する監視が強化される