Apple、一ユーザーによる違法なポルノコンテンツの影響でTelegramを一時的にApp Storeから削除

Apple、Telegramを一時的にApp Storeから削除 — 背景にある事情と教訓

昨夜、Appleは一時的にTelegramをApp Storeから削除しました。原因は、ある単独のユーザーが公開グループチャットに違法なポルノコンテンツを投稿したためです。この問題は数時間後に解決され、Telegramは再度利用可能となりました。しかし、この出来事には深刻な教訓が含まれており、他のアプリ開発者やオンラインコミュニティを同様の攻撃から守るために、その詳細を解説します。

事件の詳細

Telegramは、ユーザーからの報告やAIフィルター、コンテンツハッシュ、その他のModerationツールを用いて公然とした違法コンテンツを迅速に削除しています。このため、攻撃者は技術的なトリックを使わざるを得ませんでした。具体的には、アクティブなグループチャット内の古いメッセージを編集し、AIで改造された違法コンテンツを挿入しました。この結果、コンテンツはグループのメンバーから隠され、迅速な報告を妨げました。

攻撃者の正体

この攻撃者は「テイクダウンエクスプロイター」と呼ばれる人々で、グループオーナーに対して身代金を要求し、コミュニティをターゲットにしない代わりに支払いを回避しようとします。彼らは自動アカウントを利用して公開グループに違法コンテンツを埋め込み、直接Appleに報告することで、オーナーが支払いを拒否した場合に合法なコミュニティを削除させようとします。

TelegramのModerationの効果

実際のところ、Telegramの公開グループにおける違法なポルノコンテンツは体系的な問題ではありません。我々のModerationは非常に効果的です。攻撃者が時効の、実質的に見えないコンテンツや他の技術的トリックに頼る必要があるという事実がそれを証明しています。

重要な教訓

この事件から、アプリ開発者とオンラインコミュニティに対して重要な2つの教訓があります。

• Appleの過剰反応を利用する手法: エクスプロイターたちは、Appleを巧妙に操り、過剰反応を引き出すことに成功しました。Appleは我々に連絡を取る前にTelegramをApp Storeから削除しました。これは、ユーザー生成コンテンツをホストする全てのモバイルアプリに対し、潜在的な体系的リスクを生じさせます。10億人以上が利用するアプリが事前警告なしにApp Storeから削除される可能性があるということで、どのアプリでも同様の事態が起こり得ます。
• 攻撃者の戦術は進化している: テイクダウンエクスプロイターによる手法は進化しており、各種ソーシャルプラットフォームにおけるコミュニティにとってリスクを高めています。Telegramは、協調的な報告グループによる巧妙なトリックを特定し、合法なコミュニティを保護するための豊富な経験があります（この保護により、自らのアプリが一時的にApp Storeから削除されるリスクを負うこともあります）。他のプラットフォームは同様の準備ができていないかもしれません。

最後に

我々は、警戒を怠らないことが重要であると認識しています。このような脅威は今後も続く可能性がありますので、オンラインコミュニティとアプリ開発者は常に注意を払う必要があります。テクノロジーの進化に伴い、我々の安全性も同様に進化させていく必要があります。