TechOffice苹果和谷歌面临法律压力，要求删除生成未经同意的裸体图像的人工智能应用程序
苹果和谷歌面临着删除人工智能驱动的“裸体”应用程序的巨大压力
法律和道德问题促使对 Deepfake 裸体生成器采取监管行动
主要技术平台苹果和谷歌面临着越来越大的压力，要求删除能够生成未经同意的个人裸体图像的人工智能应用程序，这些应用程序通常被称为“Nudify”应用程序。这一需求出现之际，人们越来越担心深度伪造技术的扩散，这种技术可以在未经主体许可的情况下创建真实但捏造的露骨内容。
了解“裸体”应用现象
“Nudify”应用程序代表了先进的人工智能能力与道德界限的令人不安的交叉点。这些应用程序通常利用深度学习算法来分析穿着衣服的人的照片并生成这些图像的真实裸体版本。这些应用程序背后的技术通常依赖于生成对抗网络 (GAN) 或在大量显式图像数据集上训练的类似人工智能架构。
根据最近的报道，Apple App Store 和 Google Play Store 上都出现了数十个此类应用程序，其中许多应用程序采用欺骗策略来避免检测。一些应用程序将自己伪装成照片编辑工具、人体扫描仪，甚至无害的娱乐应用程序，而其主要功能仍然是生成未经同意的露骨内容。
监管要求
删除的要求来自数字版权组织和执法机构的联盟，他们已正式要求 Apple 和 Google 立即采取行动，从各自的市场中清除这些应用程序。科技新闻来源获得的这些信件认为，这些应用程序违反了有关内容、隐私的多项政策，甚至可能违反了各个司法管辖区的刑事法规。
“这些应用程序不仅仅是尖锐的内容，它们还直接侵犯了个人隐私和同意，”该需求背后的组织之一数字版权基金会的一位代表表示。 “他们创造了一个危险的先例，任何人的形象都可以在他们不知情或未经许可的情况下被武器化。”
需求要点
- 立即删除所有已识别的“Nudify”应用
- 针对具有内容生成功能的 AI 应用实施强化筛选流程
- 有关深度造假和合成媒体的更明确政策
- 改进针对未经同意的亲密图像受害者的报告机制
有争议的应用程序背后的技术
近年来，为这些应用提供支持的人工智能技术取得了显着进步。大多数“Nudify”应用程序采用两步过程：首先，人工智能识别并分割图像中人物的着装部分；其次，它根据从训练数据集中学习到的模式生成相应的裸体部分。
一些更复杂的应用程序结合了风格转换技术，使它们能够生成对主题来说更加个性化的图像。这引起了特别的关注，因为由此产生的内容可能更具说服力，并且可能对受害者造成更大的损害。
虽然其中许多应用程序在法规宽松的司法管辖区的服务器上运行，但其他应用程序直接在用户设备上处理数据，这使得跟踪和执行更具挑战性。
法律和道德影响
“Nudify”应用程序的激增在多个司法管辖区引发了复杂的法律问题。在许多国家，未经同意创建和传播亲密图像构成刑事犯罪，通常被称为“色情报复”法。然而，在许多地区，这些法律对人工智能生成内容的适用在法律上仍然不明确。
从道德角度来看，这些应用严重侵犯了个人自主权和同意权。潜在的危害不仅限于直接受害者，还包括对数字媒体信任和个人安全问题的更广泛的社会影响。
表：按地区划分的非共识 Deepfake 图像的法律地位
| 地区/管辖区 | 明确立法 | 处罚 | 人工智能生成内容的清晰度 |
|---|---|---|---|
| 美国 | 因州而异； 48 个州制定了色情报复法 | 罚款、监禁（最高几年） | 有限；新兴的法律框架 |
| 欧盟 | GDPR 和特定成员国法律 | 巨额罚款，潜在的刑事指控 | 正在开发；数字服务法案解决了一些问题 |
| 英国 | 2015 年严重犯罪法 | 最高2年监禁 | 明确包含人工智能生成的内容 |
| 澳大利亚 | 《犯罪立法修正案（亲密图像）法》 | 最高3年监禁 | 明确包含人工智能生成的内容 |
| 平台 | 显式 AI 内容政策 | 执行机制 | 近期值得注意的行动 |
|---|---|---|---|
| 苹果应用商店 | 禁止“促进创建未经同意的亲密图像”的应用 | 人工审核、自动扫描、用户报告 | 2023 年删除多个 AI 图像生成应用 |
| Google Play 商店 | 禁止“露骨或色情”内容 | 自动扫描、人工审核、用户报告 | 2023 年人工智能应用将加强审查 |
