“我无法停止哭泣”：安大略省妇女在观看 AI Deepfake 视频后损失了 83,000 美元
在一个令人震惊的案件中，人工智能驱动的欺诈行为日益复杂，据报道，一名安大略省妇女在被人工智能生成的深度伪造视频欺骗后损失了 83,000 美元。该事件凸显了深度造假技术在网络犯罪中所构成的新威胁，并在合成媒体日益现实的时代提出了有关数字安全的紧迫问题。
事件：受害者的故事
这位不愿透露姓名的安大略省受害者向调查人员分享了她的创伤经历，并表示在意识到自己被骗后，她“无法停止哭泣”。一名自称代表一家知名金融机构的人联系了这位 58 岁的女性，该人根据令人信服的视频证据说服她转移资金，这些视频证据似乎显示银行官员授权了交易。
据安大略省警方 (OPP) 称，诈骗者利用 AI Deepfake 技术制作了银行员工和高管指导受害者将资金转移到“安全”账户的逼真视频。据报道，这些视频非常令人信服，以至于受害者直到为时已晚才怀疑有谋杀行为。
Deepfake 骗局是如何展开的
该骗局遵循人工智能辅助欺诈中日益常见的模式：
- 通过看似合法的渠道进行初步联系
- 通过看似真实的沟通建立信任
- 推出具有可识别人物的深度伪造视频
- 紧急资金转账请求
- 将受害者与可能引起担忧的家人和朋友隔离
“深度造假视频非常真实，”OPP 经济犯罪部门的警长丽莎·约翰逊 (Lisa Johnson) 说道。 “它们包括适当的灯光、真实的声音，甚至微妙的面部表情，使受害者几乎无法将它们与真实的录音区分开来。”
Deepfake 诈骗背后的技术
Deepfake 技术是“深度学习”和“伪造”的合成词，它使用人工神经网络来创建或操纵高度真实的视觉和音频内容。在这种情况下，诈骗者可能会采用：
- 利用生成对抗网络 (GAN) 创建逼真的面部动作
- 模仿特定个人语音模式的语音合成技术
- 无缝集成深度伪造内容的视频编辑技术
下表说明了 Deepfake 技术的演变及其日益增长的可访问性：
| 年 |
技术水平 |
辅助功能 |
检测难度 |
| 2017 |
基本面部交换 |
仅限专家级 |
中等 |
| 2019 |
改善面部运动 |
需要技术技能 |
高 |
| 2021 |
实时深度伪造 |
可用的消费者应用程序 |
非常高 |
| 2023 |
具有情境意识的超现实 |
可广泛使用的工具 |
极高 |
人工智能诈骗的威胁日益增长
安全专家警告说，安大略省的案件只是人工智能驱动的欺诈行为的冰山一角。网络安全公司 McAfee 报告称，去年基于深度伪造的诈骗增加了 135%，全球经济损失超过 20 亿美元。
“Deepfake 技术使高级欺诈变得民主化，”多伦多大学人工智能伦理研究员 Sarah Chen 博士说。 “曾经需要大量资源和技术专业知识的任务现在可以通过现成的软件和对计算能力的适度投资来完成。”
金融业受到的打击尤其严重，犯罪分子利用深度伪造技术来：
- 冒充高管进行欺诈性电汇
- 创建虚假的客户服务代表
- 制作欺诈性培训材料来欺骗员工
- 为投资诈骗生成合成媒体
案例比较：最近备受瞩目的 Deepfake 诈骗
| 案例 |
方法 |
损失 |
年 |
| 安大略省女性 |
银行官方深度伪造 |
83,000 加元 |
2023 |
| 英国能源公司 |
CEO声音深度伪造 |
243,000 美元 |
2020 |
| 香港金融公司 |
视频会议深度伪造 |
3500 万美元 |
2022 |
| 美国投资公司 |
多个高管深度伪造 |
1100 万美元 |
2023 |
针对 Deepfake 诈骗的保护措施
随着 Deepfake 技术变得越来越普遍，安全专家推荐了几种保护措施：
对于个人：
- 验证协议：始终通过多种渠道验证财务转账请求，最好亲自验证或通过已知的联系信息验证。
- 数字素养：了解深度造假技术并学会识别合成媒体的潜在迹象。
- 隐私设置：在线分享可用于制作 Deepfake 的个人图像和视频时请务必谨慎。
- 怀疑：高度怀疑地对待任何紧急或不寻常的请求，尤其是那些涉及金钱的请求。
对于组织：
- 多重身份验证：为金融交易实施额外的验证步骤。
- 员工培训：关于识别深度造假尝试和社会工程策略的定期培训。
- 人工智能检测工具：部署旨在识别深度伪造内容的系统。
- 通信协议：建立安全通道来验证敏感请求。
监管环境
加拿大和国际当局正在争先恐后地应对深度造假威胁。加拿大政府最近提议对《刑法》进行修订，专门解决深度造假欺诈问题，对于出于欺诈目的制造或传播深度造假的行为，最高可判处 10 年监禁。
“法律正在追赶技术，”渥太华大学法律专家迈克尔·理查兹解释道。 “我们需要平衡深度造假技术的合法使用（例如在娱乐和教育领域）与防止恶意应用程序的需要。”
在美国，联邦贸易委员会已发布有关深度造假诈骗的警告，而欧盟正在考虑制定法规，要求对人工智能生成的内容进行清晰的标记。
未来展望
随着 Deepfake 技术的不断发展，专家预测将会出现更复杂的骗局和改进的检测方法。深度造假者和检测系统之间的猫鼠游戏预计将加剧。
网络安全研究员詹姆斯·威尔逊 (James Wilson) 博士表示：“如果没有专门的检测工具，深度伪造品可能会与现实无法区分。” “这需要一种结合技术、教育和监管措施的多层安全方法。”
金融行业正在大力投资深度造假检测系统，一些银行实施人工智能驱动的验证，可以分析微表情和其他可能揭示合成媒体的微妙线索。
结论
这位安大略省妇女的经历清楚地提醒我们，随着技术的进步，犯罪分子的手段也在不断进步。虽然 Deepfake 技术在娱乐、教育和创意领域提供了令人兴奋的可能性，但其恶意应用程序对个人和组织都构成了重大威胁。
“这不仅仅是一个技术问题——这是一个人类问题，”OPP 侦探中士约翰逊说。 “我们需要将技术解决方案与教育和意识结合起来，以保护人们免受这些日益复杂的骗局的侵害。”
随着 Deepfake 技术的不断发展，安大略省妇女的案件可能代表了网络犯罪新时代的开始——现实与捏造之间的界限变得越来越模糊，警惕和验证变得比以往任何时候都更加重要。
“我无法停止哭泣”：安大略省妇女在观看 AI Deepfake 视频后损失了 83,000 美元阅读全文 #AI #Deepfake #Cybersecurity
“我无法停止哭泣”：安大略妇女在观看 AI Deepfake 视频后损失了 83,000 美元阅读全文 #AI #Deepfake #Cybersecurity
TechOffice
