Google 对滥用 Gemini AI 进行金融诈骗的网络犯罪网络采取法律行动
在这一具有里程碑意义的案件中，谷歌对一个国际网络犯罪网络提起诉讼，该网络恶意利用其先进的 Gemini AI 技术来策划复杂的金融诈骗，该网络凸显了人工智能安全面临的日益严峻的挑战。该法律诉讼于 2026 年 6 月提起，是首批对人工智能犯罪活动承担直接法律责任的大型科技公司之一。
人工智能驱动的金融欺诈的出现
数字环境见证了网络犯罪策略的令人担忧的演变，犯罪分子越来越多地利用人工智能来执行更具说服力和可扩展的欺诈计划。 Google 的诉讼针对的是一个网络，该网络专门利用该公司的旗舰多模式人工智能模型 Gemini 来发起极具说服力的网络钓鱼活动、合成身份欺诈和投资诈骗，这些活动已影响了全球数千名受害者。
“此案代表了打击人工智能欺诈的关键时刻，”谷歌发言人在一份官方声明中表示。 “随着人工智能技术变得越来越强大，我们必须对那些利用这些工具伤害用户并破坏对数字平台信任的人保持警惕。”
了解Gemini AI技术
Gemini 是 Google 的先进人工智能系统，代表了多模式人工智能的重大飞跃。该技术能够处理和生成文本、图像、音频和视频，旨在帮助跨各种专业和个人应用程序执行创造性任务、数据分析和复杂问题解决。
| Gemini AI 功能 |
| 文本处理 |
高级语言理解、生成和翻译 |
| 视觉分析 |
图像识别、描述和操作 |
| 音频处理 |
语音合成、分析和音频编辑 |
| 代码生成 |
编程协助和软件开发 |
网络犯罪网络的运营
根据 Google 提交的法庭文件，该网络犯罪网络在至少 15 个国家/地区运营，其主要运营基地位于东欧和东南亚。据称，该组织开发了一种复杂的基础设施，允许成员通过未经授权的 API 和第三方集成来访问和操纵 Gemini 的功能。
据报道，该网络专门创建“深度伪造”财务顾问和客户服务代表，他们可以通过各种沟通渠道与潜在受害者进行令人信服的互动。这些人工智能生成的角色用于在将受害者引导至欺诈性投资机会或网络钓鱼网站之前建立信任。
滥用方法
调查揭示了网络犯罪网络使用的几种具体技术：
- 人工智能生成的网络钓鱼活动：创建高度个性化的网络钓鱼电子邮件和消息，以前所未有的准确性模仿合法金融机构
- 合成身份欺诈：生成令人信服的虚假身份，并配有真实的个人资料照片、传记信息和文档
- 自动化社会工程：部署可以根据受害者响应调整对话策略的聊天机器人
- 伪造财务文件：创建真实的虚假银行对账单、投资组合和税务文件
- 语音克隆诈骗：利用 Gemini 的语音合成功能在电话中冒充高管和财务顾问
Google 的法律回应
这起诉讼在加利福尼亚州北区提起，寻求禁令救济和巨额赔偿。 Google 正在请求法院下令永久关闭网络犯罪网络的运营并扣押其资产，包括服务器、域名和用于洗钱诈骗收益的加密货币钱包。
“我们在安全措施上投入了大量资金，以防止我们的技术被滥用，”Google 首席法务官在一份声明中表示。 “但是，当老练的行为者找到规避这些保护的方法时，我们会毫不犹豫地使用我们掌握的所有法律工具来保护我们的用户和我们平台的完整性。”
法律行动还包括与国际执法机构合作的条款，以查明并起诉该网络的个人成员。据报道，谷歌已与多个国家的当局分享在调查过程中收集的技术情报。
技术对策
除了采取法律行动外，Google 还实施了几项新的安全措施，专门用于防止类似的 Gemini 滥用行为：
TechOffice
