快科技2月15日报道，谷歌近日公开透露，其旗舰AI模型Gemini遭受了大规模营销驱动的蒸馏攻击（重复提问促使聊天机器人泄露其内部机制）。据谷歌称，攻击者系统地、重复地向模型发送精心设计的关键字（单次攻击超过 10 万次），对 Gemini 的内部推理逻辑和决策机制进行逆向工程，以实现模型复制或为自己的 AI 系统提供动力。这些攻击主要是由“商业攻击者”发起的。谷歌已经确定，他们的背后主要是寻求获得竞争优势的私人人工智能公司或研究机构。公司发言人表示，袭击源自世界多个地区，但没有提供进一步信息。蒸馏攻击（也称为知识蒸馏）最初是重新被移植为一种模型压缩技术，通过将知识从大规模“教师模型”转移到小规模“学生模型”来减少模型的权重。攻击者通过大量系统化、结构化的问题收集模型在各种场景下的响应，分析响应的内容、延迟、置信度等细微差别，构建Gemini决策边界和推理路径图，最后利用收集到的响应数据训练自己的“学生模型”，复制Gemini的核心功能。谷歌表示，此类蒸馏攻击构成知识产权盗窃。尽管主要制造商已经实施了识别和阻止蒸馏攻击的机制，但传统的大型模型服务本质上仍然容易受到攻击，因为它们可供所有人使用。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易”用户上传发布账户”。本平台仅提供信息存储服务。
请注意：以上内容（包括图片和视频，如有）为社交媒体平台，仅提供信息存储服务。由网易好用户上传发布。
