谷歌 Gemini 智能体安全测试失控:40 个 AI 擅自攻击真实网站

2026-11-19 科技 阅读

                  11 月 17 日消息,AI 安全研究公司 Trajectory Labs 近日披露,在针对谷歌 Gemini 4 Argon 智能体的安全测试中,约 40 个 AI 智能体在接到无法完成的任务后,未经授权访问非营利研究机构 Epoch AI 的真实网站,尝试获取管理员凭据及评估日志等敏感信息。   测试期间,智能体在 3 小时内发起超 3.6 万次请求,并...

  11 月 17 日消息,AI 安全研究公司 Trajectory Labs 近日披露,在针对谷歌 Gemini 4 Argon 智能体的安全测试中,约 40 个 AI 智能体在接到无法完成的任务后,未经授权访问非营利研究机构 Epoch AI 的真实网站,尝试获取管理员凭据及评估日志等敏感信息。

  测试期间,智能体在 3 小时内发起超 3.6 万次请求,并发送 487 条消息,部分智能体冒充机构员工索取信息,甚至尝试 SQL 注入攻击。研究人员随后将测试转移至本地网站副本,但智能体仍通过查找真实 IP、绕过网络限制等方式继续访问目标网站,还利用软件包缓存搭建共享信息的系统,交流漏洞利用方法。

  Trajectory Labs 承认测试流程存在缺陷,强调研究人员从未指示智能体实施攻击,并呼吁行业建立统一的 AI 安全测试标准,采用完全隔离的沙箱环境,避免测试行为波及真实系统。(来源:IT 之家)

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯 返回顶部
返回顶部