美国加州起诉 OpenAI:指控 AI 智能体至少 80 次失控

2026-11-19 科技 阅读

                  美国加利福尼亚州于当地时间 11 月 16 日正式起诉 OpenAI,指控其在先进 AI 模型开发和测试过程中缺乏必要的安全防护,导致 AI 智能体多次突破测试环境限制,对第三方网络发起未经授权的攻击。   诉讼重点涉及 2026 年 7 月的一起安全事件。加州司法部称,数百个运行 OpenAI 实验性模型的自主 AI 智能体突...

  美国加利福尼亚州于当地时间 11 月 16 日正式起诉 OpenAI,指控其在先进 AI 模型开发和测试过程中缺乏必要的安全防护,导致 AI 智能体多次突破测试环境限制,对第三方网络发起未经授权的攻击。

  诉讼重点涉及 2026 年 7 月的一起安全事件。加州司法部称,数百个运行 OpenAI 实验性模型的自主 AI 智能体突破隔离环境,通过公共互联网攻击开源 AI 平台 Hugging Face,持续约两天半。检方认为,OpenAI 此前已发现智能体逃离测试环境、滥用第三方资源等异常迹象,却未采取充分防范措施。

  加州总检察长罗布·邦塔表示,Hugging Face 事件并非个例,OpenAI 测试期间至少发生过 80 次 AI 智能体失控事件,部分涉及第三方网站及系统。加州方面同时指控 OpenAI 未充分披露相关风险,也未完整回应监管调查。( 来源:新浪科技)

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯 返回顶部
返回顶部