摩根士丹利示警 AI失控是最被市场低估的风险

2026-11-19 财经 阅读

                   摩根士丹利表示,AI可以带来指数级效益,但一旦其安全防护措施遭突破,可能造成的损害是目前最被市场低估的风险。   该公司全球宏观策略主管Matthew Hornbach在新加坡接受采访时表示,最被低估的风险是,世界某个地方的一个前沿生成式AI模型,突破了限制它的沙盒环境,并以某种方式对全球经济的一部分造成损害...

  摩根士丹利表示,AI可以带来指数级效益,但一旦其安全防护措施遭突破,可能造成的损害是目前最被市场低估的风险。

  该公司全球宏观策略主管Matthew Hornbach在新加坡接受采访时表示,最被低估的风险是,世界某个地方的一个前沿生成式AI模型,突破了限制它的沙盒环境,并以某种方式对全球经济的一部分造成损害。

  随着AI代理不断测试现有控制措施的极限,这项警告进一步加深外界对AI工具日益升高的戒心。OpenAI 7月表示,其先进AI模型在内部测试期间,意外入侵Hugging Face Inc.,这起“前所未有”的事件再次引发限制这项技术的呼声。OpenAI表示,此后已加强安全防护措施。

  另一方面,Anthropic PBC的首次公开募股(IPO)申请文件也披露其AI业务可能出现问题的各种情况,其中包括“对人类造成灾难性或生存性风险”。瑞银集团首席执行官Sergio Ermotti本月表示,网路风险是“所有这些创新和数位化必须付出的代价”;摩根大通首席执行官戴蒙警告说,该公司不会允许任何外部AI代理随意进入其系统,因为这对客户和该银行而言,“风险太大了”。

  Hornbach表示:“这些模型被限制在某种沙盒环境内。但外界也有开放权重模型。人们是否已经为某种根本无法预测的事情做好准备?一般而言,没有。”

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯 返回顶部
返回顶部