微软 CEO 纳德拉：AI 更强，并不会自动变得更安全

　　微软 CEO 萨提亚·纳德拉在 20VC 播客中说，他改变了一个过去相信的判断：模型能力提升后，AI 与人类目标的对齐会自然出现。这里的「对齐」，指让 AI 的行为符合人类的价值与目标。

　　据《商业内幕》对访谈的报道，主持人 Harry Stebbings 问他，过去一年改变了什么看法。纳德拉回答，模型扩展和能力进步大体符合他的预期，但对齐仍是一项独立的挑战。

我过去总以为，对齐会自然而然地出现。我现在不再相信这一点。我认为，对齐可能是一个更难、也不同的问题。

　　纳德拉此前于 10 月 10 日提出，企业应把 AI 模型当作潜在的内部威胁，并假设模型可能已被攻陷。对企业部署而言，他给出的办法是在非确定性模型外建立确定性的系统设计、人类控制和可靠的操作流程；现有行业标准不足时，还需要制定新标准。