OpenAI 重构模型规范,将「忠于人类意图」列为首项准则

2026-11-16 科技 阅读

                  近日,OpenAI 更新 Model Spec,以五项价值重新组织模型行为原则:忠于人类意图、减少伤害、诚实透明、保障人的自主选择,以及审慎关怀。规范面向驱动 ChatGPT 和 API 等产品的 GPT 模型,公开说明公司希望如何塑造模型行为。   新版把用户和开发者想完成什么放在核心位置,同时保留指令层级与安全边界。对于...

Image

  近日,OpenAI 更新 Model Spec,以五项价值重新组织模型行为原则:忠于人类意图、减少伤害、诚实透明、保障人的自主选择,以及审慎关怀。规范面向驱动 ChatGPT 和 API 等产品的 GPT 模型,公开说明公司希望如何塑造模型行为。

  新版把用户和开发者想完成什么放在核心位置,同时保留指令层级与安全边界。对于目标尚不明确的任务,模型应结合上下文理解意图;对事实、证据、不确定性、能力和实际采取的行动,则应如实说明,让人能够评估其工作。

  规范还专门讨论了即时指令与长期目标之间的张力:模型可以提示被忽略的后果、帮助用户思考,但不能把自己预测用户将来会作出的选择,视为用户已经作出的决定。OpenAI 表示,线上模型尚未完全达到规范要求,公司将继续调整训练与系统。

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯 返回顶部
返回顶部