《柳叶刀》警告 ：AI比核武器更可能毁灭人类

　　文 | 字母 AI

　　你知道吗，哪怕是和流行病、气候、战争、核威胁相比，2100 年前最有可能毁灭人类的东西竟然是 AI——这个惊人的论断，来自于《柳叶刀》的权威报告。

　　《柳叶刀》在 10 月 11 日发布的《21 世纪全球健康威胁》委员会报告中写到，包括气候变化、流行病、污染在内的 17 种威胁里，核冲突和人工智能的恶意使用排在首位，可能在 2100 年前导致人类灭绝。

　　这份报告共由 35 位顶级专家撰写，整个研究覆盖全球 204 个国家和地区，并且报告还提醒，这些威胁可能相互作用、彼此放大。

　　报告最令人胆寒的部分在于，即使 AI 和核冲突都是毁灭人类的头号难题，但 AI 造成的破坏，要远远超过核冲突。

　　如果 AI 末日这话是阿莫迪说的，我可能就当个乐子听，毕竟相同的话术已经有太多了，我听得耳朵都快起茧了。

　　但是这回是《柳叶刀》说的，我是真有点怕了。

　　《柳叶刀》是怎么说的？

　　《柳叶刀》这份报告牵头的是华盛顿大学的健康指标与评估研究所（IHME）。他们把未来 75 年可能影响人类健康的威胁，按严重程度摆成了一座“威胁金字塔”，最顶端是一个单独的类别：

　　有可能在 2100 年前导致人类灭绝的威胁。

　　这个类别里只有两件事，一个是核冲突引发的“核饥荒”，另一个是人工智能的恶意使用。

　　哪怕是行星撞地球和超级火山喷发，都没有进入金字塔的塔尖，原因是委员会认为它们在未来 75 年发生的概率“极低”。

　　但这并不意味着“AI 一定会灭绝人类”。

　　报告原文写到，这两类风险“发生的可能性仍然很低”，只是一旦发生，后果是整个人类层面的。

　　报告里有一个单位，叫做 DALYs，它代表着“伤残调整生命年”，简单说就是一个人因为生病、残疾或者早逝，一共损失了多少个健康生活的年份。

　　委员会用它来衡量每一种威胁，最终到 2100 年能造成多少“健康寿命的损失”。

　　恶意使用 AI 到 2100 年可能造成约 104 亿 DALYs 的损失，其体量和肥胖大致在同一个量级。而核冲突，会造成大约 1.33 亿人死亡，以及约 93.5 亿 DALYs 的损失。

　　《柳叶刀》认为，AI 比核武器还危险。委员会特意强调，这么设计是为了衡量“可采取行动的杠杆”，而不是渲染最悲惨的结局。

　　那么，AI 到底是如何“灭绝”我们的呢？是《终结者》里的天网？还是《流浪地球》里的 MOSS？

　　都不是。《柳叶刀》认为，AI 毁灭人类的路径只有一条，即生物武器。

　　有人恶意利用 AI，去设计或改造能造成大规模伤亡的病原体或毒素。

　　《柳叶刀》的论据是，AI 正在拉低做危险事情所需要的门槛。

　　过去，改造一种病毒，需要顶尖实验室、昂贵设备，以及研究者多年积累的“手感”和隐性知识。大模型能做的，恰恰是帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做。

　　2026 年 9 月 10 日，Anthropic 发布了一份威胁情报报告，里面披露了他们在 2025 年 12 月到 2026 年 8 月之间拦截的几类滥用，其中有 5 起案例，是用户以“可能支持生物武器研发”的方式使用 Claude：

　　· 有人在今年 5 月让 Claude 帮忙撰写一份基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统。

　　· 有人用它规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主。

　　· 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力。

　　· 有人在做药物研发项目时整理毒液毒素的图谱。

　　· 还有科研人员用 Claude 帮忙对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白，而且在写进展报告时，刻意用了含糊的词来指代这些毒素。

　　因此，滥用 AI，一定会对整个人类族群造成不小的伤害。

　　AI 末日论已划分成了两个阵营

　　事实上，在《柳叶刀》这份报告出来之前，AI 末日论每个月都会有，就比如 9 月，各行各业都在辩驳 AI 是否会带来末日。

　　9 月 8 日，前 Anthropic 研究员雅各布·考克森（Jacob Coxon）宣布辞职，并公开说 OpenAI 和 Anthropic 都在“拿人类生命下注”，AI“可能在本十年结束前杀死我们所有人”。这条帖子在很短的时间内获得了过亿浏览。

　　第二天，Anthropic 对齐科学负责人埃文·胡宾格（Evan Hubinger）发文表示：“我们确实认真地相信 AI 可能杀死所有人，我个人认为未来十年内的概率超过 10%。”

　　AI 教父辛顿随后也表示，10% 这个数字“不算离谱”。

　　三天后，阿莫迪抛出一个更具体的说法。他认为在 6 到 12 个月内，一群 Agent 有可能接管整个互联网，造成数千亿美元的损失。

　　奥特曼和马斯克这两个死对头站在了同一条战线，支持“放慢 AI 发展的节奏”。

　　正方火力虽然很猛，可反方实力也不弱。

　　黄仁勋在采访中提到，2030 年前 AI 毁灭世界的概率是0%。他认为埃文提到的“10% 概率 AI 杀死所有人”是没有科学依据的，并且这是一个“不负责任”的直觉。

　　“无法安全控制的 AI 就不该发布。”黄仁勋说到。

　　AI Now 研究所的首席科学家海迪·克拉夫（Heidy Khlaaf）认为，不管是 10% 也好 20% 也好，“既不可证伪，也无法验证，因此从本质上就不科学”。

　　认知科学家盖瑞·马库斯（Gary Marcus）表示，“Agent 接管互联网”的说法非常地“荒谬”。

　　他的理由是，互联网的大部分底层设施掌握在 Cloudflare、谷歌和亚马逊 AWS 这样的大公司手里，没有政府力量介入，很难设想它们被长时间攻破或控制。

　　他还引用了英国 AI 安全研究所的评估报告，Anthropic 最强的 Mythos 模型，到头也只能自主攻破“小型、防护薄弱”的系统。只要对方稍微完善一下网络安全防护，Mythos 就毫无办法。

　　放在一起看，你会发现这场争论有一个非常有意思的地方：

　　正方说的是“后果”，反方说的是“证据”。

　　一边强调，只要概率不为零，后果就是无法承受的；另一边强调，你连这个概率是怎么算出来的都说不清楚，凭什么让全世界跟着紧张？

　　此外，阿莫迪、奥特曼虽然主张放慢节奏，但媒体指责他们是在用安全之名给自己筑护城河，让后来的竞争者进不来。

　　学界则比较支持正方。

　　比如论文《AI 如何消灭人类？文明风险的失效模式分析》（arXiv:2610.08878）中就提到，灾难性的 AI 风险，并不需要 AI 有意识、有敌意，或者有明确的伤害意图。

　　风险可以通过几条相互交织的路径出现：自主失准、人类的恶意使用、组织失败，以及竞争性部署。作者还特意说明，论文是“非操作性”的，只分析成因，不提供作恶的方法。

　　不过到目前为止，这场争论里没有哪个人真正“赢”了。