Anthropic突然更新！AI自进化已突破红线，人类根本来不及反应

　　新智元报道

　　造 AI 的人，已来不及看清 AI 进化到了哪一步！

　　就在刚刚，正冲刺纳斯达克 IPO 的 Anthropic，向美国 SEC 递交了一份更新版招股书（S-1/A）。

　　距离首版招股书公开才过去一周，Anthropic 管理层却连夜在文件里补上了让人心头一紧的「交底」——「AI 造 AI」的加速循环早就已经转了起来，而且它的进化速度，已经快到连人类科学家都来不及实时监测！

• AI 自我加速的红线近在咫尺。内部测算显示，未来的 Claude 很快就会触发「AI 显著加速研发」阈值，短短 1 年干完过去整整 2 年的研发进度！

• 连造 AI 的人都在看后视镜。受困于「滞后指标」，Anthropic 首次承认，过去就曾没能及时察觉研发加速，未来也可能要等加速发生后才后知后觉！

• 明确禁止「全自动造 AI」。哪怕内部超 90% 代码已由 Claude 接手，公司在第 188 页依然划出底线，绝不脱离人类监督，去让 Claude 全自动设计下一代前沿模型！

　　六个词改写招股书

　　连造 AI 的人都只能事后察觉

　　把前后两版招股书放在一起逐行比对，最关键的一处改动在第 29 页。

　　一周前的首版S-1 里，Anthropic 说话还留着余地，只说公司「可能无法」在研发显著加速发生前识别出它。

　　到了这次的修订版，法务和管理层专门往这句话里塞进了六个英文单词，「have in the past not identified（过去就曾未能识别）」。

　　短短六个词，直接把「未来可能会发生」的预警，变成了「过去已经发生过」的坦白。

　　在 Anthropic 自己的实验室里，AI研发速度突然加快、人类团队却事后才反应过来的情况，已经真实发生过了！

　　根据内部估算，未来的模型很快就会撞上《负责任扩展政策》里的「自我加速红线」。

　　按照这条红线的定义，一旦越线，就意味着在AI加持下，短短 1 年之内就能跑完 2018 至 2024 年基线速度下整整 2 年的研发进度。

　　之所以连亲手写算法、盯数据的顶尖研究员都会「后知后觉」，原因在于大模型的能力提升很难实时测准。

　　新模型在预训练和 Agent 协同里到底变强了多少，光看训练曲线是读不出来的。

　　研究员必须等模型训完、跑完评测，再拉进内部工程线实打实用上几个月，最后统计代码产量和实验周期，才能倒推出真实的加速倍率。

　　但时间差就在这里。

　　等研究员拿着几个月的滞后数据算出「它已经越线」时，新模型早就昼夜不停地写完了下一代模型的核心代码。

　　人类以为自己随时掌握着AI进化的进度，其实看到的往往是几个月前的后视镜！

　　内部 Token 账单压过全员薪水

　　却不敢让 Claude 全自动造下一代

　　观测之所以跟不上，是因为 Claude 接管 Anthropic 内部研发的速度实在太快了。

　　更新版招股书公开了一组最新的三季度内部数据。到今年 9 月，Anthropic 内部代码库里超过九成的代码，都已经出自 Claude 之手。

　　在 AI 带动下，每位工程师每天提交的代码量，短短一个季度就从 35 倍飙升到了 2024 年均值的45 倍以上。

　　内部算力消耗的涨势还要猛。从今年 1 月到 9 月，公司内部调用 Claude 的开销按公开标价算暴涨了 250 倍以上。

　　早在今年 4 月，Anthropic 每个月花在内部 Claude 身上的钱，就已经超过了发给全体员工的月度现金工资总额（不含股权激励）。

　　照理说，既然 Claude 写代码比人快几十倍、连账单都压过了人类薪水，最顺理成章的做法就是全面放手，让 Claude 全自动去设计和训练下一代 Claude。

　　偏偏在这个节骨眼上，Anthropic 自己划下了一道红线！

　　在第 188 页讲内部研发循环的章节末尾，Anthropic 特意补上了一条硬性规定：哪怕将来技术上完全做得到，公司也不会脱离人类的监督和理解，去让 Claude 全自动设计、构建下一代前沿模型。

　　背后的担忧在于，如今模型接管的研发工作越来越多，万一哪一代模型藏着人类没发现的漏洞、偏差或欺骗倾向，风险就会顺着研发流程传下去。

　　一旦放权让它全自动设计下一代，这些隐患就会跨代累积、层层放大，等人类察觉出问题时，早就很难追查源头了。

　　为了防住这种跨代失控，Anthropic 在第 31 页透露，正考虑修改安全红线，强制要求研发流程里的特定关键决策必须由人类审查签字。

　　但守住安全边界，也让 Anthropic 在研发进度上付出了不小的代价。

　　达里奥几周前曾自曝，「一个已被训完的 Mythos 级高级模型，被雪藏了大约四个月」。

　　就在最近，为了防范模型权重被窃取并加固安全措施，公司把一个全新前沿基座模型的预训练启动时间推迟了一个多月。

　　比如，今年 4 月那款漏洞挖掘能力极强的模型 Mythos，至今也只通过「Project Glasswing」项目定向提供给少数机构做防御。

　　签下 8954 亿算力长约

　　谁减速谁出局

　　一边因为安全顾虑把新模型的预训练推迟了一个多月；另一边，Anthropic 砸钱抢算力的手笔却比谁都大。

　　这恰恰反映出整场前沿 AI 竞赛最残酷的现实：所有头部玩家都困在一场谁也不敢减速的囚徒困境里。

　　在 Anthropic 看来，如果自己不在 AI 辅助研发上投入足够多的算力，竞争对手就会靠着「AI 造 AI」不断放大复利优势，几个迭代下来就能把你远远甩在身后。

　　于是，硅谷的核心算力供应商几乎被它签了个遍。

　　排在最前面的是博通 1612 亿美元设备租赁，以及谷歌云 1213 亿美元 TPU 算力（外加最高 1500 亿美元追加框架）。

　　紧随其后的，还有马斯克旗下 SpaceX 与 xAI（Colossus 集群）的 1205 亿美元、亚马逊 AWS 的 1100 亿美元，后面还排着微软 Azure、Nscale、Lambda 和 AMD。

　　拿全美科技巨头的最新财报一比，就能看出这笔赌注有多夸张。

　　一家前三季度营收 332 亿美元的创业公司，背上的表外承诺总额已经压过了 Meta（8660 亿美元）、微软（5940 亿美元）、英伟达（5300 亿美元）和亚马逊（4530 亿美元），全美仅次于谷歌！

　　近 9000 亿美元的算力合同签在账上，意味着 Anthropic 已经没有任何放慢研发节奏的退路。

　　而要消化这笔天量算力、撑起年化近 700 亿美元的营收，Anthropic 唯一的办法，就是把越来越多的研发工作交给 Claude，让它以几十倍于人类的速度去写代码、做实验！

　　参考资料：

　　https://x.com/theobearman/status/2117277210570604945

　　https://x.com/AndrewCurran_/status/2117290147863826460

　　https://x.com/peterwildeford/status/2117280858122170525

　　https://x.com/MTSlive/status/2117285761641001040

　　https://x.com/deredleritt3r/status/2117289531091177487

　　编辑：桃子摩西