Anthropic CEO又发长文：1-2年内迎来高阶AI，影响力堪比核武器

就在今天，

发布了一篇题为《论AI的指数级发展及其政策应对》的长文，信息量极为密集。他直言不讳地提出一个核心判断：AI重塑全球格局的影响力，几年内就会达到核武器曾有的高度。同时，他还系统性地剖析了AI指数化发展的现状，并呼吁全球必须立刻采取联合行动。

Amodei在文中抛出的核心逻辑是：Scaling laws 预言，只要算力持续增长，AI的通用认知能力就会指数级提升。如果这个趋势再延续一两年，我们可能就会迎来他所说的

—— 一个“汇聚万千天才于一座数据中心”的形态。这可不是闹着玩的。

不过，硬币总有两面。AI带来的安全风险同样指数级增长。面对现实困境，Amodei透露，包括Anthropic在内的安全倡导者们，目前主要推动的是：相关信息公开立法、芯片出口管制，以及统计AI对就业市场影响的数据等基础性工作。

他进一步指出，由Mythos级模型引发的网络安全风险，仅仅是个开始。未来，AI可能被用于研发威胁数百万生命的生物武器。到那时，顶尖AI威胁的就不再只是公共安全，而是全人类的存续。这已经不是一个技术问题，而是一个生存问题。

针对这些风险，他给出的建议很具体：前沿AI模型的企业必须建立完善的安全规范以保护模型权重，同时

，并配合政府一起抵御高级别的网络威胁。这不是可选项，而是必选项。

当然，巨大的风险背后，也隐藏着巨大的经济机遇。Amodei认为，一旦AI在绝大多数脑力工作上全面超越人类，它就能加速科研、技术迭代与运营提效，从而让经济迎来高速增长。而AI自主迭代、打造更强AI的闭环能力，还会进一步放大这种增长动能。

但有好处，就有代价。相较于历次技术变革，AI对人类脑力劳动的替代范围更广、迭代速度更快。因此Amodei推断，AI对就业市场的冲击，会远超以往任何一次技术革命，其影响也更持久。这不再是“机器抢走工人岗位”的故事，而是“AI抢走白领饭碗”的现实挑战。

除此之外，文章还提到了一个非常接地气的问题：数据中心可能推高能源价格。Amodei的观点是，AI企业应当主动承担这部分电价上涨带来的成本，而且Anthropic已经就此作出了公开承诺。这算是一个积极的信号。

在这篇文章发布的同时，Anthropic还同步推出了两个资金方案：

（约合软妹币13.6亿元）用于研究框架，（约合软妹币10.2亿元）用于设立奖学金。真金白银的投入，说明问题确实已经到了需要付诸行动的时刻。

为了方便理解，整篇文章的核心要点可以浓缩为以下8个判断：

Amodei用《指环王》里霍比特人和Treebeard（树须）做比喻，形象地指出当前最大的风险不是没有监管，而是监管永远慢半拍，像树须说话一样慢。

AI早已不再是普通的技术问题，它已经演变成具有地缘整治影响力的战略资源，其地位堪比核武。

以前风险不清晰，不宜过早制定硬性规则；现在风险已经显现，AI治理必须从“企业自律”转向“政府强监管”。

Amodei提出了一个监管升级路线：从更严格的许可制度，到更高级别的国家监管，再到国际协调控制。当AI足够强大时，其治理逻辑将更接近核武器，而不是互联网产品。

AI能让个人创办起市值数十亿美元的企业。文中提到，目前已经出现了仅靠数人团队、依托AI实现年收入数亿美元的真实案例。这预示着创业门槛将被大幅拉低。

这个挑战不是经济增长不足，而是分配失衡。当AI创造出海量财富时，如何公平地分配它，将成为一个首要的整治经济难题。

现行的药审体系基于“候选药物大概率无效”的保守预设。如果不进行改革，AI带来的医疗创新浪潮将导致审批机制严重拥堵或超负荷，大量有效的新药会被堵在路上。

Amodei完全不认同这种说法。他认为，民众产生担忧，恰恰是因为他们真切地察觉到了AI风险的真实性，这和AI企业高管的态度是否乐观没有关系。公众的焦虑是理性的，不是情绪化的。

以下是这篇长文的编译内容：

一、现有监管举措明显滞后，前沿模型暴露多重安全威胁

在《指环王》里有个小故事，两个霍比特人试图唤醒Treebeard，让他保卫森林。Treebeard睿智但行动极其缓慢，他光是和另一棵树打声招呼就要花一整天。要让他和他的同伴们迅速行动，几乎不可能。

AI的发展速度极快。仅仅四年时间，它就从一个几乎写不出连贯代码的家伙，发展到能为主流AI公司撰写大部分代码。生物学、物理学、数学、金融、法律、翻译……几乎在每个领域，AI都取得了类似的进展。

Scaling laws 告诉我们，只要算力不断增长，AI的通用认知能力就会呈指数级提升。这个规律背后有十余年的数据支撑。如果这个趋势再延续一两年，我们可能就会迎来所谓的

，也就是“一座数据中心里汇聚了万千天才”的形态。

与之相对，

。这当然事出有因，政府手握巨大权力，审慎行事通常是明智的。但问题在于，两者的节奏严重脱节。美国国会走完一个立法流程，往往需要数年时间。而在这几年里，AI可能就从新奇的娱乐工具，演变成真正意义上“汇聚万千天才”的强大系统。

自AI成为主流商用技术以来，主张合规治理的人就一直陷入两难境地。我们能看到指数化发展的走向，也高度确信，几年之内，AI就将成为少数几个能彻底重塑全球政策环境的技术之一。

，或者像工业革命碘伏所有经济和社会议题。

但问题是，在最开始的时候，AI展现出的能力，不过是一项平平无奇的技术，和当时热门的消费应用、加密货币差不多。要说服大多数政策制定者和企业放弃自由放任的思路，难度堪比登天。即便大家有意出台监管政策，也很难精准有效。

面对现实困境，包括Anthropic在内的倡导者们，目前主要在推动一些基础性、铺垫性的工作：保留政策调整空间，为未来快速反应铺路，同时帮助全球各界提前洞察趋势。具体包括

。这些举措远远不够，但却是现阶段唯一能做的事情。

然而，过去几个月，AI超强的能力与潜在风险已经不容辩驳。最具代表性的案例就是Claude Mythos Preview。这类前沿大模型暴露出了切实的网络安全风险，有可能扰乱金融体系、关键基础设施乃至国家安全。Mythos Preview 改变了全球网络安全格局，它的深层意义在于，它无可辩驳地证明，如今的AI模型已经成为了具备全球与国家战略影响力的工具。由Mythos引发的网络安全风险，绝不会是最后一类威胁。

可以预见的是，

。现在需要的是全球各国联合行动，启动这套运转迟缓的政策机器，去应对即将加速蔓延的机遇与风险。虽然政策制定者们更愿意行动了，同行们也认同了我们多年来的主张，但当下出台的这些初步举措，相比AI的飞速发展，至少滞后了一年。这篇文章的目的，就是为了弥补这个差距。

文章将围绕监管与公共安全、宏观经济与税收政策、科技创新三个领域展开。由于Anthropic是一家美国企业，文章主要以美国政策为探讨对象，但大部分建议同样适用于世界其他地区。

伴随文章的发布，Anthropic同步推出了一份针对前沿模型测试的立法提案和一套应对岗位流失问题的政策框架。2亿美元用于研究，1.5亿美元用于设立奖学金。这两项举措，是他们展现治理决心的第一步。

二、

Powerful

AI或将等同核材料，监管需转向强制约束模式

任何新技术都兼具利弊，创新发展与安全管控之间的矛盾永远存在。监管能降低危害风险，但也会削减技术价值，打击创新积极性。奥地利学派经济学家哈耶克说过，监管机构往往缺乏足够信息来做出正确决策，容易导致监管措施收效甚微。而科林里奇困境也指出，技术的负面影响，往往要等到问题难以管控时才会彻底显现。

2023至2024年，

Anthropic早已预判，未来AI有可能被用于研发威胁数百万人生命的生物武器，或是出现自主失控。但那时，风险的具体表现形式、有效的解决方案都还不明确。如果仓促立法，极有可能收效甚微，制造一堆无意义的合规要求，却漏掉了真正关键的风险来源。

如果为未来AI模型制定固定的安全要求，很可能95%的精力都耗费在影响微小的条款上，而真正的风险源头，却完全不在清单内。企业自主规则可以灵活调整，但立法修改很繁琐。这也是为什么针对2024年的加州SB 1047法案，他会发布两封公开信，阐述矛盾态度的原因。

综合考量后，当时（2023-2024年）最合理的方案是

。AI模型研发方必须公开安全管控流程、测试细则，并及时上报重大安全事故，让公众和科研界实时掌握风险动态。等风险形态进一步明晰后，再制定精准的专项法规。基于这一思路，2025年Anthropic推动了一系列透明度相关立法，如加州SB 53法案、纽约州RAISE法案等。

时至今日，风险已经浮出水面。监管不能再止步于透明度要求，必须推出更严格、具备强制约束力的规则。参照对象应该是汽车、飞机、药品这类技术——它们是现代经济运转的基石，但一旦设计或使用不当，就会造成大规模伤亡。因此，AI监管可以参照FAA（美国联邦航空管理局）的模式。前沿AI模型如同飞机，必须经过专业检测与审计，若安全不达标，政府有权叫停或撤销部署。

特朗普政府近期发布的行政令，在强化政府AI监管职能上迈出了一步。Anthropic的提案则主张更进一步，具体要点如下：

，聚焦四大领域：网络安全、生物武器、AI系统失控以及自动化研发行为。若评估判定模型存在不可接受的风险，政府有权阻止或叫停部署。评估主体可以是类似FAA的政府专职机构，也可以是经政府授权的民间机构。同时，企业必须建立安全规范保护模型权重；；并配合政府抵御高级别网络威胁。四大核心领域内的安全事故，必须第一时间上报。

在不远的将来，可能还需要更进一步的监管手段。

。它们威胁的不再是公共安全，而是全人类的存续。一旦走到这一步，现行监管方案就不够用了，需要推出更强硬的管控措施。比如，极端生物安全风险的管控难度远高于网络安全风险，防御方天然处于劣势，破坏程度也更惨重。不过，政策制定应立足当下已显现的风险，同时搭建好体系，确保未来新风险出现时，能快速升级应对举措。

三、Powerful AI打破经济旧范式，超高增速与就业冲击同步到来

长期以来，各国政府一直面临一个难题：如何在拉动经济增长的同时，完善公共服务、保障弱势群体？共识是，经济增长很脆弱。想要缩小贫富差距，往往就要承受加税或财政赤字的压力。但

如果AI在绝大多数脑力工作上超越人类，借助其加速科研、技术迭代与运营提效的能力，经济有望迎来高速增长。而AI自主迭代、打造更强AI的能力，会进一步放大这个动能。

但与此同时，相较于以往所有技术，AI对人类脑力劳动的替代范围更广，节奏也更快。可以推断，AI对就业市场的冲击，会远超以往任何一次技术革命，且影响更持久。我们可能陷入一种困境：经济高速增长与贫富急剧分化并行，且一旦形成，就很难扭转。这种背景下，

。

在所有议题中，AI引发的宏观经济变化与长期岗位流失问题，社会关注最多，误解也最多。需要明确两个核心观点：第一，长期性岗位流失绝非理想局面，我们必须尽全力减少、规避，而不是放任。他强调岗位流失风险，是为了让政策制定者提前应对，

。作为企业，Anthropic也在探索全新的人机协作模式，确保人类始终占据核心协作位置。放眼整个社会，AI将创造大量新机遇，比如让个人创办市值数十亿美元的企业。但即便各方全力应对，，因为该项技术正在全面复刻人类的认知能力。

第二，任何应对AI驱动的就业取代，都需要保障民众基本经济收入，更要帮助人们找寻生活的意义。后者更重要，它涉及社会架构、人生追求等深层议题。即便未来AI在所有领域都超越人类，人类依旧可以拥有充实的人生，创造美好的事物。比如，人们仍然把毕生精力奉献给国际象棋、围棋或爬山，尽管机器可以做得更好，但从业者依然受人尊敬。这类议题需要全社会共同探索，政策能发挥的最大作用，是为社会探索争取时间。

基于上述思路，以下政策举措具备一定现实价值：首先是

。脱离真实数据，就不可能制定有效政策。政府应扩充经济统计维度，精细化追踪AI对就业的冲击。其次是，如薪资保险、留岗税收优惠、培训补贴等。薪资保险的核心是补足降薪转岗的差额，激励民众主动转型。即便会增加成本，AI带来的生产力提升也足以抵消。再者是。如果出现大规模长期失业，仅靠短期激励是不够的，需要建立长期收入保障机制，如全民基本收入，通过向AI企业征税、提高资本利得税等方式筹措资金。

一个之前没提到的焦点是

，它们可能推高能源价格。Amodei的观点是，AI企业应当承担这部分成本，Anthropic已经做了公开承诺。公众对数据中心的抵触，本质上是全社会对AI经济问题焦虑的外化。各国必须直面这些深层问题，拿出解决方案，否则负面情绪还会借由其他载体爆发。

四、AI将全面提速医药研发，但漫长药审流程恐堵截医疗创新成果

AI自身带来的风险全新且演变迅速，人类尚无成熟应对经验。而被AI加速发展的传统领域，则面临另一种困境：现有监管体系诞生于创新节奏缓慢的时代，无法承接AI催生的海量新技术。同时，AI还能大幅提升下游技术的安全性与可预测性，这与FDA等监管机构一向的谨慎预设相悖。

因此对于AI的下游应用领域，更大的担忧是监管体系拖慢创新步伐，而非监管缺位引发风险。不能让AI的价值潜力被束缚，却任由风险累积。改革刻不容缓。本文选取生物医疗创新作分析，因为它是监管体系最复杂的领域，也是最能创造民生福祉的领域。

目前，虽然无法预判

的全部细节，但可能出现的趋势包括：新药候选物的研发速度将显著提高；新药疗效更强、安全性更高；为前所未治愈的疾病开发药物；催生全新治疗手段。

部分技术进步可以自然地缩短审批周期。

但现有监管体系默认候选药大概率无效或有安全隐患，因此设置了多层级的审查流程。一款新药走完FDA和EMA的审批流程，，就是源于这种保守设定。

改革绝不等于放宽标准，但可以适度调整。以往需要高昂成本、漫长周期的临床试验环节，未来可借助AI模拟和数据分析完成。监管机构应提前制定标准，认可这些新技术。可落地的场景包括：基于AI的药效学和药代动力学建模分析；毒性预测技术；精准剂量测算；虚拟对照组的使用；研发替代终点指标等。监管机构还应探索更灵活、更具突破性的加速审批机制。如果对AI发展趋势的判断无误，

医疗领域的提速发展，不仅能放大AI的正面价值，也有助于降低AI自身风险——比如强化生物安全防御能力，以及AI推动的心理健康进步，都能起到稳定社会的作用。

五、公众焦虑源于真实安全隐患，需要提前完善AI治理体系

AI的指数级进步，带来了前所未有的变革速度与传统政策制定体系难以适配的紧迫挑战。但与此同时，

。如今，AI的风险已经清晰显现，创造经济价值、冲击现有产业的潜力也初步展露，公众普遍反对放任AI无序发展。多方因素叠加，政策制定者更愿意主动布局长远规划。Treebeard和他守护的森林，终于迎来了觉醒。

AI行业内有一种流行观点，认为当下的舆论争议只是公关问题，AI需要“更好的品牌宣传”。

作为从业者，如实披露风险是责任。公众基于真实信息产生的担忧，正是民主监督正常运转的体现。当下的核心任务，是将民众的关注转化为解决方案，

他对问题的解决保持乐观。从模型上线前检测、芯片出口管制，到就业问题应对、能耗管控，相关方案能够获得不同整治立场群体的普遍认同。一个务实且值得期待的未来正在前方：跨党派群体正视挑战，携手推动政策落地，让规则制定速度突破传统桎梏。行动越早，全人类就能越早共享AI带来的巨大价值。