Anthropic长期警告AI风险换来出口管制 AI科学家杨立昆：自食其果

6月15日消息，据媒体报道，Anthropic CEO达里奥·阿莫代伊（Dario Amodei）因频繁警告自家 AI 产品可能带来的风险而广为人知，但这种做法也让公司付出了代价。

上周，

长期以来，阿莫代伊试图将自己塑造成AI行业中那个“清醒理智的成年人”。他曾是OpenAI不可或缺的研究人员，后因担心CEO萨姆·奥特曼（Sam Altman）优先考虑产品发布速度而非安全性，便离开OpenAI并创立了Anthropic。

此后，他接连发表一系列声明，称自己以及OpenAI、谷歌、Meta、亚马逊等公司正在开发并发布的技术，可能会从根本上改变人类所熟悉的生活方式，这种影响既可能积极，也可能负面。

尽管随着Anthropic筹备上市，他近几周在AI对就业影响的问题上有所缓和，但在其他安全风险方面依然毫不保留。

本月早些时候，Anthropic在一篇论文中呼吁暂停前沿AI模型的开发，警告称最新模型正越来越接近实现自我改进，而这“可能会增加人类失去对AI系统控制的风险”。