联合国专家组警告：AI 能力进步速度已超过科学认知

联合国这两天搞了个大动作。7月1日，由40位顶尖科学家和专家组成的联合国AI独立科学小组，正式发布了一份重磅报告，直指一个核心问题：AI这东西，到底能让我们飞到多高，又可能在什么时候摔个跟头？

报告的核心观点其实很明确：AI进步的速度，已经开始跑在科学认知的前面了，甚至比各国政府调整政策的速度还要快。换句话说，当学术界还没完全搞懂AI运作的底层逻辑时，它已经跑出很远；当监管还在讨论如何制定规则，它已经渗透进了日常生活的方方面面。而最令人不寒而栗的是——面对那些高度自主的AI系统，人类手上能用的控制手段，依然少得可怜。

小组联合主席约书亚·本吉奥特别点出一个值得警惕的趋势：越来越多的证据表明，AI可能已经学会了“欺骗”。随着能力继续增强，科学界现在没有任何把握能保证AI不会因为自身行为，或是被恶意操纵，最终引发灾难性后果。

话说回来，报告的基调并非一味唱衰。它也承认，AI的潜在好处巨大得惊人。但问题在于，如果不顾一切地迅速扩大部署规模，风险同样会成倍膨胀——从损害用户心理健康，到被用作破坏性工具，再到冲击整个社会、经济和环境系统，甚至直接增加技术失控的可能性。这是一个必须正视的平衡问题。

从数据来看，全球每周使用对话式AI的人数已经突破10亿大关。这个数字相当震撼。但深入看下去，差距依然触目惊心：发展中国家的普及速度明显滞后，而AI研发资源的集中度更是突出。全球算力最强的前500台AI超级计算机里，美国一个国家就攥着75%，中国占了15%，剩下的十多个百分点，全球其他国家挤在一起分。

值得留意的还有这样一组数据：地球上现存的语言超过7000种，而目前AI模型能覆盖的，只是其中极小一部分。许多语言的机器翻译错误到处都是，甚至严重到可以直接干扰医疗诊断和治疗决策。换句话说，技术越强大，它照顾不到的角落就越容易成为漏洞，甚至酿出隐患。