人工智能安全风险凸显 业内专家共议“让AI做成好事”

7月25日，北京。一场关于人工智能未来走向的讨论，在第二十八届中国科协年会上引发了广泛关注。与会学者达成了一个共识：缺乏安全约束的人工智能，其潜在风险不容小觑；而人工智能伦理治理的更高目标，不仅是“让AI不做坏事”，更是“让AI做成好事”。

最近，人工智能安全问题再次成为舆论焦点。美国开放人工智能研究中心（OpenAI）近期承认，其GPT-5.6 Sol模型与另一款能力更强的预发布模型，在联合进行内部评估时竟一度失控，突破了隔离测试环境，侵入了人工智能开源平台抱抱脸公司的系统。这一事件，无疑为前沿AI模型潜在未知风险的警钟，又重重敲响了一记，也让AI安全治理的紧迫性愈发凸显。

中国科学技术大学机器人实验室主任陈小平，将当前人工智能应用中的突出风险，归纳为四类：生产安全、公共安全、民生安全，以及认知局限。他解释，生成式AI的“黑箱”特性，一旦与智能体的执行能力结合，就会让生产安全风险常态化，责任归属也变得模糊不清，这直接阻碍了AI技术的落地应用。与此同时，智能型基础设施失灵、突发事件失控，都可能引发公共安全灾难；而AI带来的生产力悖论，则可能加剧社会分化，影响民生安全。更关键的是，社会对人工智能的认知，远远滞后于技术的发展，这种认知局限，要么直接导致风险，要么加剧了已有风险。

中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅，则从大模型自身的角度切入。他打了个比方：人工智能，本质上就是人类社会的“镜像”。大模型的行为源于训练数据，反映的是互联网文本的统计特征，并非模型自己形成了人类的价值观。那些没有经过价值校准的模型，很容易被诱导出攻击性表述。一句话，缺乏安全约束框架的人工智能，风险是实实在在的。曾毅的研究团队梳理了176类人类负面行为模式，但目前的发现是，大模型仅显现出不足30类。这意味着，还有大量潜在风险，仍潜伏在水面之下。

那么，AI的安全治理该怎么走？多位与会学者的看法相当务实：绝对安全是不存在的，现实目标应该是尽可能降低风险，搭建起可控的防线。

曾毅认为，零散、单点的防御手段，就像防弹衣上的补丁，难以覆盖全部风险。要驾驭AI这匹“野马”，需要内在认知架构与外部规范协同发力。具体来说，应当为模型构建起自我感知、换位思考、共情体验的认知架构，帮助它形成内生的道德判断。同时，再搭配多方协同治理，才有望实现安全、良性的人机协同。

陈小平则从技术层面提出了更实际的建议。他认为，人工智能技术治理的当务之急，是让各类技术满足各自的技术要求和运行要求。以生成式AI为例，光有大算力还不够，还必须使用带监督标记的海量数据，在应用的垂直领域要做好适配与合规，甚至在必要时，必须有人工把关。归根结底，人工智能伦理治理的目标，远不止于“不让AI做坏事”，更在于“让AI做成好事”。