全链网：开源AI正走向危险路径，或有不可逆滥用隐患

开源AI安全警示：Anthropic CEO详解“危险路径”与不可逆风险

人工智能的开放与封闭之争从未像今天这样激烈。2025年6月，Anthropic首席执行官Dario Amodei在美国国会发表讲话时，明确指出了开源AI发展正滑向“非常危险的路径”。以下是基于其核心观点的详细解读，帮助您理解开源模型在安全治理上的特殊挑战。

一、核心观点：开源AI进入危险路径

Dario Amodei认为，一旦具备强大能力的AI模型以开源形式发布，开发者将彻底丧失对模型使用情况的有效监管能力。这包括：

• 无法监控滥用行为
  ：任何人都可以下载并离线运行模型，开发者无法追踪模型被用于何种目的。

• 无法撤销访问权限
  ：封闭模型可以通过服务器端关闭接口，但开源模型一经发布，权限即永久开放。

• 无法动态更新安全防护机制
  ：封闭系统可以实时打补丁、升级过滤器，而开源版本的所有副本都独立于开发者控制之外。

二、风险对比：封闭模型 vs 开源模型

为了更清晰地理解差距，以下将两种模式在安全治理上的关键差异进行对比：

• 封闭模型体系
  ：可以通过服务器端集中管控，随时撤销API密钥、更新内容安全策略、记录异常使用模式。即使模型能力再强，开发者仍然保留最终控制权。

• 完全开放的模型
  ：代码、权重、训练数据全部公开，任何人都可以无限制修改、部署、衍生。一旦发布，开发者不可能再对已有副本施加任何控制，安全治理难度陡增。

Dario Amodei强调，这种差异意味着开源模型可能带来“不可逆的滥用隐患”——即使开发者事后发现恶意用途，也无力阻止已经扩散的模型副本继续运作。