美国陆军“防御AI”新项目：AI、反AI、反反AI

最近美国陆军搞了个新项目，名字挺直白，就叫“防御AI”。这个为期100天的AI风险评估试点项目，核心目标很明确：确保、强化和改进AI系统，同时把它的潜力真正发挥出来。听起来有点未雨绸缪的味道，但考虑到AI技术的飞速发展，美军显然觉得，得比预期更早地准备好应对自动化机器人军队了。

焦点：AI的可靠性

美国国防部和军方在AI的使用上，一直强调“伦理”和人类对致命武力的最终“控制权”。但一个现实问题是：没人能保证潜在对手也会“守规矩”。这种不确定性带来了前所未有的潜在风险，国防部对此高度关注，这也是美军着力优化AI、自动化和机器学习在作战行动和武器中应用的根本原因。

AI的优点已经被广泛认可，但其中有一个重要悖论不容忽视：AI系统的有效性，完全取决于它的数据库。那么，当一个先进的AI系统遇到它从未“见过”或处理过的情况时，会发生什么？结果无非是“误报”或错误分析。要让AI真正靠谱，人类就得想办法让它变得更可靠。

好在，提升AI可靠性方面，业界已经取得了不小的进展。先进的算法现在可以通过分析“上下文”和周围指标，来识别含义并准确分析看似未知的想法和事物。举个例子，算法能通过评估周围的词语，区分出“foot ball”（足球）和“dance ball”（舞会）中意义不同的“ball”，从而准确评估概念框架。AI驱动的“分析”速度越来越快，下一步的目标，就是开发一个能进行接近“实时”分析的系统，并对已知或看似未知的指标做出可靠而准确的判断。

美国陆军“防御AI”项目

美国陆军一直在试图解决AI可靠性问题，而现在，他们正在推进下一步工作：

。作为首个在其五年预算规划（POM）中实际规划AI项目的军事部门，陆军启动了为期100天的AI风险评估试点项目，以强化和改进AI系统，并发挥其潜力。

美国陆军副助理部长Young Bang表示，在100天的计划实施之后，还会有一个500天的计划。这个大规模、多层次项目的核心，是

。这个项目就叫（Defend AI）。

Young Bang解释称：“我们如何帮助工业界更快地采用第三方算法？如果我们开发算法，或者我们要求工业界带着我们的数据集进入我们的安全环境，就需要一个流程。我们意识到，工业界在开发出色的算法方面比陆军或国防部要好得多。我们希望更快地采用这些算法，这样我们就可以基于风险做出决定，将其放在一个封闭系统中进行自动化处理，以便实际识别我们的已知风险。”

路径：AI与人机整合

“防御AI”项目强调整合人类和机器能力的重要性。除了美国国防部关于致命武器使用要求人类参与的原则外，陆军技术开发人员也认识到，

。伦理、直觉、道德、意识、情感——这些只是决策过程中许多独特人类属性中的一部分，对于作战行动和决策而言，它们全都至关重要。数学生成的算法能否复制它们？这显然是个大问题。

上述变量和问题，很可能影响了陆军部长克里斯汀·沃莫斯（Christine Wormuth）最近发布的人机界面指令。该指令旨在确定和优化高速机器和人类决策之间的必要平衡。

这种平衡在拯救生命和增强战力的领域中尤其重要。近期，陆军展示了一项突破性技术，使用AI和自动化指令，安全快速地将武器移动到攻击位置，并准备快速射击。陆军武器开发人员称之为

（Autonomous Multi-Domain Launcher，简称AML）。陆军方面在一篇关于AML实弹射击的文章中称，这次演习展示了发射器能够从隐藏位置独立移动到发射点、根据指令调整方向并接收来自远程炮手的火控命令的能力。

目标：防御AI免受攻击

确保AI系统能够分析、区分、组织和有效传输时间敏感的作战情报，至关重要。但陆军也开始考虑另一个维度：如何防御AI免受攻击、欺骗和其他高科技干扰，以避免误报或灾难性的错误。考虑到这一点，陆军的“防御AI”项目会开发可以识别和阻止对AI系统实施攻击或“欺骗”尝试的“反制措施”。通过分析多个变量和指标之间的相互关系，可以显著提高防御的有效性。例如，在识别目标时，除了光电或视觉指示之外，敌方目标可能还存在声音或热特征，这些都是可能影响AI系统免受敌方攻击的因素。总而言之，

（counter AI）（counter to counter AI）

前景：无人干预的AI

美国国防部武器开发人员还在关注另一个重要领域：纯“自主”或“无人干预”AI在纯防御性、非致命目的（如无人机和巡航导弹防御）中的应用前景。这背后牵涉到一系列关键问题，比如：

• AI是否应该能够即时确定特定威胁或目标不涉及人类，并可以用非致命武力击败或“拦截”？
• 在应对来袭导弹、迫击炮、火箭、无人系统或无人机群攻击时，高速处理和AI驱动的防御能否发挥效用？
• AI能否准确做出决定？如果出现误报或错误识别怎么办？

。正因为上述这些问题悬而未决，美军正在快速推进AI的使用和优化，同时优先考虑伦理规范并防范“意外使用”。尽管AI在军事方面的应用潜力尚未完全展现，但无论何时，优先考虑伦理、原则和安全相关的变量，都是“防御AI”的核心理念。