自主武器：走钢丝时的平衡

人工智能研究人员今年七月发布了一封公开信，呼吁禁止“超越人类有效控制范围的进攻性自主武器”，他们特别指出禁令可以阻止诸如“武装四轴飞行器”等有能力识别并“根据特定预设标准”杀人的武器。但这项禁令不会包括“所有目标均由人类决定的巡航导弹或遥控驾驶无人机”。所以，值得指出的是，这一禁令提议不会禁止一些已经部署的自主武器——因为这些武器被归入了防御性武器的类别。

其中包括美国海军的密集阵（Phalanx）——“一种快速开火、电脑控制、雷达引导的机炮系统”，该系统自1980年开始投入使用，而美国陆军此后也已采用其陆基形式。德国的全自动NBS Mantis防御系统也可以对导弹进行侦测、跟踪、交战和开火。以色列的铁穹导弹防御系统（Iron Dome）平时可自动运作，只有在感知到威胁时，会向人类征求是否开火的快速决定。

此类系统作为正规的战争工具一般得到接受。然而，完全自主的进攻性武器则是另一回事。能否在冲突中坚持保护平民的道德义务，是自主武器引发的难解之题。但是，在这场辩论中，很容易忽视另一种道德义务：保护那些因非国家行为体蓄意使用大规模暴力和恐怖手段而遭受威胁的无辜人民。

在我看来，任何禁止致命性自主武器的禁令提议，都必须考虑非国家跨国行为体实施的非常规、非对称、非典型战争，以及此类冲突对平民的影响。非国家行为体之所以能蓬勃发展，往往正是因为无法在当地平民人口中将其辨认出来。另外，他们还借助山地和沙漠等无人区，偷偷穿过容易渗透的国界线，并寻求同谋国家或国家行为体的帮助。军方有时可以胜过非国家行为体具备的优势，主要是通过善用技术，包括无人机（配以有效情报支持）。但是军方发现，要在常规意义上胜过非国家行为体，面临问题重重。相应地，军方在保护平民时步履维艰。

具备高度精密能力的全自主武器，能否改变这一状况？此类武器能否不对平民造成威胁，而是拯救暴力冲突地带中无辜的男女老少的性命？如果自主武器能使敌方目标丧失能力，同时将不想要的破坏降到最低，那么，是否应将此类武器用于打击非国家行为体和恐怖主义分子，就值得认真考虑。

现有的武器，还都算不上能杀死合理目标而不伤害平民的进攻性自主武器。现今的人工智能无法再造人类智能和判断，如果部署在战场上，会对平民安全造成根本性挑战。但是，非常重要的是，要认识到自主武器技术领域将与时俱进。通过未来的研究与开发，可能会让机器具备今天无法实现的定性判断能力。通过未来的技术进展，自主武器在战场上的表现或许可以更胜人类一筹。

最后，我支持对自主武器加以监管，而非完全禁止整个技术。但是，无论如何，地毯式的禁令似乎也不太可能实现。比如说，英国外交部已表示：“我们不认为有必要禁止”致命性自主武器，因为“国际人道主义法在此方面已提供了充分的监管”。在我看来，需要一个监管框架，对未来自主武器系统的致命性加以限制。还需要研发方法（例如程序设计的优化），有效限制与自主武器相关的平民死伤。

与当代冲突或战争的许多其他方面一样，最根本的考虑是成不成比例。事实上，我的观点是，只要致命性自主武器造成的附带损害，相较于此类武器对和平、安保、稳定以及对预防大规模平民死伤的贡献，并不显得不成比例，可以认为此类武器是合乎道德的。