自主武器：不仅是更智能的智能炸弹

随着自主武器的技术能力提升，未来其战场决策能力将超越人类——很容易做出这样的假设。毕竟，人类会疲倦，容易被误导，或者意识形态扭曲，还可能缺乏良好的判断力。技术先进的武器却没有任何这些短板。

但是，这种假设并没有事实依据，据此对自主武器的未来进行决策，是不明智的。

本次圆桌讨论中，我的同行保罗·桑托斯写道，没有科学证据能支持“具有人类智能水平的”机器这一设想。但是，他并未摒弃“自主武器可以在提升战斗任务成功率的同时，将平民伤亡降到最低”这一观点。这里，他在两种立场之间做着微妙而又有些奇怪的权衡——谈到禁止还是监管自主武器时，他也是这样做的。他希望自主武器根本不存在，但又担心如果事实证明禁令不可行，将会导致地下实验室的产生。所以，他偏向的立场是监管。

另一方面，莫妮卡·詹索利亚十分关心如何保护平民不受恐怖主义分子伤害。据此，她论证了为何不应该禁止自主武器。但是，自主武器系统与恐怖主义没有任何关系，并不能成为瞄准打击恐怖主义分子的一种方法，也不是“赢得”反恐“战争”的一种方法，而只是无需人为干预就能对目标进行侦测、选择和开火的武器。

詹索利亚的观点似乎是，自主武器未来将有能力分辨恐怖主义分子和平民（也即在人与人之间进行侦测和选择），如果要认同这一观点，也就意味着认为：未来，自主武器系统所配备的人工智能，其复杂程度足以超越人类智能，并具有一定的分辨能力。

如果我们不认为自主武器技术所依靠的人工智能可以超越人类智慧，那就很难理解此类武器系统怎么可能有能力识别不穿制服、但活跃参与敌对行动的个人。用加州大学伯克利分校人工智能专家斯图尔特·罗素（Stuart Russell）的话来说，“‘战斗人员’并不是一种视觉类别。”事实上，这是进行着一系列未定义活动的一类人。这意味着，除非人类穿戴上自主武器能够侦测的传感器，否则人工智能将无法在复杂的战场空间中、在人类进行一系列未定义行为时，“对图像进行意义阐释”（借用桑托斯的话）。

要获得对自主武器的清晰认识，意味着摒弃那种认为它们只是更智能的智能炸弹的观点。能够“限制附带损害”的精准军火之所以称其精准，只是因为其有能力找到时间和空间中的一个特定位置。这一位置，无论是由人类使用激化画出，还是通过坐标和卫星导航，依然是由人来设定的。是人选择了那个目标。武器的精准度，只与其落在那一点上的可能性有关。另一方面，自主武器会自己选择目标。它们会选择要向目标发射哪种军火。所选的军火可能是“智能炸弹”，也可能是“非智能炸弹”，但问题不在于精准度。关键问题在于目标的选择。

因此，将自主武器错误地归类、讨论在不适于开展行动的环境中部署自主武器，或者假定开发此类武器将促成更为干净利索、附带损害更少的战争，都是在混淆视听，于事无补。这样的思路并不能解决自主武器所摆出的实实在在的挑战。国际社会以及联合国等国际组织真正需要的，是在此问题上及时地、明确地表明立场。监管如何实施？禁令如何构成？这些问题是成员国必须回答的。但是，是时候回答这些问题，而不要再无意义地闲聊了。