自主而不可问责

虽然本次圆桌讨论的参与者在第一轮中一致认为，自主武器应该接受国际监管，但各位都没有详细讨论如何建立一个监管体系。

也许这是因为，三位作者所关注都是虽无争议、但仍有必要开宗明义的论点。无论是战争还是和平时期，平民安全都应该是最高的优先事项。现今，自主武器尚不能最大程度提升军事行动成功率、降低附带损害风险；但未来有一天，此类武器或将具备这些能力。如果先进的自主武器有一天被部署，可能有损基本人权。

开门见山之后，莫妮卡·詹索利亚和我都论证了为什么应该监管而非禁止自主武器——但她和我采取这一立场的理由却非常不同。另一方面，希瑟·罗夫则论证了为什么既要监管，又要禁止。但是，所有作者也都只是粗略地讨论了如何建立监管——不可否认，这的确是一个有难度的议题。按其定义，自主武器应该能自己做出决定。那么，对于它们犯的罪，应该如何确定责任？致命的自主机器一旦失灵，该归咎于谁？

“由于系统错误造成问题”——想想自己听过多少遍这样的话了。此类说法一般就能挡住进一步的讨论。所以，不难想象这样的情况：无辜平民被杀戮，可能多达几十人，但无人对此负责，因为罪过在于“系统错误”。而且，又有谁会愿意被怪罪？部署并预期自主武器与合适的目标交战的任务指挥官？与设定目标完全无关的武器开发人员？

自主武器其本身就会引发问责缺口。但是，为自主军事机器的行为确定责任，与在其他军事行动中确定责任，其实不应该有太大区别：责任应该跟随指挥链。因此，下令使用自主武器的组织或个人应该对其行动负责。“系统故障”绝不能成为不必要伤亡的正当理由。如果将这一理念纳入国际人道主义法和国际人权法——目前只管辖人类行动者，而非机器——那么这些国际法领域（罗夫已在第一轮中详细叙述）可能将为自主武器的监管提供充分依据。

从空中轰炸到核武器，人类已经学会忍受军事发明。人类甚至学会了忍受恐怖主义的狂暴行径。类似地，人们将适应具有更高自主性的杀人机器。但绝不能因此而不将那些应该为战争罪行负责的人绳之以法，无论犯下战争罪行使用的是什么工具。

但是，国际社会到底能不能发现自主武器杀死无辜平民的事件，目前连这一点都不清楚。在这方面，围绕着美国军方无人机计划的秘密，令人无法产生信心。在战争中，问责性缺口很常见。造成此类缺口的原因是：军事行动固有的保密性、媒体的浅尝辄止，以及源于无知的公众态度。不论有没有自主武器，问责缺口都将继续存在；相较于自主武器，问责缺口才是让《公报》的末日时钟接近午夜的更重要因素。