禁止并监管自主武器

成群捕猎。在计算机网络中巡逻。陆、海、空、太空——到处都有部署。已部署的自主武器听起来当然很邪恶。但总体而言，此类武器是促进了还是有损于平民安全？

要回答这个问题，需要对“平民安全”这一术语有一个清晰的理解。如果这个词指的是在武装冲突期间保护平民生命安全，那么没错，自主武器未来很有可能促进其实现。然而，凭借现今的技术，还不足以能让自主武器区分战斗人员和非战斗人员，尤其是在叛乱和内战情况下。目前最佳的技术水平能实现的是识别雷达信号特征、热信号特征、形状——或者对于人而言，识别制服上的感应器。但是，这仅仅有助于识别自己一方的士兵，完全无益于提升平民安全。

假以时日，随着面部识别、手势识别、生物识别技术的进展，自主武器技术可能会更善于识别允许的目标。尽管如此，此类进展并不能保证平民不成为目标，也无法杜绝其他针对平民的威胁的兴起。例如，为了应对可能的威胁，自主武器未来可能对人群进行持续监视，类似于目前美国正在使用的空中监视系统“戈尔贡凝视”（Gorgon Stare）。如果类似的技术运用于自主武器，社会将面临一系列与武装冲突并非直接相关、但仍与平民安全相关的问题。

此外，“平民安全”的外延超越了敌对行为，也超越了国际人道主义法的范畴。即，无论在战争时期还是和平时期，都需要关注平民安全。在和平时期，适用的是另一种类型的法律——国际人权法，这是范围更广的一套关于“所有人类都应享有的公民、政治、经济、社会和文化权利”的条约、原则、法律和国家义务。

如果要让自主武器合乎国际人权法，此类武器必须至少符合所有国际、地区和双边人权条约，以及相应的国内立法。实际上，自主武器可能有必要促进人权。所以，一个国家只问自主武器能否保护其军事行动所在国家的平民，是不够的；自主武器还必须遵守其自己国家的法律。更微妙的是，自主武器还必须在战争法与和平法之间模棱两可的情况中通过法律的检验。

这一切都为自主武器设定了一个很高的标准。为了说明这一点，在此举例分析自主武器可能以何种形式违反《欧洲人权公约》。如果在欧洲境内部署自主武器，用于全方位监视，比如反恐行动，此类武器可能无法尊重私人和家庭生活权利（公约第8条保障的权利）。由于此类武器可能与网络而非机器人相关，所以也可能对思想、信仰和宗教自由（公约第9条保障的权利）造成负面影响。与网络相关的自主武器如果抑制了网上话语或表达，则有可能侵犯言论自由（第10条）。

当然，自主武器造成的最严重威胁是对生命权的威胁。有人可能认为“平民安全”指的正是生命权，而非私人和家庭生活权之类。但是，生命权——不仅由公约第2条保障，也由其他重要的国际法律文件保障——并非没有限制。很大程度上，生命权取决于使用致命武力的法律许可。

然而，在战争时期与和平时期，法律许可是有区别的。在和平时期（或者说“执法”）的情况下，要使用致命武力，前提是旁观者或警官受到了迫近的威胁。在战时，使用致命武力的门槛低很多。将这些区别运用于自主武器，意味着如果一个人被辨认为潜在或实际威胁，自主武器必须试图逮捕他（除非该威胁对于旁观者属于致命且迫近；对于机器则无威胁可言）。如果自主武器系统无法执行逮捕，比如因为是空中系统，那么选择似乎仅限于杀或不杀两种。但是，在此情况下杀死一个人，本身就是对生命权的侵犯。这样做还侵犯了公平审判权。剥夺人的公平审判权，是破坏法治，而法治本身正是创造和保护平民安全的最重要力量。

对每一个人的危险。超越这一切以外，潜在的自主武器和人工智能军备竞赛正威胁着平民安全以及相应的生命权。这样的竞赛会将全世界的平民暴露在过分的、潜在的生存风险之下。如果自主武器得到开发和部署，它们将最终驻扎于每一种空间——天空、太空、海洋、陆地和网络。它们将成群捕猎。它们将联入无人武器系统的系统网络中。他们将在计算机网络中巡逻。他们将无处不在。如此，认为只有一个国家会开发此类武器，未免太过妄自尊大。

许多国家都会得出结论，认为为了自己的国防，必须更快地开发更强大的人工智能和具有更高自主性的武器。但是，具有学习能力的自主系统可以迅速超越其创造者的控制范围。对于在其附近的任何人而言，它们都将成为一种危险。通过网络互相联系的自主武器，或者具有人工智能、联入互联网的自主代理，将不局限于单一地理疆域，也将不局限于武装冲突涉及的国家。建立和发动自主系统的副作用可能非常严重，以至于使用此类系统的风险大于任何可能的收益。

对于自主武器的开发，完全禁令是否是合理的回应，抑或有效的国际监管才是合适的途径？我在过去曾极力主张禁止自主武器——不禁止此类武器的风险太高。但是，无论有没有禁令，都需要有效的国际立法。许多信息和通信技术属于军民两用——既可用于军事，也可用于非军事用途。人工智能可以造福社会，其益处不应与其害处被一并抛弃。因此，各国必须走到一起，在专家和非政府组织的帮助下，制定务实可行的方案，应对机器人和网络安全领域中的自主技术，杜绝其武器化，允许对其加以有益的利用。因而，问题并不在于要不要禁止或监管，而在于如何尽可能将两方面都做好。