Автономные и безотчетные

Участники данного круглого стола согласились в первом раунде с тем, что автономное оружие подлежит международному урегулированию, однако никто не уделил достаточно времени обсуждению того, каким образом подобная регулятивная система может быть создана.

Возможно, причина этому то, что все три автора сконцентрировались на аспектах, которые, – несмотря на то, что с ними трудно спорить, – были, тем не менее, настолько важны, чтобы обосновать их с самого начала. Защита мирного населения должна быть наибольшим приоритетом как в военное, так и в мирное время. Сегодня автономное оружие не может увеличить шансы военного преимущества и снизить риски сопутствующего урона, однако когда-нибудь оно может приобрести такие возможности. Усовершенствованное автономное оружие, если будет применено, может нарушить основные права человека.

Когда эти предпосылки были установлены, Моника Чансория и я совместно ратовали за регулирование, нежели запрещение автономного оружия, – несмотря на то, что она и я пришли к этому мнению исходя из разных причин. Хезер Рофф, в то же самое время, призывала как к регулированию, так и к запрещению. Опять же, каждый автор только мельком обсудил то, как устроить такое регулирование, – предположительно, это достаточно сложный вопрос. Автономное оружие, как следует из определения, предназначено для самостоятельного принятия решений. Тогда, каким образом будет распределяться ответственность за преступления, совершенные им? Кто будет отвечать, когда смертельное автономное оружие засбоит?

Вспомните, как много раз вам встречались фразы наподобие: «Проблема вызвана системной ошибкой». Такие формулировки обычно исключают дальнейшее обсуждение. Поэтому легко представить себе сценарии, когда умирают невинные гражданские лица, возможно, в большом количестве, но никто не привлекается к ответственности, потому что виновата «системная ошибка». И в самом деле, кого винить? Командира операций, который использовал автономное оружие, надеясь, что оно выйдет на надлежащую цель? Разработчиков оружия, которые вообще не имели никакого отношения в выбору той конкретной цели?

Автономное оружие автоматически создает белые пятна в вопросе ответственности. Но нахождение ответственных за действия автономных военных машин не должно отличаться от процесса нахождения ответственных в других военных операциях: ответственность следует по вертикали управления. Таким образом, организации или индивидуумы, которые отдавали приказ использовать автономное оружие, должны нести ответственность за действия этой машины. «Системная ошибка» никогда не должна оправдывать ненужные жертвы. Если эта мысль будет внедрена в международное гуманитарное законодательство и международные законы о защите прав человека, – которые в настоящее время касаются лишь людей, но не машин, – то сфера действия международных законов (описанная г-жой Рофф в первом раунде), может обеспечить достаточную базу для регулирования автономного оружия.

Человеческие существа научились жить с военными инновациями, начиная от воздушных бомбардировщиков и заканчивая атомным оружием. Они даже научились сосуществовать с неистовствами террористов. Люди подобным же образом привыкнут ко все усиливающейся автономии машин для убийства. И это никогда не должно препятствовать привлечению к правосудию людей, ответственных за военные преступления, вне зависимости от инструментов, используемых для совершения этих преступлений.

И, опять же, неясно, сможет ли международное сообщество узнать о случаях, когда автономное оружие уничтожает гражданских лиц. Секретность, окружающая военную программу США, связанную с дронами, не вселяет уверенности в этом отношении. На войне белые пятна ответственности – обычное дело. Они создаются секретностью, присущей военным операциям, соглашательствами средств массовой информации, а также мнениями населения, зиждущимися на невежестве. Белые пятна ответственности, которые продолжат существовать с автономным оружием или без него, – вот что подводит стрелки Часов Судного дня Бюллетеня Ученых-ядерщиков так близко к полночи, как автономное оружие не сможет никогда.