Автономное оружие: балансируя на туго натянутом канате

Когда исследователи искусственного интеллекта подписали в июле открытое письмо с призывом запретить «наступательное автономное оружие за пределами значимого человеческого контроля», они заявили, что запрет может касаться такого оружия, как «вооруженные квадрокоптеры», способные идентифицировать и уничтожать людей, «отвечающих определенным заранее заданных критериям». Но запрет не будет включать «крылатые ракеты или дроны с дистанционным управлением, за которых все решения о назначении целей принимают люди». Таким образом, стоит отметить, что предложенные запрещения не коснутся определенного количества автономного оружия, которое уже введено в эксплуатацию, – потому что это оружие классифицируется как оборонное.

Такие виды вооружения включают в себя систему «Фаланкс», «скорострельную артиллеристскую системус радиолокационным наведением, управляемую с помощью компьютера», стоящую на вооружении военно-морских сил США с 1980 года, и которую армия США в недавнем времени применяла в сухопутных операциях. Немецкая полностью автоматизированная оборонная система «NBSМантис» также может обнаруживать, отслеживать, прицеливаться и открывать огонь по движущимся объектам. Израильская оборонная ракетная система «Железный купол» также работает автономно, кроме случаев, когда, при обнаружении угрозы нападения противника, она запрашивает людей о принятии быстрого решения на открытие огня.

Подобные системы являются общепринятыми в качестве легальных инструментов ведения войны. Полностью автономное наступательное оружие, однако, это совсем другая история. Такое оружие поднимает ряд трудных вопросов о том, может ли оно придерживаться морального императива о защите жизней гражданских лиц во время военного конфликта. Но в подобных обсуждениях легко упускается из вида еще один моральный вопрос: о защите гражданских лиц, находящихся в опасности от действий негосударственных субъектов, которые совершают акты массового насилия и терроризма против мирных жителей.

По моему мнению, любое предложение по запрещению смертельных видов оружия должно принимать во внимание нестандартные, асимметричные и беспорядочные военные акты, которые совершают транснациональные негосударственные субъекты, – а также влияние подобных действий на гражданских лиц. Не относящиеся ни к каким государственным образованиям личности часто процветают именно потому, что они не различимы на фоне мирного местного населения. Они также свободно распространяются в труднодоступных местностях, таких как горы и пустыни, просачиваются сквозь легко проницаемые границы и получают поддержку от сочувствующих им государств или имеющих отношение к таким государствам лиц. Иногда регулярные вооруженные силы могут преодолевать преимущества, которыми пользуются негосударственные субъекты, особенно посредством оптимального использования технологий, включая беспилотные летательные аппараты (при поддержке качественных разведывательных данных). Но регулярные войска обнаружили, что победить негосударственные субъекты в общепринятом смысле оказывается достаточно проблематичным. Соответственно, они стараются защитить гражданских лиц.

Может ли полностью автономное оружие с самыми современными возможностями изменить эту ситуацию? Может ли оно, не только не ставить под опасность гражданские лица, но именно сохранятьжизни невинных мужчин, женщин и детей, попавших в жестокие зоны военных действий? Если автономное оружие может выводить из строя вражеские цели, в то же время минимизируя нежелательные жертвы, такое оружие окажется под пристальным изучением в качестве средства борьбы с негосударственными субъектами и террористами.

Ни один из существующих видов вооружения не может быть должным образом охарактеризован как автономное наступательное оружие, способное уничтожать допустимые цели и сохранять жизни гражданским лицам. Искусственный интеллект, каким мы имеем его на сегодняшний день, – то есть неспособным подражать человеческому интеллекту и здравому смыслу, – при применении его на полях сражений окажется серьезным вызовом безопасности гражданского населения. Будущие исследования и научные разработки, возможно, смогут запрограммировать машины на качественные принятия решений, что невозможно сегодня. И только будущие технологические решения смогут позволить автономному оружию превзойти людей в различные боевых ситуациях.

В конце своей статьи я хочу сказать, что склоняюсь больше к необходимости регулирования автономного оружия, нежели полному запрету на эти технологии. Но общее запрещение в любом случае представляется невозможным. Министерство иностранных дел Великобритании, например, заявило: «мы не видим необходимости запрета» смертоносного автономного оружия, потому что «международное гуманитарное право уже обеспечивает необходимую нормативно-правовую базу в этом направлении». По моему мнению, то, что необходимо, – это нормативная база, ограничивающая смертоносность будущих систем автономного оружия. Также необходимо провести исследования механизмов (например, усовершенствованное программирование), которые резко снизят жертвы, связанные с применением автономного оружия, среди мирного населения.

В конечном итоге, как и в случае со многими другими аспектами современных конфликтов или войн, наиболее фундаментальную обеспокоенность вызывает вопрос пропорциональности. Я могла бы выступить в защиту заявления, что смертельное автономное оружие может рассматриваться как этическое, если косвенный ущерб, который оно наносит, не выходит за пропорциональные рамки их вклада в мир, безопасность и стабильность, а также в предотвращение крупномасштабного кровопролития среди гражданского населения.