Автономное оружие: это не просто поумневшие корректируемые ракеты

Легко было бы предположить, что, по мере того, как технологии автономного оружия совершенствуются, они когда-нибудь превзойдут людей в способности принимать решения не поле боя. В конце концов, люди устают. Их легко ввести в заблуждение, преформатировать их идеологию, у них недостает здравого смысла. Технологически усовершенствованное оружие не страдает ни от одного из этих недостатков.

Однако подобные предположения не имеют точек соприкосновения с реальным миром, и было бы непредусмотрительно основывать на них решения о будущем автономного оружия.

Мой коллега по круглому столу Пауло Сантос ипшет, что нет ни одного научного доказательства идеи о том, что в будущем машины смогут «продемонстрировать уровень интеллекта на уровне человеческого». Но он не отрицает мысль о том, что «автономное оружие могло бы свести жертвы среди гражданского населения до минимума по мере увеличения шансов на успешность миссий». В этом случае мой коллега балансирует на тонкой и в некотором роде странной грани, – и то же самое он делает, когда разговор заходит о запрещении или регулировании автономного оружия. Он бы предпочел, чтобы автономное оружие никогда не существовало. Но его беспокоит то, что запрещение, если оно сработает, повлечет за собой возникновение подпольных лабораторий. Такимобразом, он приходит к опции регулирования.

Моника Чансория крайне обеспокоена защитой гражданских лиц против террористов. На этом основании она выступает против запрета на автономное оружие. Но системы автономного оружия никакого отношения к терроризму не имеют. Они не представляют собой способ уничтожения террористов. Они не являются способом «выиграть» «войну» против террора. Они являются всего-навсего оружием, которое может обнаруживать, выбирать и стрелять в цели без человеческого вмешательства.

Несмотря на это, если мы предположим, как, похоже, предположила и г-жа Чансория, что системы автономного оружия однажды смогут отличать террористов от обыкновенных граждан (таким образом определяя и выбирая из двух людей), то нам придется поверить и в то, что эти системы будут снабжены чрезвычайно высоким искусственным интеллектом, превосходящим человеческий в части принятия определенных решений.

Если же не допускать, что технологии будут полагаться на искусственный интеллект, превосходящий человеческий, мне вряд ли удастся понять, как такие системы вообще когда бы то ни было смогут идентифицировать людей, не одетых в униформу, но активно принимающих участие в военных действиях. Выражаясь словами Стюарта Расселла, ведущего эксперта по искусственному интеллекту из Университета Калифорнии в Беркли, «'участник боевых действий'- это не зрительная категория». Скорее, это класс лиц, занятых неидентифицированным набором действий. Это значит, что если люди не будут иметь на себе датчики, которые автономное оружие сможет отслеживать, искусственный интеллект будет не в состоянии обеспечить «осмысленную интерпретацию образов» (пользуясь терминологией г-на Сантоса) в сложных боевых условиях, где люди занимаются неидентифицированным набором действий.

Чтобы ясно понимать, что такое автономное оружие, необходимо избавиться от мысли о том, что оно является просто более усовершенствованными корректируемыми ракетами. Боезаряды повышенной точности, которые «снижают сопутствующий урон» являются точными лишь в своих способностях распознавать определенное место во времени и пространстве. Это местоположение, будь то указываемое человеком с помощью лазера или с помощью координат и спутников, все равно определяется людьми. Человек выбирает эти цели.Автономное оружие, с другой стороны, будет выбрать свои собственный цели. Оно будет выбирать боезаряды для выпуска по цели. Эти заряды могут быть корректируемыми (т.н. «умными») бомбами или же простыми неуправляемыми («глупыми») бомбами, но точность в этом случае не важна. Чтоздесьважнее– этовыборцели.

Таким образом, не следует создавать путаницу, неправильно классифицируя виды автономного оружия, обсуждая их применение в операционно неуместных условиях или предполагая, что их применение даст нам более «чистую» войну с меньшим сопутствующим уроном. Такие подходы не решают настоящих проблем, связанных с автономным оружием. Что действительно необходимо международному сообществу, а также международным организациям, таким как ООН, это принять своевременную и решительную позицию по этому вопросу. Как будет работать регулятивная база? Как может выглядеть запрет? Вот на эти вопросы должны ответить страны-члены. Но время для ответа на них и прекращения бессмысленной болтовни уже пришло.