Armas autónomas, seguridad civil y regulación frente a prohibición

Cazando en manadas. Patrullando redes de computadoras. Desplegadas en tierra firme, en el mar, el aire, el espacio; en todos lados. Sin dudas las armas autónomas desplegadas parecen siniestras. Sin embargo, en líneas generales ¿promoverían o empañarían la seguridad civil?

Para responder esta pregunta, es necesario entender claramente lo que significa el término "seguridad civil". Si significa proteger las vidas de los civiles durante un conflicto armado, entonces sí, es muy posible que las armas autónomas contribuyan a este fin algún día. No obstante, la tecnología actual no es lo suficientemente sólida como para permitir a las armas autónomas distinguir entre combatientes y no combatientes, en particular en medio de insurrecciones o guerras civiles. Lo máximo que puede lograr la tecnología actual es reconocer firmas de radar, firmas de calor, formas o, en el caso de las personas, sensores en los uniformes. Sin embargo, esto solo ayuda a identificar a los propios combatientes, lo que de ninguna manera mejora la seguridad de los civiles.

Con el tiempo, y con los desarrollos en materia de reconocimiento facial, gestual, biométrica, etc., la tecnología de armas autónomas podrá ser capaz de identificar mejor los objetivos aceptables, No obstante, estos avances no garantizarán que no se ataque a los civiles ni impedirán que surjan otras amenazas para la seguridad civil. Por ejemplo, para hacer frente a posibles amenazas, es posible que algún día las armas autónomas vigilen constantemente a las poblaciones, en cierta forma de manera similar al sistema de vigilancia aerotransportado "Gorgon Stare" que utiliza actualmente Estados Unidos. Si se aplica tecnología similar a las armas autónomas, las sociedades deberán enfrentar una gran variedad de problemas, que no se relacionan directamente con los conflictos armados pero que, no obstante, tienen que ver con la seguridad civil.

Por consiguiente, la "seguridad civil" se extiende más allá del desarrollo de hostilidades, más allá del alcance del derecho internacional humanitario. Es decir, la seguridad civil es un tema presente tanto en tiempos de guerra como de paz. En tiempos de paz se aplica otro derecho, el derecho internacional de los derechos humanos, que comprende un conjunto más amplio de tratados, principios, leyes y obligaciones nacionales relacionadas con los "derechos civiles, políticos, económicos, sociales y culturales que deben gozar todos los seres humanos".

Si las armas autónomas deben atenerse al derecho internacional de los derechos humanos, las armas deben al menos cumplir con todos los tratados internacionales, regionales y bilaterales de derechos humanos, así como con la correspondiente legislación nacional. De hecho, puede ser necesario que las armas autónomas promuevan los derechos humanos. Así pues, no es suficiente que una nación se pregunte si las armas autónomas protegerán a los civiles en algún otro país en el que lleven a cabo operaciones militares; las armas autónomas deben cumplir también las leyes del propio país. Además, y lo que es más sutil, las armas autónomas deben cumplir los requisitos legales también en circunstancias que no se ajustan demasiado bien a las leyes de la guerra ni a las de la paz.

Todo esto constituye un nivel muy alto para las armas autónomas. Para verlo con claridad, examinemos cómo las armas autónomas podrían infringir, por ejemplo, la Convención Europea de Derechos Humanos. Si las armas autónomas se desplegaran dentro de Europa y utilizaran para la vigilancia omnipresente, por ejemplo en operaciones antiterroristas, es posible que infringieran el derecho a la vida privada y familiar, garantizado por el artículo 8 de la Convención. Como estas armas podrían estar relacionadas con la cibernética en lugar de con la robótica, también podrían tener efectos adversos sobre la libertad de pensamiento, conciencia y religión (garantizados por el artículo 9). Las armas autónomas relacionadas con la cibernética podrían vulnerar la libertad de expresión (artículo 10), al tener un efecto inhibidor en las conversaciones o expresiones utilizadas en Internet, por el temor de los usuarios de ser sancionados.

Por supuesto, la amenaza más grave que representan las armas autónomas es la del derecho a la vida. Podría suponerse que la "seguridad civil" se refiere al derecho a la vida, en lugar de, por ejemplo, el derecho a la vida privada y familiar. Sin embargo, el derecho a la vida, que se garantiza no solo en el artículo 2 de la Convención, sino también en otros instrumentos internacionales importantes, no es ilimitado. El derecho a la vida depende en gran medida de autorizaciones legales en relación con el uso de la fuerza letal.

Ahora bien, estas autorizaciones legales difieren según se esté en guerra o en paz. En situaciones de paz (o de "cumplimiento de la ley") para recurrir a la fuerza letal es necesario que exista una amenaza inminente a los transeúntes u oficiales. Durante la guerra el umbral para el uso de la fuerza letal es mucho menor. Aplicar estas distinciones a las armas autónomas parece indicar que, si se identifica a una persona como una amenaza potencial o real, las armas autónomas deben intentar arrestarla (a menos que esta amenaza sea letal e inminente para los transeúntes; podría no haber ninguna amenaza para la máquina). Si el sistema es incapaz de arrestar, por ejemplo, porque es un sistema aéreo, las opciones parecerían limitarse a matar o no matar. Sin embargo, matar a una persona en estas circunstancias constituiría una violación automática del derecho a la vida. Es más, esto también infringiría el derecho a un juicio justo. Desconocer el derecho a un juicio justo socava el Estado de Derecho, que es en sí mismo la fuerza más importante para establecer y proteger la seguridad civil.

Peligros para todos. Además de todo esto, la seguridad civil y, en consecuencia, el derecho a la vida, se ven amenazados por una potencial carrera armamentista de armas autónomas e inteligencia artificial. Esta carrera expondría a los civiles de todo el mundo a un riesgo indebido, posiblemente existencial. Si las armas autónomas se desarrollan y utilizan, con el tiempo se asentarán en todos los sectores: el aire, el espacio, el mar, la tierra y el cibernético. Cazarán en manadas. Funcionarán en redes en sistemas de armas no tripuladas. Patrullarán redes de computadoras. Estarán en todas partes. Por lo tanto, es arrogante suponer que solo un país procurará su desarrollo.

Muchos Estados concluirán que necesitan desarrollar su defensa, a un ritmo cada vez más rápido, con inteligencia artificial y armas cada vez más fuertes y con una autonomía cada vez mayor. No obstante, los sistemas autónomos con capacidades de aprendizaje podrían salirse rápidamente del control de sus creadores. Serían un peligro para todas las personas que estuvieran dentro de su alcance inmediato. A su vez, las armas autónomas conectadas entre sí a través de redes, o los agentes autónomos dotados de inteligencia artificial y conectados a Internet, no estarían confinados a un único territorio geográfico o a Estados que participaran en conflictos armados. Los efectos no deseados de la creación y utilización en el campo de batalla de sistemas autónomos podrían ser tan graves que los riesgos relacionados con su uso superarían cualquier posible beneficio.

¿La prohibición absoluta es la respuesta adecuada al desarrollo de las armas autónomas o el enfoque correcto radica más bien en la regulación internacional eficaz? En el pasado abogué por la prohibición de las armas autónomas, dado que los riesgos de no hacerlo son muy graves. Ahora bien, con o sin prohibición, es necesario contar con una legislación internacional eficaz. Muchas tecnologías de la información y comunicación son de uso dual, lo que significa que pueden perseguir propósitos tanto militares como no militares. La inteligencia artificial puede beneficiar a las sociedades, y no debemos permitir que lo malo desplace a lo bueno. Por consiguiente, los Estados deben juntarse, con la ayuda de expertos y organizaciones no gubernamentales, para crear un enfoque práctico y factible para las tecnologías autónomas en robótica y ciberseguridad, un enfoque que impida la militarización pero permita los usos benéficos. En definitiva, no se trata de si debemos prohibir o regular. Se trata de ver cómo podemos hacer las dos cosas de la mejor forma posible.

Cuando varios investigadores sobre inteligencia artificial publicaron una carta abierta en julio llamando a la prohibición de las "armas autónomas ofensivas que no puedan ser controladas de forma significativa por los seres humanos", especificaron que esta prohibición podría incluir armas como "cuadricópteros armados", capaces de identificar y matar personas "siguiendo determinados criterios definidos previamente". Sin embargo, la prohibición no comprendería a los "misiles de crucero o drones dirigidos a distancia en los que los seres humanos toman todas las decisiones sobre los objetivos". Así pues, cabe destacar que la prohibición propuesta no comprendería a varias armas autónomas que ya se han utilizado, dado que las mismas se clasifican como defensivas.

Entre estas se cuentan el Phalanx de la Armada de EE. UU., un "sistema de artillería de fuego rápido, controlado por computadora y dirigido por radar" que se utiliza desde 1980 y que la Armada de Estados Unidos adoptó más recientemente en tierra firme. De la misma forma, el sistema de defensa totalmente automatizado NBS Mantis de Alemania puede detectar, rastrear, captar y disparar contra proyectiles. A su vez, el sistema de defensa antimisiles israelí Cápsula de Hierro funciona autónomamente excepto cuando, al percibir una amenaza, requiere que un ser humano decida rápidamente si debe o no disparar.

Por lo general existe una aceptación general de estos sistemas como herramientas de guerra legítimas. No obstante, las armas ofensivas totalmente autónomas son una cuestión diferente. Dan lugar a preguntas difíciles sobre si estas armas pueden defender el imperativo moral de proteger las vidas de los civiles durante los conflictos. Ahora bien, en este debate se pasa fácilmente por alto otro imperativo moral, el de la protección de los civiles a los que actores no estatales, que perpetran deliberadamente la violencia en masa y el terror contra los inocentes, ponen en peligro.

En mi opinión, cualquier propuesta para la prohibición de las armas autónomas letales debe tener en cuenta las guerras no convencionales, asimétricas e irregulares que llevan a cabo actores trasnacionales no estatales, así como los efectos de estos conflictos sobre los civiles. Los actores no estatales prosperan muchas veces precisamente porque no se los puede distinguir de las poblaciones civiles locales. También prosperan al utilizar territorios inhóspitos, como montañas y desiertos, escapando a través de fronteras porosas y recurriendo a la ayuda de Estados o actores estatales cómplices. Los militares a veces pueden superar las ventajas de las que disfrutan los actores no estatales, en particular utilizando óptimamente tecnologías que incluyen vehículos aéreos no tripulados (con el apoyo de la inteligencia adecuada). Sin embargo, para los militares es muy problemático vencer a los actores no estatales en el sentido convencional. En la misma medida, luchan por proteger a los civiles.

¿Las armas totalmente autónomas con capacidades sumamente sofisticadas podrían ser capaces de cambiar esta ecuación? ¿Podrían, sin poner en ningún riesgo a los civiles,salvar las vidas de los hombres, mujeres y niños inocentes atrapados en zonas de conflicto violentas? Si las armas autónomas pudieran incapacitar los blancos enemigos minimizando los daños no deseados, deberíamos pensar seriamente en usarlas como armas en la lucha contra actores no estatales y terroristas.

Ningún arma existente puede describirse correctamente como un arma autónoma ofensiva capaz de matar blancos legítimos, evitando a la vez a los civiles. La inteligencia artificial de la actualidad, que no puede reproducir la inteligencia y el juicio humanos, plantearía problemas fundamentales para la seguridad civil, si se utilizara en el campo de batalla. Sin embargo, es crucial recordar que la tecnología de armas autónomas es un sector en desarrollo. Es posible que las investigaciones y desarrollos futuros permitan dotar a las máquinas con capacidades para el juicio cualitativo que no son posibles en la actualidad. Los futuros desarrollos tecnológicos pueden permitir a las armas autónomas superar a los seres humanos en situaciones que surjan en el campo de batalla.

En definitiva, estoy a favor de la regulación de las armas autónomas en lugar de la prohibición absoluta de toda la tecnología. No obstante, en cualquier caso no parece probable que se determine su prohibición total. Por ejemplo, el Ministerio de Asuntos Exteriores del Reino Unido afirmó que "no vemos la necesidad de una prohibición" de las armas autónomas letales, dado que "el derecho internacional humanitario ya regula con suficiencia este tema". En mi opinión, lo que necesitamos es un marco regulatorio que limite la letalidad de los futuros sistemas de armas autónomas. También es necesario investigar los medios (por ejemplo, mejoras en la programación) que limitarían claramente las víctimas civiles relacionadas con las armas autónomas.

En última instancia, como ocurre con muchos otros aspectos de los conflictos o guerras contemporáneos, el problema fundamental radica en la proporcionalidad. De hecho, sostengo que las armas autónomas letales pueden considerarse éticas, siempre que los daños colaterales que inflijan no sean desproporcionados con respecto a sus contribuciones para la paz, seguridad y estabilidad, y para la prevención de derramamientos de sangre civil a escala masiva.

Las armas autónomas capaces de seleccionar y atacar blancos sin intervención humana ya son una realidad. En la actualidad se limitan en gran medida a atacar objetos militares en zonas no pobladas, pero los sistemas informáticos de rápido desarrollo con un enorme poder de procesamiento y algoritmos robustos para inteligencia artificial probablemente obliguen pronto a las naciones a adoptar decisiones concretas sobre la utilización de armas totalmente autónomas en guerras urbanas.

Ahora bien, ¿las guerras automatizadas minimizarán los daños colaterales, como afirman algunos observadores, o simplemente darán lugar a la destrucción masiva? La respuesta no está clara. Lo que está claro es que las decisiones sobre la selección de objetivos adoptadas por seres humanos son muchas veces sumamente nefastas. Para estar seguros es importante debatir sobre los aspectos éticos de las armas autónomas y sobre si se deben prohibir, regular o permitir que se desarrollen sin restricciones. No obstante, la cuestión definitiva se centra en la matanza deshumanizada en todas sus formas.

Víctimas optimizadas. En primer lugar, ¿qué queremos decir en todo caso con "armas autónomas"? Es un término sin límites claros. Los misiles de crucero y los drones a control remoto son autónomos en cierto sentido y ambos se han utilizado ampliamente en el campo de batalla. Sin embargo, cuando la gente habla de armas autónomas, por lo general se refiere a las armas con las más modernas capacidades en materia de inteligencia artificial, robótica y control automático que pueden, con independencia de la intervención humana, elegir blancos y decidir si los atacan o no.

También es importante entender lo que significa la "inteligencia artificial" o, más precisamente, lo que no significa. La inteligencia artificial que vemos en las películas y novelas fantásticas con frecuencia implica máquinas que demuestran una inteligencia como la de los seres humanos. Actualmente no hay evidencia científica de que esto siquiera sea posible. En lugar de ello, la inteligencia artificial se refiere al desarrollo de algoritmos computacionales capaces de llevar a cabo actividades de razonamiento, esto es, solución de problemas, adopción de decisiones, predicción, diagnóstico, etc. La inteligencia artificial implica también generalizar o clasificar información, que se conoce como aprendizaje automático. A su vez, los sistemas inteligentes pueden incluir software de visión artificial cuya finalidad en última instancia es permitir interpretar las imágenes de forma coherente. Este tipo de funciones no son demasiado entretenidas para las películas de Hollywood pero tienen un gran interés para el desarrollo de las armas autónomas.

Algunos sostienen que, si se aplica la inteligencia artificial en las guerras, especialmente a través de armas autónomas, se podrán optimizar las víctimas en el campo de batalla. Afirman, además, que los sistemas robóticos inteligentes podrían identificar objetivos con precisión y eficiencia. Podrían combatir de forma de minimizar los daños colaterales, de lo que no cabe duda alguna si lo comparamos con muchas misiones llevadas a cabo por seres humanos, como el ataque del 3 de octubre por parte de un helicóptero de combate de la Fuerza Aérea de EE. UU. a un hospital de Médicos sin Fronteras en Afganistán. Las armas autónomas pueden reducir las víctimas civiles a un mínimo indispensable aun cuando mejoren las probabilidades de misiones exitosas.

Ahora bien, se podrían presentar argumentos similares para la mayoría de las innovaciones en la historia de las armas, desde la pólvora a los "ataques quirúrgicos" de la primera guerra de Irak (que se mostraron con mucho glamour en la televisión). Además, aun cuando las nuevas armas logren "optimizar" las matanzas, también las deshumanizan. Durante décadas los soldados atacaron personas. Ahora atacan a veces blancos en una especia de videojuego. En el futuro quizás no ataquen ningún blanco, y dejen esa tarea a una máquina. Ahora bien, las diferencias entre, digamos, un sistema de armas totalmente autónomas y un misil de crucero o un dron militar a control remoto son en realidad más técnicas que éticas o morales. Si la sociedad moderna acepta que la guerra sea como un videojuego, como lo hizo aceptando los "ataques quirúrgicos" de los noventa, las armas autónomas ya se han aceptado en la guerra.

Recientemente varios científicos, entre los que se cuenta este autor, firmaron una carta abierta llamando a la "prohibición de las armas autónomas ofensivas que no puedan ser controladas de forma significativa por los seres humanos". Ahora, al volver a leer la carta, advierto de nuevo que propone que se prohíban solo las armas que "seleccionan y atacan objetivos sin intervención humana", excluyendo a los "misiles de crucero o drones dirigidos a distancia para los que los seres humanos toman todas las decisiones sobre los objetivos". En cierto sentido esta formulación implica que resulta admisible la matanza indiscriminada de una gran cantidad de personas, tanto civiles como soldados, niños o adultos, siempre y cuando los objetivos sean definidos por seres humanos. Ahora bien, si examinamos la historia de la humanidad, resulta difícil ver por qué el control humano de las armas es tanto mejor de lo que podría ser el control autónomo. Para tomar un ejemplo del siglo XX, entre muchos otros que podemos considerar, el control humano no impidió los asesinatos masivos en agosto de 1945 de unos 200.000 civiles en Hiroshima y Nagasaki (aunque quizás estas atrocidades podrían haberse evitado, si el desarrollo y uso de las armas nucleares se hubiera regulado a nivel internacional con eficacia tan pronto los científicos se dieron cuenta de que era posible fabricar estas armas).

Firmé la carta abierta como pacifista. Firmaría cualquier carta que propusiera prohibir el desarrollo y la producción de armas. Sin embargo, no creo que la prohibición internacional absoluta de las armas autónomas impida su desarrollo, después de todo las investigaciones sobre sistemas inteligentes robotizados letales avanzados ya tienen décadas de antigüedad. A su vez, en comparación con las armas nucleares y biológicas utilizables, para cuyo desarrollo son necesarios laboratorios muy especializados y caros y el acceso a materiales de sencillo seguimiento, las armas autónomas son fáciles de hacer. Cualquier laboratorio existente de inteligencia robótica podría, con poca financiación y en unas semanas, construir desde cero un robot móvil capaz de rastrear y disparar autónomamente a cualquier cosa que se moviera. El robot se atascaría en la primera escalera que encontrara pero sería, de todos modos, un arma autónoma básica.

No existe ninguna forma posible de asegurar que nunca se construyan armas autónomas. La prohibición de su desarrollo sería simplemente una invitación para crear laboratorios subterráneos, que impedirían controlar las armas o responsabilizar a las entidades que las desarrollaran. Lo que sí es posible, mediante una regulación internacional eficaz, es asegurar que se haga un seguimiento y análisis del desarrollo de las armas autónomas en cada caso individual. Los objetivos de las armas autónomas se regirían por normas estrictas, el desarrollo de las armas debería atenerse al derecho internacional humanitario y, si esto último no fuera posible, las armas no podrían utilizarse jamás en el campo. Por último, debe establecerse un sistema para hacer responsable a cualquier organización que, al crear y desarrollar armas autónomas, incumpla las normas que las regulan.