Autónomo e irresponsable

A pesar de que los participantes de esta mesa redonda estuvieron de acuerdo en la Primera Ronda en que las armas autónomas deberían regularse a nivel internacional, ninguno dedicó mucho tiempo a abordar cómo podría crearse un sistema regulatorio.

Esto quizás se deba a que los tres autores se concentraron en puntos con los que es muy difícil disentir, pero que era también importante establecer desde un principio. La seguridad civil debería ser una prioridad fundamental, tanto en tiempos de paz como de guerra. En la actualidad las armas autónomas no pueden maximizar las posibilidades de obtener victorias militares y minimizar el riesgo de daños colaterales, pero puede que algún día adquieran estas habilidades. Si alguna vez se utilizan, las armas autónomas avanzadas podrían poner en peligro a los derechos humanos fundamentales.

Habiendo establecido todo lo anterior, tanto Monika Chansoria como yo abogamos por la regulación más que por la prohibición de las armas autónomas, aunque llegamos a esta postura por razones muy diferentes. Entretanto, Heather Roff abogó por la regulación y la prohibición. Sin embargo, y volviendo sobre el punto anterior, cada autor solo abordó brevemente cómo establecer la regulación que, admitamos, es un tema difícil. Por definición, las armas autónomas fueron concebidas para tomar decisiones por sí mismas. ¿Cómo puede entonces atribuirse la responsabilidad por los crímenes que cometen? ¿A quién debe culparse en caso de que una máquina autónoma letal funcione mal?

Piensen cuántas veces escucharon frases como “el problema se debió a un error del sistema”. En general este tipo de expresiones evita futuras discusiones. Así que es fácil imaginar escenarios en los que se asesine a civiles inocentes, quizás a montones de ellos, pero nadie sea considerado responsable porque se debió a un “error del sistema”. Además, de hecho, ¿a quién debería culparse? ¿Al comandante de la misión que utilizó un arma autónoma esperando que atacara un blanco adecuado? ¿A los desarrolladores del arma, que no tuvieron nada que ver con el ataque?

Las armas autónomas darían lugar automáticamente a lagunas en lo que refiere a la responsabilidad. Sin embargo, atribuir la responsabilidad por las acciones de la maquinaria militar autónoma no debería, en realidad, ser tan diferente de la atribución de responsabilidad en otras operaciones militares: la responsabilidad debería seguir la cadena de mando. Por consiguiente, debe considerarse responsable por las acciones de la máquina a la organización o personas físicas que dieron la orden de usar el arma autónoma. Los “errores del sistema” no deberían nunca justificar las víctimas innecesarias. Si esta idea se incorporara al derecho internacional humanitario y al derecho internacional de los derechos humanos, que actualmente solo rigen a los agentes humanos, no a las máquinas, estos campos del derecho internacional (que Roff abordó exhaustivamente en la Primera Ronda) podrían ofrecer una base suficiente para la regulación de las armas autónomas.

Los seres humanos han aprendido a vivir con invenciones militares que van desde los bombardeos aéreos hasta las armas nucleares. Han aprendido incluso a vivir con masacres terroristas. De la misma forma, las personas se acostumbrarán a una autonomía cada vez mayor de las máquinas asesinas. Esto nunca debe impedir que se lleve ante la justicia a las personas responsables de los crímenes de guerra, sin importar las herramientas utilizadas para perpetrar los crímenes.

Sin embargo entonces, una vez más, no está claro si alguna vez la comunidad internacional se enteraría siquiera de casos en los que las armas autónomas mataran a civiles inocentes. El secretismo con el que se maneja el programa de drones del ejército de Estados Unidos no inspira mucha confianza en este sentido. En la guerra son comunes las lagunas de responsabilidad, que se originan en el secretismo inherente a las operaciones militares, la complacencia de los medios de comunicación y las actitudes del público a causa de su ignorancia. Las lagunas de responsabilidad, que seguirán existiendo con o sin armas autónomas, hacen que el Reloj del Apocalipsis del Boletín se acerque mucho más a medianoche de lo que las armas autónomas podrán lograr alguna vez.