Introducción
Hace unos días saltaba la noticia sobre el proyecto de Estados Unidos de diseñar drones de carácter militar guiados con sistemas de inteligencia artificial, con el propósito de identificar objetivos con mayor precisión que los humanos. El proyecto se está llevando a cabo por la empresa Athena AI, que asegura que el sistema tiene la capacidad de rastrear vehículos militares y geolocalizar elementos sobre el terreno con gran precisión, verificando si el objeto se encuentra en una zona de no impacto y calculando el riesgo de los daños colaterales. [1]
Las aplicaciones de la inteligencia artificial en el ámbito militar: armas autónomas.
El vertiginoso impulso de la inteligencia artificial de los últimos meses ya viene mostrando las innumerables capacidades de estos sistemas. En el contexto militar, los drones con inteligencia artificial podrían llegar a facilitar el desarrollo de operaciones de seguridad cooperativa y de disuasión y defensatanto en el ámbito terrestre, marítimo como aéreo; desempeñando tareas como la vigilancia de objetivos, obtención de inteligencia, seguimiento de vehículos, operaciones de contraminado, protección de la fuerza en escenarios asimétricos o la creación de nuevas armas y métodos de combate.
No obstante, el desarrollo apenas incipiente de la inteligencia artificial hace que el diseño de drones militares autónomos plantee todo tipo de dudas en cuanto a las eventuales limitaciones operativas, las inexactitudes en la identificación de objetivos, los fallos del sistema, la falta de detección de obstáculos o su vulnerabilidad a ataques cibernéticos. Por ello, el uso militar de la inteligencia artificial suscita varios interrogantes esenciales sobre su capacidad de cumplir con el Derecho Internacional Humanitario.
3. Las armas de nueva creación en el Derecho Internacional Humanitario.
El Derecho Internacional Humanitario (DIH) es el marco jurídico internacional que delimita los parámetros de legitimidad de los ataques y los métodos de combate utilizados por los beligerantes, así como la protección a las víctimas, los bienes y el medioambiente durante el desarrollo de las hostilidades en las situaciones de conflictos armados. El eje central de esta rama del Derecho lo configuran los cuatro Convenios de Ginebra de 1949 y sus Protocolos adicionales I y II de 1997 y el Protocolo adicional III de 2005. [2] Sin embargo, las fechas de su adopción evidencian que dicha normativa no recoge una definición de las armas autónomas. Aunque desde el año 2014 los Estados vienen elaborando propuestas sobre la materia, y en el año 2021 se reanudaron las labores del Grupo de Expertos Gubernamentales sobre los sistemas de armas autónomos [3]; por el momento, no existen propuestas firmes sobre normativas adaptadas.
Ante la ausencia de definición jurídica de arma autónoma en los Convenios de Ginebra, el Comité Internacional de la Cruz Roja propuso que el concepto de “armas autónomas” abarcase de forma amplia cualquier tipo de sistemas de armas que opere sin intervención humana. [4]
Sentado lo anterior, el artículo 36 del Protocolo Adicional I relativo a la creación de nuevas armas impone a los Estados firmantes la obligación de determinar si su empleoestá prohibido totalmente o parcialmente por el Protocolo o el Derecho Internacional. El Comité Internacional de la Cruz Roja elaboró en 2006 una guía para facilitar a los Estados la labor de definición de los procedimientos para determinar la licitud de nuevas armas [5], al amparo del referido artículo 36. Dicha guía exige el examen de todo tipo de sistemas de armas de acuerdo con una extensa lista de parámetros como, por ejemplo, su capacidad de cumplir las adecuadas tácticas militares o la prohibición de utilizar armas cuyos efectos sean indiscriminados, puedan causar incidentalmente el fallecimiento o heridos en la población civil o no puedan dirigirse contra objetivos militares concretos. Cabe puntualizar que los Protocolos adicionales I y II fueron aprobados con la finalidad de proteger a los civiles contra los efectos más devastadores de los conflictos, por lo que esta esencia debe tenerse en consideración en el análisis de nuevas armas.
4. ¿Pueden entonces utilizarse drones militares autónomos basados en inteligencia artificial?
Desde el punto de vista jurídico, si realmente los drones guiados por inteligencia artificial diseñados por Atenea AI tienen absoluta precisión de geolocalización y valoración de posibles daños colaterales, a priori podría ser admisible su utilización dentro de ciertos márgenes jurídicos. Ahora bien, en el ámbito del actual DIH no parece admisible delegar completamente el funcionamiento de armas a sus sistemas inteligentes sin un control humano final. Tal circunstancia conllevaría dejar en manos de un software la decisión última sobre la legitimidad de un ataque y la ponderación del riesgo para la integridad física de la población civil, perdiendo el control humano sobre el uso de la fuerza.
En cualquier caso, la adopción de un instrumento jurídico internacional que regule adecuadamente el uso de armas autónomas es a día de hoy una necesidad prioritaria.
REFERENCIAS BIBLIOGRÁFICAS
[1] Duarte, M. (2023, jul. 08) El gran peligro de una nueva inteligencia artificial militar que marca blancos por su cuenta. El confidencial. https://www.elconfidencial.com/tecnologia/novaceno/ 2023-07-08/inteligencia-artificial-militar-drones-mejor-que-humanos_3691868/
[2] International Humanitarian Law Databases. (s.f.) IHL Treaties – Geneva Conventions of 1949, Additional Protocols and their Commentaries. https://ihl-databases.icrc.org/en/ihl-treaties/geneva-conventions-1949additional-protocols-and-their-commentaries
[3] Comité Internacional de Cruz Roja. (2021, sept. 23) Sistemas de armas autónomos letales: el CICR recomienda la adopción de nuevas reglas. https://www.icrc.org/es/document/sistemas-armas-autonomos-letales-cicr-recomienda-adopcion-nuevas-reglas
[4] Comité Internacional de la Cruz Roja, 32 Conferencia Internacional de la Cruz Roja y de la Media Luna Roja, Ginebra, 2015, p. 58.
[5] Comité Internacional de Cruz Roja. (2006, ene., revisado 2006, nov.) Guía para el examen jurídico de las armas, los medios y los métodos de guerra nuevos https://www.icrc.org/es/doc/assets/files/other/icrc_003_0902
