Un soldado alemán durante un entrenamiento en Estonia para proteger las infraestructuras críticas del aliado de la OTAN. (Daniel Bockwoldt/Getty Images)

En busca de nuevos foros para la regulación de los algoritmos en el ámbito militar.

El contexto tecnológico

En 1980, el académico David Collingridge propuso un modelo teórico para abordar el dilema que surge al regular tecnologías emergentes. Este problema, referido muchas veces como dilema de Collingridge, describe cómo los reguladores políticos pueden enfrentarse a la difícil decisión de si regular o no una nueva tecnología.

Las necesidades de regulación pueden cambiar con el tiempo. Las redes sociales y los patinetes eléctricos son ejemplos de cosas que antes no se consideraban problemáticas, pero ahora requieren regulación. Los reguladores deben detectar estas necesidades emergentes y actuar en el momento oportuno, ya sea a través de un proceso regulatorio o trabajando con el sector privado, aunque esto puede presentar desafíos debido a los intereses del sector privado.

Al igual que con las redes sociales y los patinetes eléctricos, la Inteligencia Artificial (IA) en el ámbito militar es un ejemplo de una tecnología emergente que puede requerir regulación. A medida que la IA se utiliza cada vez más en aplicaciones militares, como el análisis de imágenes satelitales, la vigilancia autónoma de áreas fronterizas o el desplazamiento autónomo es importante que los reguladores detecten y aborden cualquier necesidad emergente de regulación en este ámbito. Esto es así, porque la autonomía puede usarse para encontrar y atacar objetivos en los conflictos armados, lo que plantea dilemas éticos y jurídicos. En teoría, aún necesitan la orden de un operador militar, pero según los propios fabricantes, esto podría cambiar con un ajuste del software. ¿Hemos pasado ya del momento oportuno para regular este asunto?

El esfuerzo internacional por regular

El debate sobre el potencial letal de la Inteligencia Artificial en los sistemas de armas comenzó hace más de 15 años en la academia. En 2007, Robert Sparrow usó por primera vez el término “Killer Robots”. La organización Human Rights Watch y la plataforma Stop Killer Robots, fundada en 2012 por HRW y otras ONG, adoptaron este término por su gran impacto gráfico.

La publicación del informe del Relator especial para ejecuciones extrajudiciales, sumarias o arbitrarias de Naciones Unidas, Christof Heyns, de 2013, dio finalmente pie a la vía institucional. La Asamblea General de la ONU decidió que la Convención sobre ciertas Armas Convencionales (CAC) sería el foro más adecuado para regular o prohibir ciertas categorías de armas por sus efectos indiscriminados. Tras unos primeros encuentros informales entre 2014 y 2016, se decidió crear un Grupo de Expertos Gubernamentales (GEG) con el objetivo de preparar propuestas para la próxima conferencia de revisión en 2021. Entre 2017 y 2021, el grupo se reunió tres veces al año con la participación de delegaciones oficiales y actores de la sociedad civil, excepto en 2020, donde las reuniones se llevaron a cabo de forma telemática debido a la pandemia. 

Hasta la fecha, los resultados del Grupo de Expertos Gubernamentales ...