El uso de la inteligencia artificial en este terreno es prometedor, pero al mismo tiempo genera nuevas cuestiones, tanto éticas como prácticas, con importantes implicaciones.
La innovación tecnológica, particularmente la derivada del uso intensivo de la inteligencia artificial (IA) y el análisis masivo de datos, está teniendo un impacto aún difícil de predecir en la definición del nuevo orden internacional. Esto no es en sí mismo algo novedoso, pero lo que resulta sorprendente es la velocidad y amplitud de los cambios en curso. Las certezas del orden liberal multilateral, en las que se basaba nuestra visión del mundo, marcadas por la confianza en una prosperidad en constante aumento y una seguridad garantizada frente a las amenazas, están en cuestión. Simultáneamente al desarrollo acelerado de la economía digital y de la doctrina militar del ciberespacio, estamos experimentando una multiplicación de conflictos de raíz etno-cultural y religiosa cada vez más complejos y frecuentemente reincidentes. Este fenómeno, combinado con la erosión de las instituciones y la autoridad del Estado en nuestro entorno inmediato y el surgimiento de nuevos actores no estatales, está provocando transformaciones sin precedentes en el sistema multilateral vigente en los últimos 75 años.
El mismo conflicto creado por la invasión de Ucrania por parte de Rusia, que se está desarrollando sin una intervención significativa de la ONU, es probablemente el mejor ejemplo de esta crisis del multilateralismo frente a la competencia agresiva entre las grandes potencias, que recurren a sus respectivas alianzas militares y estratégicas antes que a las instituciones internacionales. Sin embargo, hay una serie de elementos que están pasado casi desapercibidos bajo el estruendo de la retórica bélica que parece dominar los medios de comunicación y las redes sociales: los componentes etno-culturales del conflicto. El hecho de que el Patriarca Kyril, cabeza de la iglesia ortodoxa rusa, haya estado a punto de ser incluido en las sanciones promovidas por la Unión Europea supone un reconocimiento reticente de la importancia que estos factores tiene en la narrativa de la guerra. Igualmente, en los discursos de Vladímir Putin figura de forma prominente la negación de una identidad histórica de Ucrania, que define como una creación del sistema soviético, aprovechada por EE UU y sus aliados occidentales para intentar debilitar a Rusia. Frente a ello, se está construyendo una nueva identidad europea de Ucrania, apoyada por la reciente aceptación de su candidatura a la UE. O también, pasando al terreno tecnológico, es lo que algunos analistas chinos han calificado como la primera guerra del metaverso, donde las visiones subjetivas y las narrativas que se construyen en el ciberespacio acaban teniendo un impacto cierto en el mundo físico.
El contexto de los conflictos, cada vez más intrincado, y la multiplicidad de actores implicados, han hecho más compleja su prevención y resolución, tal y como lo afirma la nota conceptual de la UE sobre mediación y lo atestiguan las repetidas solicitudes de instituciones como el Parlamento Europeo para la creación de capacidades adicionales en materia de prevención de conflictos y mediación. Pero no es solo el contexto lo que aumenta la complejidad, es también una cuestión de la cantidad, la visibilidad y la intensidad de estos conflictos. Más aún, de una forma creciente los actuales conflictos se extienden geográficamente y afectan a mayor número de personas y, en ocasiones, amenazan gravemente al tejido social, en especial en los estados con estructuras de gobernanza frágiles.
No es solo una cuestión de complejidad, sino también de profundidad de los conflictos. La cultura en todas sus manifestaciones se ha convertido en parte del campo de batalla ampliado de los conflictos de nuestra época, ya que múltiples actores luchan por remodelar muy agresivamente las narrativas que definen las líneas de identidad de sociedades cada vez más fracturadas. Muchas de las brutales acciones que suceden ahora mismo contra la población en general, contra las minorías y contra el patrimonio cultural tangible e intangible no son ni aleatorias ni irracionales, sino una estrategia calculada para configurar artificialmente y legitimar nuevos constructos culturales y, como resultado, crear nuevas identidades políticas.
De hecho, si la cultura juega un papel crucial en la generación de las narrativas que justifican los conflictos, también puede ser un factor clave en la gestión de las crisis, su eventual resolución y la consolidación de una situación pacífica. La cultura es fuertemente relacional e igualmente muestra de forma explícita cómo el poder y las estructuras de la sociedad toman forma conjuntamente. Lo cierto es que, incluso cuando las instituciones se derrumban, el sentido de identidad y la cohesión de la comunidad, ambos anclados en la cultura de esa sociedad, muchas veces sobreviven. Las comunidades que han sido desposeídas, exiliadas o incluso víctimas de intentos de genocidio, se aferran a su patrimonio cultural como su posesión más preciada.
Teniendo en cuenta la importancia de contar con instrumentos que permitan anticipar, gestionar y, eventualmente, resolver el creciente número existente de conflictos, un nuevo enfoque sobre el patrimonio cultural, el dialogo intercultural e inter-religioso resulta fundamental. La cultura disfruta de una gran importancia simbólica para las comunidades locales en situaciones de conflicto y, además, ofrece múltiples posibles puntos de intervención a lo largo del ciclo del propio conflicto. Solo que ser capaces de movilizar esos factores para evitar un conflicto o resolverlo, requiere de las personas con los conocimientos apropiados y de un considerable esfuerzo de preparación y gestión de los recursos necesarios.
IA en la prevención, mediación y resolución de conflictos
Además de la proliferación y extensión de los conflictos en nuestro entorno inmediato, no hay que olvidar que en los últimos 20 años el número de civiles desplazados por esta razón se ha duplicado hasta llegar a 80 millones. Sin embargo, las posibilidades de conseguir algún éxito en la prevención, mediación y resolución de los conflictos parecen reducirse cada día. La rápida evolución de los conflictos y su creciente complejidad y profundidad, descritas más arriba, es una de las razones para ello, pero también debemos considerar las limitaciones cognitivas de los seres humanos y las igualmente crecientes presiones para adquirir rápidamente el conocimiento experto necesario para entender las bases del conflicto y llegar a las oportunas propuestas. Así que, dotarse de nuevas herramientas —si existen— que sean capaces de ayudar a gestionar los conflictos comienza a ser acuciante.
Se puede considerar paradigmática la cuestión de la prevención, uno de los aspectos más difíciles de la gestión de conflictos, porque requiere cierto grado de previsión y anticipación. A este respecto, las tensiones en torno a cuestiones culturales son un buen indicio de la inminencia de un conflicto, porque allí se encuentran las raíces de los conflictos potencialmente emergentes, pero ¿cómo conseguir a tiempo la información y el nivel de conocimiento experto que serían necesarios para anticiparse efectivamente?
Como es bien conocido, la inteligencia artificial está transformando la economía o incluso la propia sociedad, pero, desde luego, su uso se extiende hasta la diplomacia y las relaciones internacionales y, en particular, en la práctica de los conflictos. En términos de herramientas, la diplomacia tradicional ha llegado a un punto de obsolescencia comparable al de las estrategias militares clásicas o la producción industrial del siglo pasado, y sin embargo es un área que parece haber permanecido al margen de las oportunidades de la innovación y la reflexión creativa con el soporte de elementos de tecnología.
A este respecto, la IA ya ha cambiado la dinámica de los conflictos actuales. En el ámbito de la seguridad y la defensa, la inteligencia artificial puede contribuir a escalar el conflicto y sus efectos, alterar el coste de su gestión, acelerar el ritmo en el que se deben tomar decisiones operativas, pero también incrementar los riesgos percibidos, la posibilidad de ataques sorpresa, la adquisición de inteligencia sobre/de las partes en conflicto y, por supuesto, influir en la percepción de la opinión pública sobre estos conflictos. La IA también incorpora a nuevos agentes relevantes en el proceso de gestión del conflicto. Por ejemplo, empresas de nuevas tecnologías que tienen el conocimiento necesario, pero también a organizaciones gubernamentales y no gubernamentales que pueden utilizar tanto a estas compañías como adquirir los conocimientos necesarios para utilizar directamente la IA e influir en el conflicto. El caso del uso del sistema Pegasus, comercializado por una empresa tecnológica israelí, en la crisis que afecta las relaciones de España con Marruecos y Argelia, es un buen ejemplo del efecto que las nuevas tecnologías tienen en el ámbito de la diplomacia internacional.
Tristemente, hasta ahora, son los agentes relacionados con regímenes donde la recopilación de información es más laxa los que más se están beneficiando del procesado masivo de datos y de la IA para influir en el comportamiento de la población y en la evolución de algún tipo de conflicto. Por este motivo, pueden aparecer precisamente nuevos conflictos (o agravarse los existentes) al respecto de la recopilación y acceso a datos que representen a una cierta población. Incluso las instituciones más dispuestas a defender los derechos humanos como la UE pueden verse arrastradas en esta dinámica negativa donde la recopilación de información con propósitos vagos se convierte en una obligación.
Es igualmente cierto que existe una visión donde la IA, todavía en sus primeros pasos en cuanto a gobernanza y una ética globalmente aceptada, se ve más como una amenaza para la democracia y la (ciber)seguridad, cuando no la base de ataques a derechos humanos universales o de la construcción de armas letales autónomas. Así que cualquier iniciativa sobre el uso de la inteligencia artificial en la resolución de conflictos debe tener bien en cuenta estas percepciones si se quiere utilizar de una forma alineada con los valores europeos.
Aplicaciones de la IA en la mediación
En este contexto, ¿es realmente posible cambiar la perspectiva y utilizar la IA, en lugar de para agravar un conflicto, para ser utilizada como herramienta de mediación de conflictos? ¿Cómo hacerlo y cuáles son los desafíos de esta utilización?
Aprovechando la creciente literatura existente sobre la materia, las aplicaciones típicas de la IA en la mediación se pueden clasificar en: la gestión del conocimiento sobre las bases y los antecedentes del conflicto en cuestión y otros que pudieran estar relacionados, como sería, por ejemplo, la búsqueda de patrones generales en los conflictos y en los acuerdos de paz o el descubrimiento de información sobre relaciones relevantes entre las partes en conflicto; la mejora del grado de comprensión del mediador sobre los actores de un conflicto concreto, su comportamiento, su grado de determinación, y todo ello de una forma dinámica como sería, por ejemplo, a través del uso del análisis de sentimientos en redes sociales o por medio del procesado del lenguaje natural; la ampliación de la inclusividad de un proceso de paz y la confianza en el mismo haciendo partícipes a la población a través del conocimiento y posible expresión de sus puntos de vista y opiniones, aumentando la transparencia y reduciendo la asimetría de información generada por actores interesados; la anticipación o, incluso, la evitación de conflictos por medio de la monitorización de parámetros clave de su dinámica, como sería, otra vez, el uso del análisis masivo de datos; la monitorización del cumplimiento de las bases de un acuerdo de resolución del conflicto; y la simulación de escenarios realistas de evolución del conflicto y del despliegue de soluciones de paz y humanitarias que permitan evaluar alternativas y mejorar la formación y la efectividad del mediador y del propio proceso de paz.
Consentimiento y confianza
La primera de estas aplicaciones, la gestión del conocimiento sobre las bases del conflicto quizá sea la más prometedora y la menos problemática desde un punto de vista ético y práctico. Hay que tener en cuenta que un mediador requiere del consentimiento de las partes para llevar a cabo su misión. El consentimiento es el núcleo sobre el que se asienta el proceso de mediación. La imposición de soluciones por parte de agentes externos muestra un largo historial de recientes y graves fracasos.
A este respecto, es improbable que las partes en un conflicto otorguen su consentimiento a un mediador que se considere contrario a sus intereses, no importa si utiliza tecnología de IA o no. La mediación requiere de una fuerte componente de discreción y de confianza en el mediador y en las herramientas tecnológicas que pudiera utilizar. El uso sistemático de IA para analizar las comunicaciones de una población en un conflicto puede dañar esta confianza, al ser difícilmente distinguibles de herramientas de vigilancia masiva, típicamente utilizadas para el control y la manipulación. Que el mediador insista en utilizar la tecnología de IA de forma errónea le puede transformar fácilmente en ser considerado como un agente externo que pretende imponer una solución de interés particular.
La cuestión de la confianza tampoco es baladí. Tanto que para que pueda darse el éxito en el uso de la IA en la resolución de un conflicto hay que asegurar que las partes implicadas conocen este uso y sus objetivos, que se cree un vínculo de percepción positiva entre las herramientas de inteligencia artificial y la persona del mediador de tal manera que no afecte a su credibilidad y, sobre todo, que las partes lo aceptan para la implementación y la monitorización de un posible acuerdo.
La IA en la práctica de la mediación
En general, como se ha dicho, la IA cambia —ha cambiado— las reglas en cuanto al conocimiento del flujo de información cultural que sustenta los conflictos. Las tecnologías para la gestión de la información ya han influido en cómo tienen lugar los conflictos, sus formas, los medios que se utilizan y el tiempo de las respuestas. Típicamente, mediante el uso de sistemas de análisis que tratan enormes cantidades de datos es posible encontrar patrones que, a su vez, sirven para generar escenarios que predicen o clarifican el comportamiento de las personas y grupos de interés involucrados. No es más que la misma tecnología que utilizan las grandes corporaciones para conocer el comportamiento de los usuarios, segmentar los mercados y ofrecerles soluciones y productos de su interés. Sobre esta base y en un conflicto, la IA puede ser utilizada para ganar influencia política, efectuar operaciones en el dominio cognitivo —guerra psicológica— o aumentar el control sobre la población. Pero puede ser igualmente utilizada para evitar, anticipar o cambiar la dinámica de un conflicto.
En particular, una de las partes en el conflicto o un mediador pueden utilizar esta tecnología para descubrir información sobre la otra parte que permanecería oculta sin la utilización de estas herramientas. Por tanto, la IA puede servir para reconducir la asimetría de información que suele tener lugar en los conflictos, donde las partes —y los mediadores— tienen una información notoriamente incompleta sobre la cultura subyacente, los recursos de los que disponen las partes y su grado de intención para llegar a un compromiso. Una consecuencia inmediata es que, si se crea un nivel de transparencia mejorado sobre las bases culturales del conflicto, facilitado por la IA, se puede contribuir a incrementar la confianza en el proceso de mediación.
Es más, el mero hecho de que se conozca la influencia que la IA puede tener en el conocimiento de la situación y de la dinámica de un conflicto puede ayudar a los mediadores a identificar de manera precisa y continua la cambiante disposición de los implicados para participar en un proceso de negociación, centrarse en los elementos clave de los acuerdos y poder construir acuerdos realistas y medibles que aplaquen las siempre existentes reclamaciones sobre garantías de seguridad.
Igualmente, la IA puede mejorar el conocimiento de la cultura de poblaciones diversas a través de simulaciones basadas en información actualizada. Los resultados pueden combinarse y realimentarse con el conocimiento de la realidad para intentar mejorar los resultados de un proceso de mediación suministrando argumentos más convincentes (incluso cuantitativos) y evitando agravar el conflicto debido al uso equivocado de elementos culturales innegociables.
Más aún, tanto agentes gubernamentales como no gubernamentales pueden utilizar la IA para simular el despliegue de soluciones humanitarias que están alineadas tanto con el conocimiento experto de la cultura local como con las mejores prácticas en la mediación de conflictos. Igualmente, las simulaciones se pueden utilizar para entrenar la gestión de conflictos complejos y compartir potenciales soluciones más justas y más efectivas. Así que, además del impacto de la IA en la propia gestión de la dinámica de un conflicto, los mediadores pueden utilizar esta tecnología también para entrenar y posiblemente mejorar la eficiencia de su misión y su sostenibilidad en el medio plazo.
Todas estas posibilidades obligan posiblemente a los mediadores a trabajar de una manera diferente a la tradicional, ya que la información y su gestión se convierten en elementos clave: quién dispone de estas capacidades, cómo se utilizan e, incluso, para descubrir si hay otras herramientas de IA que están siendo empleadas por las partes dentro del propio conflicto.
Sin embargo, hay que recalcar que la inteligencia artificial, en lugar de sustituir la interacción persona a persona típica de la mediación, sería una tecnología que aumenta las capacidades humanas de los expertos. El éxito de su uso, como en cualquier otro proceso de mediación, va a depender de la habilidad del mediador para ganarse el consentimiento y la confianza de las partes en conflicto.
Nuevos retos y oportunidades
Por supuesto, el uso de la IA en la mediación genera nuevas cuestiones, tanto éticas como prácticas, con importantes implicaciones. Sin embargo, esto no debe ser óbice para que los expertos mediadores adopten una actitud proactiva, más que reactiva, sobre el uso de estas tecnologías y desarrollen las capacidades y los conocimientos que les permitan aprovecharlas.
Entre los retos, destaca particularmente la necesidad de asegurarse de que las aplicaciones basadas en la IA cumplen con los principios éticos como los establecidos en la UE. En este ámbito, entre las cuestiones a resolver están evitar la posibilidad de introducir o reforzar sesgos existentes, mantener un alto grado de transparencia con las partes implicadas sin perjudicar la efectividad del proceso, asegurar la privacidad de los datos y la seguridad de los mismos, especialmente si son críticos para el conflicto, y evaluar las implicaciones de la participación del sector privado en el conflicto como consecuencia del uso de herramientas basadas en IA.
Así, y a pesar de estos problemas éticos y prácticos, la IA ya se usa en conflictos y procesos de paz, aunque no hay mucha información disponible públicamente al respecto. Por ejemplo, se sabe que la unidad de innovación y tecnología de Naciones Unidas ha lanzado un proyecto de análisis masivo de datos y apoyo a los medios digitales en Somalia. Igualmente, el departamento de Oriente Medio de Naciones Unidas también está trabajando en un sistema de aprendizaje automático para analizar la opinión pública en el mundo árabe.
Está claro entonces que la tecnología de IA ya está disponible y en uso en aplicaciones de gestión del conocimiento en la mediación, pero, más allá de cuestiones éticas, la pregunta relevante es si realmente sirve para mejorar el conocimiento del conflicto y la efectividad de la búsqueda de soluciones por parte de los mediadores. Por ejemplo, ¿puede el análisis de sentimientos detectar cuáles son las preferencias de la población en una posible salida a un conflicto? Lo cierto es que aún no existen suficientes datos empíricos para responder verazmente a cuestiones como esta.
A cambio de estas dudas, lo cierto es que el uso de la IA crea nuevas expectativas como la posibilidad de incluir a la población en general en un proceso de resolución de conflictos, algo que sería imposible para el mediador sin la utilización de estas herramientas. Por supuesto, sería una oportunidad falsa si el uso de las redes sociales no es representativo de la población en conflicto o si estas redes están manipuladas directamente o mediante el uso de otras herramientas también basadas en la IA.
Llegados a este punto, hay una conclusión evidente: se quiera o no es imposible soslayar la necesidad de formar a los mediadores en esta tecnología y su uso, al menos para que tengan un conocimiento básico y puedan convertirse en especialistas funcionales en IA, incluyendo la aparición de un nuevo rol con este perfil en cualquier equipo de mediación.
En cualquier caso, para que el uso de tecnologías como la AI en los conflictos tenga resultados positivos conviene recordar algunas lecciones clave aprendidas de la mediación. En primer lugar, hay que hacer hincapié en la apropiación local y en los esfuerzos impulsados localmente. Cualquier interferencia que parezca impuesta desde fuera es probable que incluso agrave el conflicto. En segundo lugar, los debates sobre la cultura deben tratar de contar con múltiples perspectivas, permitiendo la participación de otras voces. En tercer lugar, y no menos importante, hay que recordar que la IA y en el análisis masivo de datos son herramientas facilitadoras, pero subsidiarias, en un proceso de diálogo que busque descubrir los pensamientos e ideas que la cultura sostiene. La cultura reside en la memoria colectiva y, por tanto, su papel en la promoción de la tolerancia y el respeto depende para su éxito de que se le considere el ámbito legítimo de debate y diálogo.
Como resumen se puede decir que hay una cierta controversia sobre el uso de análisis basados en la actual IA, con sus sesgos y limitaciones, en un proceso de mediación. Desde el punto de vista de un experto, no hay dudas, la mediación está centrada en las personas y no debe cambiar. Sin embargo, los mediadores deben recordar que, aunque no tengan acceso o no usen la tecnología de IA, puede suceder que otros actores ya lo estén haciendo como parte de sus operaciones. Según la inteligencia artificial se hace más accesible en términos de conocimiento y coste, la probabilidad de este uso no va sino a aumentar.
Por ello, es probablemente necesario que el uso de la IA en la resolución de conflictos requiera del desarrollo de un marco conceptual, legal y técnico apropiado. Hace falta construir partenariados entre expertos en IA y mediadores para, dentro del estado del arte, identificar, diseñar y refinar las herramientas necesarias, así como probarlas en iniciativas concretas para ver sus efectos en el largo plazo. Además, hay que integrar en este marco las cuestiones legales internacionales, los recursos necesarios, la formación y a diversos agentes públicos y privados que ya participan en la resolución de conflictos y en el entendimiento de sus bases culturales.
Finalmente, hay que insistir en que España está en una posición única para aprovechar la oportunidad del uso de la IA en la mediación. Por un lado, posee el conocimiento técnico para poner en marcha las tecnologías necesarias. Por otro, España participa activamente en el proceso liderado por el Servicio Europeo de Acción Exterior, apoyando la agenda multilateral en el ámbito de la prevención y resolución de conflictos, y dispone de una capacidad única para conectar diferentes sistemas culturales por su propio bagaje histórico de múltiples capas. Igualmente, las universidades públicas con su experiencia internacional, su tradición de intercambio abierto de opiniones, sus intereses de servicio público, y sus conocimientos técnicos y legales bien podrían convertirse en un puntal de una estrategia de un uso ético de la IA en la resolución de conflictos.
Las opiniones vertidas son de los autores y no de las instituciones a las que pertenecen. Se aplican los habituales descargos de responsabilidad.
