En el marco del Día Internacional de la Lucha contra el Discurso de Odio, diplomáticos, expertos en tecnología y representantes de empresas tecnológicas alertaron sobre la creciente relación entre los discursos de odio y el uso de inteligencia artificial (IA), señalando que los algoritmos sesgados están contribuyendo a amplificar estos contenidos a niveles sin precedentes.
Durante la sesión organizada por la Organización de las Naciones Unidas (ONU), se destacó la urgencia de construir “coaliciones para recuperar espacios inclusivos, seguros y libres de odio”, un objetivo que fue el eje de las discusiones.
Aunque el secretario general de la ONU, António Guterres, no estuvo presente, envió un mensaje escrito en el que denunció el papel que juegan las nuevas tecnologías en la difusión del odio.
“El discurso de odio está contaminado por la sociedad” y este tipo de retórica “se propaga más rápido y más lejos que nunca, amplificado por la inteligencia artificial y algoritmos sesgados”, expresó Guterres.
En su carta, el titular del organismo internacional instó a fortalecer la cooperación internacional para hacer frente al odio en línea, subrayando la necesidad de una estrategia basada en el respeto a los derechos humanos y al derecho internacional. También abogó por la formación de alianzas multilaterales.
“Necesitamos alianzas a todos los niveles: entre gobiernos, sociedad civil, empresas privadas y líderes religiosos y comunitarios. Necesitamos contrarrestar las narrativas tóxicas con mensajes positivos y empoderar a las personas para que reconozcan, rechacen y se enfrenten al discurso de odio”, añadió.
Además, hizo un llamado a los Estados miembros para utilizar la inteligencia artificial como una herramienta para el bien y no como una vía para fomentar la hostilidad. En su mensaje, apeló a la unidad y al uso ético de la tecnología.
“Mantengámonos unidos en la búsqueda de la paz, el respeto mutuo y la comprensión para todos”, puntualizó.
Por su parte, Miguel Ángel Moratinos, alto representante para la Alianza de Civilizaciones de las Naciones Unidas (UNAOC), advirtió que si bien la inteligencia artificial puede convertirse en una herramienta poderosa para propósitos positivos, también puede tener efectos adversos si no se regula adecuadamente.
“Sin embargo, si no se controla, también puede reforzar el sesgo, la discriminación automática y alimentar la misma narrativa que buscamos desmantelar”, subrayó Moratinos.
Asimismo, reconoció el potencial de la IA para identificar contenidos dañinos, facilitar el entendimiento intercultural y promover el conocimiento, siempre que se utilice con responsabilidad y bajo un marco ético firme.
El evento concluyó con un consenso general sobre la necesidad de establecer marcos normativos claros, éticos y colaborativos para mitigar los riesgos que plantea la inteligencia artificial en contextos sociales sensibles, y reafirmar su uso como una herramienta en favor de la inclusión y la equidad global.
