La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) ha publicado un informe en el que advierte sobre los riesgos que supone la inteligencia artificial generativa en la preservación de la memoria histórica del Holocausto. Bajo el título «IA y Holocausto: ¿Reescribiendo la historia?», el documento expone cómo la falta de regulación y control en el desarrollo de estas tecnologías puede favorecer la difusión de desinformación y alimentar discursos de odio.
Según la UNESCO, la inteligencia artificial tiene la capacidad de generar contenido convincente pero potencialmente falso, lo que podría llevar a la distorsión de hechos históricos y a la negación del Holocausto. En este sentido, el informe destaca que las herramientas de IA pueden producir imágenes, documentos y relatos que, sin una supervisión adecuada, podrían reforzar narrativas negacionistas o tergiversar la realidad de lo sucedido durante la Segunda Guerra Mundial.
Casos concretos
El informe de la UNESCO cita ejemplos específicos de cómo la IA ya ha sido utilizada para alterar la percepción histórica. Por ejemplo, en 2023 se detectó un caso en el que un modelo de IA generativa creó una imagen de un campo de concentración con elementos inexistentes, lo que fue utilizado por grupos negacionistas para argumentar que las evidencias fotográficas originales eran falsas. Asimismo, se han identificado bots que, mediante IA, generan textos negacionistas que se difunden en foros y redes sociales, promoviendo desinformación sobre el Holocausto.
Otro caso citado en el informe menciona la manipulación de testimonios históricos mediante IA. En un experimento realizado por investigadores, se programó una IA para generar una entrevista falsa con un supuesto sobreviviente del Holocausto, combinando extractos de testimonios reales con frases generadas por la IA. A pesar de que el contenido parecía verosímil, se detectaron errores que podían inducir a conclusiones erróneas sobre los acontecimientos históricos.
En febrero de 2024, la aplicación de inteligencia generativa de Google, Gemini, causó controversia al crear imágenes de nazis con piel negra, lo que generó confusión y debates sobre la representación histórica.
Sistemas de IA han sido utilizados para crear memes ofensivos utilizando imágenes de Ana Frank, los cuales se han distribuido en internet, faltando al respeto a la memoria de las víctimas y trivializando el Holocausto.
Aplicaciones como Historical Figures permiten a los usuarios interactuar con representaciones de altos cargos nazis. En algunos casos, estas herramientas han difundido afirmaciones erróneas, como que Joseph Goebbels, ministro de Propaganda nazi, no participó intencionalmente en el Holocausto e intentó evitar la violencia contra los judíos.
Aplicar la ética en la IA
La organización enfatiza que el uso irresponsable de la IA no solo representa un desafío para la memoria histórica, sino que también puede incentivar el antisemitismo y la propagación de discursos extremistas. En el informe, la UNESCO subraya la urgencia de aplicar su «Recomendación sobre la Ética de la IA», aprobada en 2021, para garantizar que estas tecnologías se utilicen de manera responsable y en conformidad con los principios de derechos humanos.
Uno de los puntos clave del documento es la necesidad de que los gobiernos y las empresas tecnológicas trabajen conjuntamente para prevenir la manipulación de la historia a través de la IA. Entre las medidas propuestas se encuentra la implementación de sistemas de verificación de hechos, el etiquetado de contenido generado por IA y el fortalecimiento de la educación en alfabetización mediática para que los ciudadanos puedan identificar la desinformación.
Además, el informe hace un llamamiento a la industria tecnológica para que colabore con historiadores, educadores y comunidades afectadas con el fin de desarrollar herramientas que respeten la verdad histórica y promuevan la educación sobre el Holocausto. También recomienda la creación de normativas que establezcan límites claros en la generación y distribución de contenidos históricos mediante IA.
Educación y prevención
Para la UNESCO, la mejor manera de combatir la desinformación es fortalecer la educación y la concienciación pública. En el informe se menciona el desarrollo de programas educativos que integren el uso de IA con fines didácticos, pero siempre bajo una supervisión estricta que garantice la veracidad de los contenidos. También se aboga por la inclusión de módulos de alfabetización digital en los programas escolares, con el objetivo de que los estudiantes aprendan a identificar información manipulada por inteligencia artificial.
Otra iniciativa destacada en el informe es el uso de tecnologías de IA para la preservación de testimonios reales. En colaboración con museos y archivos históricos, se han desarrollado modelos de IA que ayudan a reconstruir documentos dañados por el tiempo, permitiendo así la conservación de registros esenciales para la memoria del Holocausto. Sin embargo, la UNESCO subraya que estos avances deben utilizarse con responsabilidad y bajo una regulación estricta.
La UNESCO destaca que, si bien la inteligencia artificial puede ser una herramienta poderosa para la educación y la investigación, su mal uso puede derivar en consecuencias graves para la memoria colectiva y el respeto a las víctimas del Holocausto. «La historia no debe estar sujeta a manipulaciones algorítmicas», señala el informe, insistiendo en la importancia de preservar la verdad a través de políticas y regulaciones adecuadas.
«La historia no debe estar sujeta a manipulaciones algorítmicas»
La UNESCO insta a los Estados y actores digitales a tomar medidas inmediatas para proteger la memoria histórica frente a los riesgos que plantea la IA generativa.
La desinformación se viraliza en Internet
La desinformación se viraliza en redes sociales y no estamos preparados. Cerca de un 40% de los españoles admite que no es capaz de distinguir entre una información real y un bulo. Por otra parte, las redes sociales se han convertido en una fuente primaria de información para muchos jóvenes.
Un estudio reciente del Eurobarómetro revela que el 49% de los jóvenes españoles entre 16 y 30 años se informan principalmente a través de redes sociales como Instagram, desplazando a medios tradicionales como la televisión (44%) y la prensa escrita (20%). Además, el 76% de los jóvenes europeos se sienten expuestos a desinformación en línea, y en España, el 51% reconoce haber estado expuesto a desinformación «a menudo».
Un informe de la Fundación BBVA destaca que el 44% de los españoles cree que la NASA oculta información sobre la existencia de extraterrestres y el alunizaje. Además, un 30% confía en la astrología y un 24% cree en la comunicación con espíritus. Aunque estas cifras reflejan una inclinación hacia creencias paranormales, ocho de cada diez españoles confían en expertos y científicos como fuentes fiables de información.