La IA podría alimentar una ola de negación del Holocausto, según la UNESCO

Una agencia de las Naciones Unidas advierte que los avances en inteligencia artificial (IA) podrían impulsar un nuevo aumento en la negación del Holocausto.

Un informe de la UNESCO publicado el martes sugiere que los sistemas de inteligencia artificial podrían tergiversar información sobre el Holocausto porque podrían estar entrenados para responder preguntas al respecto en sitios web que lo niegan.

Dijo que la IA se ha utilizado para «distorsionar contenidos relacionados con el Holocausto, crear testimonios fabricados e incluso alterar registros históricos». La UNESCO también advirtió sobre los deepfakes: imágenes o vídeos realistas que sugieren que el Holocausto no ocurrió o fue exagerado.

Una aplicación ya permite a los usuarios hablar directamente con figuras nazis prominentes como Adolf Hitler.

Los modelos de IA generativa también inventan o «alucinan» eventos, personalidades e historia cuando no tienen acceso a suficientes datos.

Bard y ChatGPT de Google han producido contenido sobre los eventos relacionados con el Holocausto «que nunca tuvieron lugar», continuó el informe.

ChatGPT inventó el concepto de que los nazis ahogaron a judíos en ríos y lagos en una campaña llamada «Holocausto por ahogamiento». Bard, por otro lado, generó citas falsas de testigos para respaldar narrativas falsas sobre las masacres.

«Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de una propagación explosiva del antisemitismo y de la disminución gradual de nuestra comprensión sobre las causas y consecuencias de estas atrocidades», Audrey Azoulay , dijo el director general de la UNESCO, en un comunicado que acompaña al informe.

El informe de la UNESCO pidió a las empresas de tecnología que establezcan reglas éticas para el desarrollo y uso de la IA, para reducir las posibilidades de información poco confiable y para evitar que los malos actores aprovechen sus programas para fomentar la violencia y difundir mentiras sobre el Holocausto.

El informe fue publicado en colaboración con el Congreso Judío Mundial.