La ola electoral y la desinformación de la IA aumentan las apuestas en 2024
Mientras se avecinan elecciones en más de 60 países, la desinformación impulsada por la IA plantea un desafío peligroso.
Con elecciones previstas en países que representan la mitad de la población mundial y nuevas tecnologías impulsando la desinformación, 2024 será una importante prueba de estrés para la política en la era de la IA.
2024 ha sido calificado como un año decisivo para la democracia, con votaciones cruciales previstas en más de 60 países, entre ellos India, Sudáfrica, Pakistán, Gran Bretaña, Indonesia y Estados Unidos, así como la Unión Europea.
Ya se ha llevado a cabo la primera prueba importante sobre cómo sobrevivir a una avalancha de desinformación impulsada por la IA.
Los votantes de Taiwán respaldaron a Lai Ching-te para la presidencia la semana pasada a pesar de una campaña masiva de desinformación en su contra, que según los expertos fue orquestada por China.
Beijing considera a Lai un separatista peligroso por afirmar la independencia de Taiwán, y TikTok se vio inundado de teorías de conspiración y declaraciones despectivas sobre él en el período previo a la votación.
LEA TAMBIÉN: MIRAR: Google utiliza IA para abordar la inseguridad alimentaria, el clima y las inundaciones
Una investigación de AFP Fact-Check encontró que varios vídeos de este tipo se originaron en Douyin, la versión china de la aplicación.
Sin embargo, aún está por verse cómo se desarrollarán las cosas en otros países. La IA generativa amenaza con exacerbar tendencias cada vez más profundas de polarización y pérdida de confianza en los principales medios de comunicación.
Ya el año pasado, imágenes falsas del arresto de Donald Trump o del anuncio de Joe Biden de una movilización general para apoyar a Ucrania demostraron hasta qué punto ha avanzado la tecnología.
Los últimos indicios fáciles de una falsificación (en particular, los problemas de la IA con detalles como los dedos) están desapareciendo rápidamente, debilitando los mecanismos de detección.
Y hay mucho en juego.
LEA TAMBIÉN: El Papa pide un tratado global para regular la IA
Amenaza número uno
El Foro Económico Mundial (FEM) calificó la desinformación como su amenaza número uno durante los próximos dos años.
Socavar la legitimidad de las elecciones podría conducir a conflictos internos y terrorismo, e incluso al «colapso del Estado» en casos extremos, advirtió.
Grupos vinculados en particular a Rusia, China e Irán están desplegando desinformación impulsada por IA, buscando “dar forma y alterar” las elecciones en países rivales, dijo el grupo de análisis Recorded Future.
Las elecciones de la UE en junio probablemente se verán afectadas por campañas destinadas a socavar la cohesión del bloque y su apoyo a Ucrania, dijo Julien Nocetti, especialista en Rusia del Instituto Francés de Relaciones Internacionales.
LEA TAMBIÉN: La UE busca un acuerdo sobre la primera ley de IA del mundo
No seria la primera vez.
La “operación Doppelganger” lanzada a principios de 2022 utilizó clones de medios de comunicación e instituciones públicas conocidos para difundir temas de conversación prorrusos, en particular sobre Ucrania.
Las autoridades francesas y Meta (propietaria de Facebook, WhatsApp e Instagram) lo vincularon con el Kremlin.
Paradójicamente, los regímenes represivos también podrían utilizar la amenaza de la desinformación para justificar una mayor censura y otras violaciones de derechos, afirmó el FEM.
Los estados esperan contraatacar con legislación, pero están trabajando a un ritmo glacial en comparación con el progreso exponencial de la IA.
LEA TAMBIÉN: Peligro de deepfake: cuidado con estas estafas de Musk y Ramaphosa
La próxima Ley de India Digital y la Ley de Servicios Digitales de la UE exigirán que las plataformas apunten a la desinformación y eliminen el contenido ilegal. Sin embargo, los expertos se muestran escépticos sobre su capacidad de aplicación de la ley.
Tanto China como la UE están trabajando en leyes integrales sobre IA, pero llevarán tiempo. Es poco probable que la ley de la UE esté completa antes de 2026.
En octubre, el presidente de Estados Unidos, Joe Biden, emitió una orden ejecutiva sobre los estándares de seguridad de la IA.
Pero los críticos dicen que carece de fuerza, mientras que algunos legisladores temen que una regulación excesiva obstaculice su industria tecnológica y beneficie a sus rivales.
Bajo presión para actuar, las empresas tecnológicas han introducido sus propias iniciativas.
LEA TAMBIÉN: El uso de IA en las cárceles de Mozambique genera nuevas esperanzas en la lucha contra la tuberculosis
Meta dice que los anunciantes tendrán que revelar si su contenido utilizó IA generativa, mientras que Microsoft tiene una herramienta para que los candidatos políticos autentiquen su contenido con una marca de agua digital.
Pero las plataformas dependen cada vez más para la verificación de… la IA.
«Automatizar la lucha contra la desinformación no parece la mejor manera de entender las estrategias hostiles», afirmó Nocetti.
– Por: © Agencia France-Presse