Desinformación sobre IA: Casa Blanca 2024: la IA amenaza con «sobrealimentar» la desinformación
Los activistas de ambos lados del pasillo político estadounidense están aprovechando herramientas avanzadas impulsadas por inteligencia artificial, que muchos expertos en tecnología ven como un arma de doble filo.
Mejore su destreza tecnológica con cursos de habilidades de alto valor
| Ofreciendo universidad | Curso | Sitio web |
|---|---|---|
| IIT Delhi | Programa de certificación IITD en ciencia de datos y aprendizaje automático | Visita |
| IIM Lucknow | Programa Ejecutivo IIML en FinTech, Banca y Gestión de Riesgos Aplicados | Visita |
| IIM Kozhikode | IIMK Ciencia de datos avanzada para gerentes | Visita |
Los programas de inteligencia artificial pueden clonar en un instante la voz de una figura política y crear videos y textos tan aparentemente reales que los votantes podrían tener dificultades para descifrar la verdad de la ficción, socavando la confianza en el proceso electoral.
Al mismo tiempo, es probable que las campañas utilicen la tecnología para aumentar la eficiencia operativa en todo, desde el análisis de la base de datos de votantes hasta la redacción de correos electrónicos para recaudar fondos.
Un vídeo publicado en junio por la campaña presidencial del gobernador de Florida, Ron DeSantis, pretendía mostrar al expresidente Trump abrazando a Anthony Fauci, uno de los sacos de boxeo republicanos favoritos durante la pandemia de coronavirus.
Los verificadores de datos de la AFP descubrieron que el vídeo utilizaba imágenes generadas por IA.
Descubre las historias de tu interés
Después de que Biden anunciara formalmente su candidatura a la reelección, el Partido Republicano publicó en abril un vídeo que, según dijo, era una «mirada generada por IA sobre el posible futuro del país» si gana. Mostraba imágenes fotorrealistas del pánico en Wall Street y China invadiendo Taiwán. , oleadas de inmigrantes que invadieron a los agentes fronterizos y una toma militar de San Francisco en medio de crímenes espantosos.
Otros ejemplos de imágenes de IA relacionados con la campaña incluyen fotos falsas de Trump siendo detenido por agentes de policía de Nueva York y videos de Biden declarando un reclutamiento nacional para apoyar el esfuerzo de guerra de Ucrania contra Rusia.
– ‘Salvaje oeste’ –
«La IA generativa amenaza con potenciar las campañas de desinformación en línea», dijo la organización sin fines de lucro Freedom House en un informe reciente, advirtiendo que la tecnología ya se estaba utilizando para difamar a los oponentes electorales en Estados Unidos.
«Los proveedores de desinformación están empleando imágenes, audio y texto generados por IA, lo que hace que la verdad sea más fácil de distorsionar y más difícil de discernir».
Más del 50 por ciento de los estadounidenses esperan que las falsedades basadas en la IA afecten el resultado de las elecciones de 2024, según una encuesta publicada en septiembre por el grupo de medios Axios y la firma de inteligencia empresarial Morning Consult.
Según la encuesta, alrededor de un tercio de los estadounidenses dijeron que confiarán menos en los resultados debido a la IA.
En un entorno político hiperpolarizado, los observadores advierten que tales sentimientos corren el riesgo de avivar la ira pública ante el proceso electoral, similar al asalto del 6 de enero de 2021 al Capitolio de Estados Unidos por parte de partidarios de Trump por acusaciones falsas de que le robaron las elecciones de 2020.
«A través de plantillas (de IA) que son fáciles y económicas de usar, nos enfrentaremos a un salvaje oeste de afirmaciones y contrademandas de campaña, con una capacidad limitada para distinguir el material falso del real y la incertidumbre sobre cómo estas apelaciones afectarán las elecciones. » dijo Darrell West de la Institución Brookings.
– ‘Cambio de juego’ –
Al mismo tiempo, los rápidos avances de la IA también la han convertido en un recurso «revolucionario» para comprender a los votantes y las tendencias de las campañas a un «nivel muy granular», dijo Vance Reavie, director ejecutivo de Junction AI.
Antes, el personal de la campaña dependía de consultores costosos para desarrollar planes de divulgación y dedicaba horas a redactar discursos, temas de conversación y publicaciones en las redes sociales, pero la IA ha hecho posibles los mismos trabajos en una fracción de ese tiempo, dijo Reavie a la AFP.
Pero subrayando el potencial de abuso, cuando la AFP ordenó al ChatGPT, impulsado por inteligencia artificial, que creara un boletín de campaña a favor de Trump, alimentándolo con declaraciones falsas del expresidente desmentidas por verificadores de datos estadounidenses, produjo, en cuestión de segundos, una hábil campaña. documento con esas falsedades.
Cuando la AFP instó al chatbot a «enfadar aún más» el boletín, regurgitó las mismas falsedades en un tono más apocalíptico.
Las autoridades están luchando por establecer barreras de seguridad para la IA, y varios estados de EE. UU., como Minnesota, han aprobado leyes para penalizar los deepfakes destinados a dañar a candidatos políticos o influir en las elecciones.
El lunes, Biden firmó una ambiciosa orden ejecutiva para promover el uso «seguro y confiable» de la IA.
«Los deep fakes utilizan audio y vídeo generados por IA para difamar reputaciones… difundir noticias falsas y cometer fraude», dijo Biden al firmar la orden.
Expresó su preocupación de que los estafadores pudieran tomar una grabación de tres segundos de la voz de alguien para generar un audio deepfake.
«He visto uno de mí», dijo.
«Dije: ‘¿Cuándo diablos dije eso?'»