OpenAI dice que Rusia y China utilizaron su IA en campañas encubiertas
Al igual que Google, Meta y Microsoft, OpenAI ofrece chatbots en línea y otras herramientas de inteligencia artificial que pueden escribir publicaciones en redes sociales, generar imágenes fotorrealistas y escribir programas de computadora. En su informe, la compañía dijo que sus herramientas habían sido utilizadas en campañas de influencia que los investigadores habían seguido durante años, incluida una campaña rusa llamada Doppelganger y una campaña china llamada Spamouflage.
La campaña Doppelganger utilizó la tecnología de OpenAI para generar comentarios contra Ucrania que se publicaron en X en inglés, francés, alemán, italiano y polaco, dijo OpenAI. Las herramientas de la empresa también se utilizaron para traducir y editar artículos que apoyaban a Rusia en la guerra de Ucrania al inglés y al francés, y para convertir artículos de noticias contra Ucrania en publicaciones de Facebook.
Las herramientas de OpenAI también se utilizaron en una campaña rusa previamente desconocida dirigida a personas en Ucrania, Moldavia, los Estados bálticos y Estados Unidos, principalmente a través del servicio de mensajería Telegram, dijo la compañía. La campaña utilizó IA para generar comentarios en ruso e inglés sobre la guerra en Ucrania, así como la situación política en Moldavia y la política estadounidense. El esfuerzo también utilizó herramientas OpenAI para depurar código informático que aparentemente estaba diseñado para publicar información automáticamente en Telegram.
Los comentarios políticos recibieron pocas respuestas y «me gusta», dijo OpenAI. Los esfuerzos también fueron a veces poco sofisticados. En un momento, la campaña publicó un texto que obviamente había sido generado por IA: «Como modelo de lenguaje de IA, estoy aquí para ayudar y brindar el comentario deseado», decía una publicación. En otros momentos, publicó en un inglés deficiente, lo que llevó a OpenAI a calificar el esfuerzo como «Mala gramática».
Spamouflage, que durante mucho tiempo se ha atribuido a China, utilizó la tecnología OpenAI para depurar código, buscar asesoramiento sobre cómo analizar las redes sociales e investigar eventos actuales, dijo OpenAI. Sus herramientas también se utilizaron para generar publicaciones en las redes sociales que menospreciaban a las personas que habían criticado al gobierno chino.