IA generativa: Meta identifica redes que impulsan contenido engañoso probablemente generado por IA
El empresa de redes socialesen un trimestre reporte de seguridaddijo que las cuentas se hacían pasar por estudiantes judíos, afroamericanos y otros ciudadanos preocupados, dirigidas a audiencias en Estados Unidos y Canadá. Atribuyó la campaña a Empresa de marketing político con sede en Tel Aviv ESTOICO.
Mejore su destreza tecnológica con cursos de habilidades de alto valor
| Ofreciendo universidad | Curso | Sitio web |
|---|---|---|
| Escuela de Negocios de la India | Certificado Profesional en Gestión de Productos | Visita |
| IIT Delhi | Programa de certificación en ciencia de datos y aprendizaje automático | Visita |
| CON xPRO | Liderazgo e innovación tecnológica del MIT | Visita |
STOIC no respondió de inmediato a una solicitud de comentarios sobre las acusaciones.
POR QUÉ ES IMPORTANTE
Si bien Meta ha encontrado fotos de perfil básicas generadas por inteligencia artificial en operaciones de influencia Desde 2019, el informe es el primero en revelar el uso de tecnología basada en texto. IA generativa tecnología desde que surgió a finales de 2022.
A los investigadores les preocupa que la IA generativa, que puede producir de forma rápida y económica textos, imágenes y audio similares a los humanos, pueda conducir a tecnologías más efectivas. campañas de desinformación y balancearse elecciones.
Descubre las historias de tu interés
En una llamada de prensa, los ejecutivos de seguridad de Meta dijeron que eliminaron la campaña israelí temprano y que no creían que las nuevas tecnologías de inteligencia artificial hubieran impedido su capacidad para interrumpir las redes de influencia, que son intentos coordinados de enviar mensajes. Los ejecutivos dijeron que no habían visto redes de este tipo que desplegaran imágenes de políticos generadas por IA lo suficientemente realistas como para confundirlas con fotografías auténticas.
CITA CLAVE
«Hay varios ejemplos en estas redes de cómo utilizan probablemente herramientas de IA generativa para crear contenido. Tal vez les dé la capacidad de hacerlo más rápido o con más volumen. Pero en realidad no ha afectado nuestra capacidad para detectarlos. «, dijo el jefe de investigaciones de amenazas de Meta, Mike Dvilyanski.
POR LOS NÚMEROS
El informe destacó seis operaciones de influencia encubiertas que Meta interrumpió en el primer trimestre.
Además de la red STOIC, Meta cerró una red con sede en Irán centrada en el conflicto entre Israel y Hamas, aunque no identificó ningún uso de IA generativa en esa campaña.
CONTEXTO
Meta y otros gigantes tecnológicos han luchado por encontrar la manera de abordar el posible uso indebido de las nuevas tecnologías de inteligencia artificial, especialmente en las elecciones.
Los investigadores han encontrado ejemplos de generadores de imágenes de empresas que incluyen AbiertoAI y microsoft producir fotografías con desinformación relacionada con la votación, a pesar de que esas empresas tienen políticas contra dicho contenido.
Las empresas han puesto énfasis en los sistemas de etiquetado digital para marcar Contenido generado por IA en el momento de su creación, aunque las herramientas no funcionan sobre texto y los investigadores tienen dudas sobre su eficacia.
QUE SIGUE
Meta enfrenta pruebas clave de sus defensas con elecciones en la Unión Europea a principios de junio y en Estados Unidos en noviembre.