No, esa no es Taylor Swift vendiendo utensilios de cocina Le Creuset

La afinidad de Taylor Swift por Le Creuset es real: su colección de utensilios de cocina apareció en una cuenta de Tumblr dedicada a la decoración del hogar de la estrella del pop, mostrada en sus opciones de regalos en despedida de soltera de un fan y mostrado en un documental de Netflix que fue destacado en la página de Facebook de Le Creuset.

Lo que no es real: el respaldo de Swift a los productos de la compañía, que han aparecido en las últimas semanas en anuncios en Facebook y otros lugares donde aparecen su rostro y su voz.

Los anuncios se encuentran entre las muchas estafas centradas en celebridades que la inteligencia artificial hace mucho más convincentes. En una sola semana de octubre, el actor Tom Hanksel periodista Rey Gayle y la personalidad de YouTube Mrbeast Todos dijeron que se habían utilizado versiones de inteligencia artificial de sí mismos, sin permiso, para promociones engañosas de planes dentales, ofertas de obsequios de iPhone y otros anuncios.

En el caso de Swift, dijeron los expertos, la tecnología de inteligencia artificial ayudó a crear una versión sintética de la voz de la cantante, que fue improvisada con imágenes de ella junto con clips que mostraban los hornos holandeses de Le Creuset. En varios anuncios, la voz clonada de Swift se dirigió a los «Swifties» (sus fans) y dijo que estaba «encantada» de repartir juegos de utensilios de cocina gratuitos. Todo lo que la gente tenía que hacer era hacer clic en un botón y responder algunas preguntas antes de que terminara el día.

Le Creuset dijo que no estuvo involucrado con el cantante para ningún regalo al consumidor. La compañía instó a los compradores a consultar sus cuentas oficiales en línea antes de hacer clic en anuncios sospechosos. Representantes de la Sra. Swift, quien fue nombrada Persona del año por la revista Time en 2023, no respondió a las solicitudes de comentarios.

Los famosos han prestado su celebridad a los anunciantes desde que existe la publicidad. A veces ha sido de mala gana. Hace más de tres décadas, Tom Waits demandó a Frito-Lay – y ganó casi 2,5 millones de dólares – después de que la empresa de chips de maíz imitara al cantante en un anuncio de radio sin su permiso. La campaña de estafa de Le Creuset también presentó versiones inventadas de Martha Stewart y Oprah Winfrey, quienes en 2022 publicaron un video exasperado sobre la prevalencia de anuncios falsos en las redes sociales, correos electrónicos y sitios web que afirman falsamente que ella respalda las gomitas para bajar de peso.

Durante el año pasado, importantes avances en inteligencia artificial han hecho que sea mucho más fácil producir una réplica digital no autorizada de una persona real. Las parodias de audio han sido especialmente fáciles de producir y difíciles de identificar, dijo Siwei Lyu, profesor de informática que dirige el Laboratorio Forense de Medios de la Universidad de Buffalo.

La campaña de estafa de Le Creuset probablemente se creó utilizando un servicio de conversión de texto a voz, dijo el Dr. Lyu. Estas herramientas suelen traducir un guión en una voz generada por IA, que luego puede incorporarse a secuencias de vídeo existentes mediante programas de sincronización de labios.

“Estas herramientas se están volviendo muy accesibles hoy en día”, afirmó el Dr. Lyu, quien añadió que era posible hacer un “vídeo de calidad decente” en menos de 45 minutos. «Se está volviendo muy fácil y es por eso que estamos viendo más».

Docenas de anuncios fraudulentos de Le Creuset separados pero similares que presentan a la Sra. Swift, muchos de ellos publicados este mes, eran visibles a fines de la semana pasada en la biblioteca de anuncios pública de Meta. (La empresa es propietaria de Facebook e Instagram). La campaña también se publicó en TikTok.

Los anuncios dirigían a los espectadores a sitios web que imitaban medios legítimos como Food Network, que mostraban una cobertura de noticias falsas sobre la oferta de Le Creuset junto con testimonios de clientes inventados. Se pidió a los participantes que pagaran una “pequeña tarifa de envío de 9,96 dólares” por los utensilios de cocina. Aquellos que cumplieron se enfrentaron a cargos mensuales ocultos sin recibir nunca los utensilios de cocina prometidos.

Algunos de los anuncios falsos de Le Creuset, como uno que imitaba a la diseñadora de interiores Joanna Gaines, tenían un engañoso brillo de legitimidad en las redes sociales gracias a etiquetas que los identificaban como publicaciones patrocinadas o como provenientes de cuentas verificadas.

En abril, el Better Business Bureau prevenido consumidores que las estafas falsas de celebridades realizadas con IA eran «más convincentes que nunca». Las víctimas a menudo se quedaban con cargos más altos de lo esperado y sin señales del producto que habían pedido. banqueros También han informado de intentos de estafadores de utilizar voces profundas, o réplicas sintéticas de voces de personas reales, para cometer fraude financiero.

El año pasado, varias personas conocidas se distanciaron públicamente de anuncios presentando su imagen o voz manipulada por IA.

Este verano, se difundieron anuncios falsos en línea que pretendían mostrar al cantante de country Luke Combs promocionando gomitas para bajar de peso que le recomendó su compañero músico de country Lainey Wilson. La Sra. Wilson publicó un vídeo de instagram denunciando los anuncios, diciendo que “la gente hará cualquier cosa para ganar un dólar, incluso si son mentiras”. El manager del Sr. Combs, Chris Kappy, también publicó un vídeo de instagram negando su participación en la campaña de gomitas y acusando a empresas extranjeras de utilizar inteligencia artificial para replicar la imagen del Sr. Combs.

«Para otros gerentes, la IA es algo aterrador y la están usando en nuestra contra», escribió.

Un portavoz de TikTok dijo que la aplicación política de anuncios requiere que los anunciantes obtengan consentimiento para «cualquier medio sintético que contenga una figura pública», y agrega que TikTok estándar comunitarioLos anuncios exigen que los creadores revelen «medios sintéticos o manipulados que muestren escenas realistas».

Meta dijo que tomó medidas sobre los anuncios que violaban sus políticasque prohíben el contenido que utilice figuras públicas de forma engañosa para intentar estafar a los usuarios con dinero. La compañía dijo que había tomado medidas legales contra algunos perpetradores de tales esquemas, pero agregó que los anuncios maliciosos a menudo podían evadir los sistemas de revisión de Meta ocultando su contenido.

Sin leyes federales vigentes para abordar las estafas de IA, los legisladores han Legislación propuesta que tendría como objetivo limitar sus daños. Dos proyectos de ley presentados en el Congreso el año pasado (la Ley de Responsabilidad de Deepfakes en la Cámara y la Ley de No Falsificaciones en el Senado) requerirían barreras de seguridad como etiquetas de contenido o permiso para usar la voz o la imagen de alguien.

Al menos nueve estados, incluidos California, Virginia, Florida y Hawái, tienen leyes que regulan el contenido generado por IA.

Por ahora, Swift probablemente seguirá siendo un tema popular de experimentación con IA. Versiones sintéticas de su voz aparecen regularmente en TikTok, interpretando canciones que nunca cantó, sonando coloridamente ante los críticos y sirviendo como tonos de llamada de teléfono. Una entrevista en inglés que dio en 2021 en “Late Night With Seth Meyers” fue doblada con una interpretación artificial de su voz hablando mandarín. Un sitio web cobra hasta 20 dólares por mensajes de voz personalizados del “clon de IA de Taylor Swift”, prometiendo “que la voz que escuchas es indistinguible de la real”.