WME utiliza tecnología de inteligencia artificial para combatir los deepfakes de celebridades
A medida que proliferan los avances en inteligencia artificial, las agencias de talentos están aumentando sus defensas para proteger a las estrellas de Hollywood contra imágenes o videos engañosos y manipulados que pueden poner en riesgo a sus clientes.
El auge de la IA generativa y los “deepfakes” (videos e imágenes que utilizan la imagen de una persona de manera falsa) han llevado a una amplia proliferación de clips no autorizados que pueden dañar las marcas y los negocios de las celebridades.
Estos clips pretenden mostrar a personajes famosos diciendo y haciendo cosas que nunca dijeron o hicieron. Por ejemplo: desnudos falsos de una persona famosa o vídeos elaborados para que parezca una estrella de Hollywood. respaldar un producto en realidad no lo han usado. Y se espera que el problema crezca.
Ahora existen herramientas tecnológicas que utilizan la IA para combatir esa amenaza, y la industria del entretenimiento ha llamado a su puerta.
La agencia de talentos WME se ha asociado con Loteuna firma con sede en Seattle que se especializa en software utilizado para señalar contenido no autorizado publicado con imágenes de clientes en Internet. La empresa, que tiene 25 empleados, envía rápidamente solicitudes a plataformas en línea para que se eliminen las fotos y vídeos infractores.
Los detalles financieros del acuerdo no fueron revelados.
La inteligencia artificial ha sido vista como amiga y enemiga en Hollywood: una herramienta que potencialmente podría hacer que los procesos sean más eficientes e inspirar nuevas innovaciones, pero también es vista como una asesina de empleos y otra forma más de robar la propiedad intelectual.
La necesidad de mejores protecciones contra la IA jugó un papel central en las huelgas del verano pasado del Writers Guild of America y el gremio de actores SAG-AFTRA. El martes, la organización sin fines de lucro Artist Rights Alliance publicó una carta abierta a las empresas de tecnología exigiendo que “dejen de devaluar” su trabajo, con firmas de 200 músicos. incluidos Billie Eilish y Elvis Costello. A medida que se multiplican los deepfakes, las agencias esperan utilizar la IA para detener a los malos actores en línea.
«El peor juego de golpear al topo que vas a jugar es lidiar con el problema de los deepfake sin un socio tecnológico que te ayude», dijo Chris Jacquemin, socio de WME y jefe de estrategia digital.
El cofundador de Loti, Luke Arrigoni, lanzó la startup hace aproximadamente un año y medio. Anteriormente dirigió una empresa de inteligencia artificial llamada Arricor AI y antes fue científico de datos en Creative Artists Agency, el principal rival de WME.
Arrigoni dijo que Loti comenzó a trabajar con WME hace unos cuatro o cinco meses. Los clientes de WME le dan a Loti algunas fotos de ellos mismos desde diferentes ángulos. También grabaron clips de audio cortos que luego se utilizan para ayudar a identificar contenido no autorizado. El software de Loti busca en la web e informa a los clientes sobre estas imágenes no autorizadas y envía solicitudes de eliminación a las plataformas.
«Existe una sensación cada vez mayor de que éste es un problema imposible», dijo Arrigoni. “Ahora existe un refrán en el que la gente dice: ‘Una vez que está en Internet, estará en Internet para siempre’. Toda nuestra empresa disipa ese mito”.
Arrigoni se negó a decir los términos financieros de la asociación o cuántos clientes de WME están utilizando la tecnología de Loti.
Antes de utilizar la tecnología de Loti, dijo Jacquemin, su agencia tendría que luchar contra el problema de los deepfakes de forma mucho más ad hoc. Tendrían que pedir a las plataformas web, como YouTube y Facebook, que eliminen los materiales no autorizados basándose en lo que vieron mientras navegaban o en lo que escucharon a través de sus clientes, cuyos fanáticos señalarían el material manipulado.
La tecnología de Loti proporciona más visibilidad sobre el tema. Puede haber circunstancias en las que no se elimine todo el contenido no autorizado, según los deseos del cliente. Pero al menos los artistas sabrán lo que hay ahí fuera.
En 2022, plataformas como Meta y Google ya estaban lidiando con la eliminación de miles de millones de anuncios o cuentas publicitarias que violado sus políticas de engaño, afirmó Jacquemin.
Ahora, más gente en Hollywood está preocupada por cómo modelos de IA más nuevosalgunos, que en parte están capacitados con datos disponibles públicamente, podrían potencialmente utilizar obras protegidas por derechos de autor. Estas tecnologías podrían desdibujar aún más la línea entre lo real y lo falso.
Si el contenido falso y dañino se mantuviera durante demasiado tiempo, podría perjudicar las oportunidades comerciales y el respaldo comercial de un cliente.
«Son tan realistas que a la mayoría de la gente le resultaría difícil notar la diferencia», dijo Arrigoni.
Esta es la última asociación que WME y su empresa matriz Endeavor han realizado con una empresa relacionada con la IA. En enero, WME asociado con la startup Vermillio, con sede en Chicago, para proteger a los clientes contra el robo de propiedad intelectual, detectando cuándo el contenido generativo de IA utiliza la imagen o la voz de un cliente.
Endeavour es un inversor minoritario en Speechify, que fabrica tecnología de conversión de texto a voz. El director ejecutivo de Endeavor, Ari Emanuel, utilizó la herramienta Speechify para crear una versión sintética de su voz, lo que le dio al palabras de apertura a una llamada sobre resultados de Endeavour el año pasado. (El martes, Endeavour Anunciado que su mayor accionista, Silver Lake, privatizará la empresa en un acuerdo que la valorará en 13.000 millones de dólares).
Hasta ahora, Loti se autofinancia, dijo Arrigoni. Dijo que él mismo invirtió 1 millón de dólares en la empresa. Actualmente, la empresa se encuentra en el proceso de recaudar una cantidad no revelada para una ronda de semillas.