Juez bloquea ley de California que apuntaba a anuncios de campaña deepfake
Con videos y audios deepfake abriéndose paso en las campañas políticas, California promulgó sus restricciones más estrictas hasta el momento en septiembre: una ley que prohíbe los anuncios políticos dentro de los 120 días posteriores a una elección que incluyan contenido engañoso, generado digitalmente o alterado a menos que los anuncios estén etiquetados como “manipulados”. «
El miércoles, un juez federal bloqueó temporalmente la ley, diciendo que violaba la Primera Enmienda.
En California siguen vigentes otras leyes contra los anuncios de campaña engañosos, incluida una que exige que los candidatos y los comités de acción política revelar cuando los anuncios utilizan inteligencia artificial para crear o alterar sustancialmente el contenido. Pero la medida cautelar dictada contra Proyecto de ley 2839 de la Asamblea significa que no habrá una prohibición amplia contra personas que utilicen inteligencia artificial para clonar la imagen o la voz de un candidato y retratarla falsamente sin revelar que las imágenes o palabras son falsas.
La orden judicial fue solicitada por Christopher Kohls, un comentarista conservador que ha creado una serie de videos falsos satirizando a los demócratas, incluida la candidata presidencial del partido, la vicepresidenta Kamala Harris. Se cita al gobernador Gavin Newsom uno de esos vídeos – que mostraba clips de Harris mientras una versión falsa de su voz hablaba de ser la «contratación definitiva para la diversidad» y profesaba ignorancia e incompetencia – cuando firmó la AB 2839, pero la medida en realidad se introdujo en febrero, mucho antes del video de Harris de Kohls. se volvió viral en X.
Cuando se le preguntó en X sobre el fallo, Kohls dijo: “¡La libertad prevalece! Por ahora.»
Los videos deepfake que satirizan a los políticos, incluido uno dirigido a la vicepresidenta Kamala Harris, se han vuelto virales en las redes sociales.
(Darko Vojinovic/Associated Press)
El decisión del juez de distrito estadounidense John A. Méndez ilustra la tensión entre los esfuerzos para proteger contra la falsificación impulsada por la IA que podría influir en las elecciones y las sólidas salvaguardias de la Declaración de Derechos para el discurso político.
Al otorgar una orden judicial preliminar, Méndez escribió: “Cuando el discurso político y la política electoral están en juego, la Primera Enmienda ha dictado casi inequívocamente que los tribunales permitan que el discurso florezca en lugar de apoyar el intento del Estado de sofocarlo… [M]La mayor parte de AB 2839 actúa como un martillo en lugar de un bisturí, sirviendo como una herramienta contundente que obstaculiza la expresión humorística y sofoca inconstitucionalmente el intercambio libre y sin restricciones de ideas que es tan vital para el debate democrático estadounidense”.
Robert Weissman, copresidente de Public Citizen, respondió: “La Primera Enmienda no debería atarnos las manos a la hora de abordar una amenaza grave, previsible y real a nuestra democracia”.
Robert Weissman, de la organización de defensa del consumidor Public Citizen, dice que otros 20 estados han adoptado leyes similares a la AB 2839, pero existen diferencias clave.
(Nick Wass/Prensa asociada)
Weissman dijo que 20 estados habían adoptado leyes que seguían el mismo enfoque central: exigir que los anuncios que utilizan IA para manipular el contenido sean etiquetados como tales. Pero AB 2839 tenía algunos elementos únicos que podrían haber influido en el pensamiento de Méndez, dijo Weissman, incluido el requisito de que la divulgación se mostrara tan grande como el texto más grande visto en el anuncio.
En su fallo, Méndez señaló que la Primera Enmienda se extiende también al discurso falso y engañoso. Incluso en un tema tan importante como la salvaguardia de las elecciones, escribió, los legisladores sólo pueden regular la expresión a través de los medios menos restrictivos.
La AB 2839, que requería que los videos políticos mostraran continuamente la divulgación requerida sobre la manipulación, no utilizó el medio menos restrictivo para proteger la integridad electoral, escribió Méndez. Un enfoque menos restrictivo sería el “contradiscurso”, escribió, aunque no explicó lo que eso implicaría.
Weissman respondió: “El contradiscurso no es un remedio adecuado”. El problema con los deepfakes no es que hagan afirmaciones o insinuaciones falsas sobre un candidato, dijo; “El problema es que muestran al candidato diciendo o haciendo algo que en realidad no hizo”. Los candidatos objetivo tienen la tarea casi imposible de explicar que en realidad no hicieron ni dijeron esas cosas, dijo, lo cual es considerablemente más difícil que contrarrestar una acusación falsa pronunciada por un oponente o formulada por un comité de acción política.
Para los desafíos creados por los anuncios deepfake, exigir la divulgación de la manipulación no es una solución perfecta, dijo. Pero es el remedio menos restrictivo.
Liana Keesing de Número unoun grupo de defensa de la democracia, dijo que la creación de deepfakes no es necesariamente el problema. «Lo que importa es la amplificación de ese contenido falso y engañoso», dijo Keesing, director de campaña del grupo.
Alix Fraser, directora de reforma tecnológica de Número unodijo que lo más importante que pueden hacer los legisladores es abordar cómo se diseñan las plataformas tecnológicas. “¿Cuáles son las barreras en torno a eso? Básicamente no hay ninguno”, dijo, y agregó: “Ese es el problema central tal como lo vemos”.