TikTok comenzará a etiquetar contenido generado por IA a medida que la tecnología se vuelva más universal
TikTok comenzará a etiquetar el contenido creado con inteligencia artificial cuando se suba desde fuera de su propia plataforma en un intento de combatir la desinformación.
«La IA permite oportunidades creativas increíbles, pero puede confundir o engañar a los espectadores si no saben que el contenido fue generado por IA», dijo la compañía en una declaración preparada el jueves. «El etiquetado ayuda a aclarar ese contexto, razón por la cual etiquetamos AIGC creado con efectos de IA de TikTok y hemos exigido a los creadores que etiqueten AIGC realista durante más de un año».
El cambio de política de TikTok es parte de un intento más amplio en la industria tecnológica de brindar más salvaguardias para el uso de la IA. En febrero, Meta anunció que estaba trabajando con socios de la industria en estándares técnicos que facilitarán la identificación de imágenes y, eventualmente, videos y audio generados por herramientas de inteligencia artificial. Los usuarios de Facebook e Instagram verían etiquetas en imágenes generadas por IA.
Google dijo el año pasado que las etiquetas de IA llegarán a YouTube y sus otras plataformas.
Un impulso para la creación de marcas de agua digitales y el etiquetado de contenidos generados por IA también fue parte de una orden ejecutiva que el presidente estadounidense Joe Biden firmó en octubre.
TikTok se está asociando con la Coalición para la procedencia y autenticidad del contenido y utilizará su tecnología de credenciales de contenido.
La compañía dijo que la tecnología puede adjuntar metadatos al contenido, que puede utilizar para reconocer y etiquetar instantáneamente el contenido generado por IA. TikTok dijo que comenzó a implementar la tecnología el jueves en imágenes y videos y que pronto llegará al contenido de solo audio.
En los próximos meses, se adjuntarán credenciales de contenido a los envíos realizados en TikTok, que permanecerán en el contenido cuando se descarguen. Esto ayudará a identificar el material generado por IA que se crea en TikTok y ayudará a las personas a saber cuándo, dónde y cómo se creó o editó el contenido. Otras plataformas que adopten Credenciales de Contenido podrán etiquetarlo automáticamente.
«El uso de credenciales de contenido como una forma de identificar y transmitir medios sintéticos a las audiencias directamente es un paso significativo hacia la transparencia de la IA, incluso más que las técnicas típicas de marcas de agua», Claire Leibowicz, directora del Programa de Integridad de Medios e IA de Partnership on AI, dijo en una declaración preparada. «Al mismo tiempo, necesitamos comprender mejor cómo reaccionan los usuarios a estas etiquetas y esperar que TikTok informe sobre la respuesta para que podamos comprender mejor cómo el público navega en un mundo cada vez más potenciado por la IA».
TikTok dijo que es la primera plataforma para compartir videos que pone en práctica las credenciales y se unirá a la Iniciativa de Autenticidad de Contenido liderada por Adobe para ayudar a impulsar la adopción de las credenciales dentro de la industria.
“TikTok es la primera plataforma de redes sociales que admite credenciales de contenido y, con más de 170 millones de usuarios solo en los Estados Unidos, su plataforma y su vasta comunidad de creadores y usuarios son una pieza esencial de esa cadena de confianza necesaria para aumentar la transparencia en línea. ”, dijo Dana Rao, vicepresidente ejecutivo, asesor general y director de confianza de Adobe, en una publicación de blog.
La política de TikTok en el pasado ha sido alentar a los usuarios a etiquetar contenido generado o editado significativamente por IA. También requiere que los usuarios etiqueten todo el contenido generado por IA que contenga imágenes, audio y video realistas.
«Nuestros usuarios y creadores están muy entusiasmados con la IA y lo que puede hacer por su creatividad y su capacidad para conectarse con el público». Adam Presser, jefe de operaciones, confianza y seguridad de TikTok, dijo a ABC News. «Y al mismo tiempo, queremos asegurarnos de que la gente tenga la capacidad de comprender qué es realidad y qué es ficción».
El anuncio se produjo inicialmente en el programa “Good Morning America” de ABC el jueves.
Las acciones de TikTok contra la IA se producen apenas dos días después de que TikTok dijera que ella y su empresa matriz china, ByteDance, habían presentado una demanda desafiando una nueva ley estadounidense que prohibiría la aplicación para compartir videos en los EE. UU. a menos que se venda a un comprador aprobado, diciendo que singulariza injustamente la plataforma y es un ataque sin precedentes a la libertad de expresión.
La demanda es el último giro en lo que se perfila como una lucha legal prolongada sobre el futuro de TikTok en Estados Unidos, y que podría terminar ante la Corte Suprema. Si TikTok pierde, dice que se verá obligada a cerrar el próximo año.
© Copyright 2024 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse sin permiso.