Meta ‘tribunal suprema’ se ocupa de casos de pornografía deepfake
La junta de supervisión de Meta dijo el martes que está examinando las políticas de pornografía deepfake del titán de las redes sociales, a través de la lente de dos casos.
La medida de lo que se conoce como un «tribunal supremo» de Meta para disputas de moderación de contenido se produce pocos meses después del intercambio generalizado de imágenes lascivas generadas por IA de la megaestrella Taylor Swift en X.
La junta de Meta eligió sus dos casos, relacionados con imágenes compartidas en Instagram y Facebook, para «evaluar si las políticas de Meta y sus prácticas de cumplimiento son efectivas para abordar imágenes explícitas generadas por IA», dijo en el comunicado.
La junta puede hacer recomendaciones sobre las políticas de pornografía deepfake del gigante de las redes sociales, pero depende de la empresa de tecnología realizar cualquier cambio.
El primer caso asumido por la Meta Oversight Board involucra una imagen generada por IA de una mujer desnuda publicada en Instagram.
La mujer en la foto se parecía a una figura pública de la India, lo que generó quejas de los usuarios de ese país.
Meta dejó la imagen arriba y luego dijo que lo hizo por error, dijo la junta.
El segundo caso involucra una foto publicada en un grupo de Facebook dedicado a creaciones de IA. Esa imagen mostraba a una mujer desnuda que se asemejaba a «una figura pública estadounidense» con un hombre tocando uno de sus senos, dijo la junta en un comunicado.
La junta no nombró a la mujer, que dijo fue identificada en un pie de foto de la imagen sintética en cuestión.
Meta eliminó la imagen por violar su política de acoso y el usuario que publicó el contenido apeló la decisión, según la junta.
Se invitó a las personas a enviar comentarios, particularmente sobre la gravedad de los daños que plantea la pornografía deepfake y el daño que causa a las mujeres que son figuras públicas.
Las imágenes pornográficas deepfake de celebridades no son nuevas, pero a los activistas y reguladores les preocupa que las herramientas fáciles de usar que emplean inteligencia artificial generativa creen una avalancha incontrolable de contenido tóxico o dañino.
El ataque a Swift, una de las artistas más reproducidas del mundo cuya última gira de conciertos la impulsó a la cima de la fama estadounidense, puso de relieve el fenómeno, con sus legiones de fanáticos indignados por el desarrollo.
«Es alarmante», dijo la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, cuando se le preguntó sobre las imágenes en aquel momento.
«Lamentablemente sabemos que la falta de aplicación de la ley (por parte de las plataformas tecnológicas) afecta desproporcionadamente a las mujeres y también a las niñas, que son el blanco abrumador del acoso en línea», añadió Jean-Pierre.
© 2024 AFP