Meta recurre a la IA para proteger a los menores de la ‘sextorsión’ en Instagram
Meta dijo el jueves que estaba desarrollando nuevas herramientas para proteger a los usuarios adolescentes de estafas de «sextorsión» en su plataforma Instagram, que ha sido acusada por políticos estadounidenses de dañar la salud mental de los jóvenes.
Las pandillas realizan estafas de sextorsión persuadiendo a las personas para que proporcionen imágenes explícitas de sí mismas y luego amenazando con revelarlas al público a menos que reciban dinero.
Meta dijo que estaba probando una herramienta de «protección contra la desnudez» impulsada por inteligencia artificial que encontraría y difuminaría imágenes que contengan desnudez enviadas a menores en el sistema de mensajería de la aplicación.
«De esta manera, el destinatario no está expuesto a contenidos íntimos no deseados y tiene la opción de ver la imagen o no», explica a la AFP Capucine Tuffier, responsable de la protección de la infancia en Meta France.
La compañía estadounidense dijo que también ofrecería consejos y sugerencias de seguridad a cualquiera que envíe o reciba dichos mensajes.
Según las autoridades, unos 3.000 jóvenes fueron víctimas de estafas de explotación sexual en 2022 en Estados Unidos.
Por otra parte, más de 40 estados de EE.UU. comenzaron a demandar a Meta en octubre en un caso que acusa a la empresa de haberse «beneficiado del dolor de los niños».
La presentación legal alegaba que Meta había explotado a los usuarios jóvenes al crear un modelo de negocio diseñado para maximizar el tiempo que pasan en la plataforma a pesar de los daños a su salud.
Meta anunció en enero que implementaría medidas para proteger a los menores de 18 años que incluían endurecer las restricciones de contenido y aumentar las herramientas de supervisión parental.
La firma dijo el jueves que las últimas herramientas se basaban en «nuestro trabajo de larga data para ayudar a proteger a los jóvenes de contactos no deseados o potencialmente dañinos».
«Estamos probando nuevas funciones para ayudar a proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas, y para hacer más difícil que los estafadores y delincuentes potenciales encuentren e interactúen con los adolescentes», dijo la compañía.
Añadió que la herramienta de «protección contra la desnudez» utilizaba «aprendizaje automático en el dispositivo», una especie de Inteligencia Artificial, para analizar imágenes.
La firma, que también es constantemente acusada de violar la privacidad de los datos de sus usuarios, enfatizó que no tendría acceso a las imágenes a menos que los usuarios las reportaran.
Meta dijo que también utilizaría herramientas de inteligencia artificial para identificar cuentas que envíen material ofensivo y restringiría severamente su capacidad para interactuar con usuarios jóvenes en la plataforma.
La denunciante Frances Haugen, ex ingeniera de Facebook, dio a conocer en 2021 una investigación realizada internamente por Meta (entonces conocida como Facebook) que demostraba que la empresa era consciente desde hacía mucho tiempo de los peligros que planteaban sus plataformas para la salud mental de los jóvenes.
© 2024 AFP