Informe insta a corregir la explotación infantil en línea CyberTipline antes de que la IA empeore la situación

Una línea telefónica de información creada hace 26 años para combatir la explotación infantil en línea no ha estado a la altura de su potencial y necesita mejoras tecnológicas y de otro tipo para ayudar a las fuerzas del orden a perseguir a los abusadores y rescatar a las víctimas, según un nuevo informe del Observatorio de Internet de Stanford.

Las soluciones a lo que los investigadores describen como un servicio “enormemente valioso” también deben llegar con urgencia, ya que la nueva tecnología de inteligencia artificial amenaza con empeorar sus problemas.

«Es casi seguro que en los próximos años, CyberTipline se verá inundado de contenido de inteligencia artificial de aspecto muy realista, lo que hará que sea aún más difícil para las fuerzas del orden identificar a niños reales que necesitan ser rescatados», dijo la investigadora Shelby Grossman. un autor del informe.

El servicio fue establecido por el Congreso como la principal línea de defensa para los niños explotados en línea. Por ley, las empresas de tecnología deben informar al sistema, operado por el Centro Nacional para Niños Desaparecidos y Explotados, cualquier material de abuso sexual infantil que encuentren en sus plataformas. Después de recibir los informes, el NCMEC intenta encontrar a las personas que enviaron o recibieron el material, así como a las víctimas, si es posible. Estos informes luego se envían a las autoridades.

Si bien la gran cantidad de informes de CyberTipline abruma a las autoridades, los investigadores dicen que el volumen es sólo uno de varios problemas centrales del sistema. Por ejemplo, muchos de los informes enviados por empresas de tecnología carecen de detalles importantes, como información suficiente sobre la identidad del delincuente, según el informe. Esto dificulta que las fuerzas del orden sepan qué informes priorizar.

«Hay problemas importantes con todo el sistema en este momento y esas grietas se convertirán en abismos en un mundo en el que la IA está generando CSAM completamente nuevo», dijo Alex Stamos, usando las iniciales de los materiales de abuso sexual infantil. Stamos es profesor de Stanford y experto en ciberseguridad.

El sistema está atrasado tecnológicamente y está plagado de un desafío constante entre las plataformas tecnológicas gubernamentales y sin fines de lucro: la falta de ingenieros altamente calificados, a quienes se les pueden pagar salarios mucho más altos en la industria tecnológica. A veces, esos empleados incluso son cazados furtivamente por las mismas empresas que envían los informes.

Luego están las limitaciones legales. Según el informe, las decisiones judiciales han llevado al personal del NCMEC a dejar de examinar algunos archivos (por ejemplo, si no están disponibles públicamente) antes de enviarlos a las autoridades. Muchos funcionarios encargados de hacer cumplir la ley creen que necesitan una orden de registro para acceder a esas imágenes, lo que ralentiza el proceso. A veces, se necesitan varias órdenes judiciales o citaciones para identificar al mismo delincuente.

También es fácil que el sistema se distraiga. El informe revela que el NCMEC recientemente alcanzó un hito de un millón de informes en un solo día debido a un meme que se estaba difundiendo en múltiples plataformas, que algunas personas pensaron que era divertido y otras compartían por indignación.

«Ese día en realidad los llevó a hacer algunos cambios», dijo Stamos. “Les llevó semanas superar ese retraso” facilitando la agrupación de esas imágenes.

CyberTipline recibió más de 36 millones de informes en 2023, casi todos desde plataformas en línea. Facebook, Instagram y Google fueron las empresas que enviaron un mayor número de informes. El número total ha aumentado espectacularmente. Provienen de grandes empresas como Google, Amazon y Meta, así como de otras más pequeñas.

Casi la mitad de las denuncias enviadas el año pasado fueron procesables, lo que significa que el NCMEC y las autoridades podrían dar seguimiento.

Cientos de informes se referían al mismo delincuente y muchos incluían varias imágenes o vídeos. Alrededor del 92% de las denuncias presentadas en 2023 involucraron a países fuera de los EE. UU., un gran cambio con respecto a 2008, cuando la mayoría involucraba a víctimas o delincuentes dentro de los EE. UU.

Algunas son falsas alarmas. “Las autoridades se vuelven locas cuando reciben estos informes que perciben que definitivamente son adultos”, dijo Grossman a los periodistas. «Pero el sistema incentiva a las plataformas a ser muy conservadoras o a reportar contenido potencialmente dudoso, porque si se descubre que ha sido CSAM y lo sabían y no lo reportaron, podrían recibir multas».

Una solución relativamente sencilla propuesta en el informe mejoraría la forma en que las plataformas tecnológicas etiquetan lo que informan para distinguir entre memes ampliamente compartidos y algo que merece una investigación más detallada.

Los investigadores de Stanford entrevistaron a 66 personas involucradas con CyberTipLine, desde agentes del orden hasta personal del NCMEC y empleados de plataformas en línea.

El NCMEC dijo que esperaba “explorar las recomendaciones internamente y con las partes interesadas clave”.

“A lo largo de los años, la complejidad de los informes y la gravedad de los crímenes contra niños siguen evolucionando. Por lo tanto, aprovechar las soluciones tecnológicas emergentes en todo el proceso CyberTipline conduce a que se proteja a más niños y a que los delincuentes rindan cuentas”, dijo en un comunicado.

Entre otros hallazgos del informe:

— El formulario de denuncia de CyberTipline no tiene un campo dedicado para enviar material relacionado con el chat, como mensajes de sextorsión. El FBI advirtió recientemente sobre un “enorme aumento” en los casos de sextorsión dirigida a niños, incluida la sextorsión financiera, en la que alguien amenaza con publicar imágenes comprometedoras a menos que la víctima pague.

— Los detectives de la policía dijeron a los investigadores de Stanford que les está resultando difícil persuadir a sus superiores para que den prioridad a estos delitos, incluso después de que les presenten descripciones escritas detalladas para enfatizar su gravedad. «Hacen una mueca de dolor cuando lo leen y realmente no quieren pensar en esto», dijo Grossman.

— Muchos funcionarios encargados de hacer cumplir la ley dijeron que no pudieron investigar completamente todos los informes debido a limitaciones de tiempo y recursos. Un solo detective puede ser responsable de 2.000 informes al año.

— Fuera de Estados Unidos, especialmente en los países más pobres, los desafíos en torno a los informes de explotación infantil son especialmente graves. Es posible que los organismos encargados de hacer cumplir la ley no tengan conexiones confiables a Internet, “computadoras decentes” o incluso gasolina para los automóviles para ejecutar órdenes de registro.

— La legislación pendiente aprobada por el Senado de Estados Unidos en diciembre requeriría que las plataformas en línea denuncien el tráfico sexual infantil y la incitación en línea a CyberTipline y darían a las autoridades más tiempo para investigar la explotación sexual infantil. Actualmente, la línea informativa no ofrece formas sencillas de denunciar sospechas de tráfico sexual.

Si bien algunos defensores han propuesto leyes de vigilancia más intrusivas para atrapar a los abusadores, Stamos, ex director de seguridad de Facebook y Yahoo, dijo que primero deberían probar soluciones más simples.

“No hay necesidad de violar la privacidad de los usuarios si se quiere encarcelar a más pedófilos. Están ahí sentados”, dijo Stamos. «El sistema no funciona muy bien al tomar la información que existe actualmente y luego convertirla en procesamientos».

© Copyright 2024 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse sin permiso.