Apple escaneará iPhones estadounidenses en busca de imágenes de abuso sexual infantil

Apple reveló planes para escanear iPhones estadounidenses en busca de imágenes de abuso sexual infantil, lo que generó aplausos de grupos de protección infantil, pero generó preocupación entre algunos investigadores de seguridad de que el sistema podría ser mal utilizado, incluso por parte de gobiernos que buscan vigilar a sus ciudadanos.

La herramienta diseñada para detectar imágenes conocidas de abuso sexual infantil, llamada «neuralMatch», escaneará las imágenes antes de cargarlas en iCloud.

Si encuentra una coincidencia, un humano revisará la imagen. Si se confirma la pornografía infantil, la cuenta del usuario será deshabilitada y se notificará al Centro Nacional para Niños Desaparecidos y Explotados.

Por otra parte, Apple planea escanear los mensajes cifrados de los usuarios en busca de contenido sexual explícito como medida de seguridad infantil, lo que también alarmó a los defensores de la privacidad.

El sistema de detección sólo marcará imágenes que ya estén en la base de datos de pornografía infantil conocida del centro. Los padres que toman fotografías inocentes de un niño en el baño probablemente no deben preocuparse.

Pero los investigadores dicen que la herramienta de comparación, que no «ve» esas imágenes, sólo «huellas digitales» matemáticas que las representan, podría utilizarse para propósitos más nefastos.

Matthew Green, un importante investigador de criptografía de la Universidad Johns Hopkins, advirtió que el sistema podría usarse para incriminar a personas inocentes enviándoles imágenes aparentemente inocuas diseñadas para generar coincidencias con pornografía infantil. Eso podría engañar al algoritmo de Apple y alertar a las autoridades.

«Los investigadores han podido hacer esto con bastante facilidad», dijo sobre la capacidad de engañar a dichos sistemas.

Potencial de abuso

Otros abusos podrían incluir la vigilancia gubernamental de disidentes o manifestantes. «¿Qué sucede cuando el gobierno chino dice: ‘Aquí hay una lista de archivos que queremos que usted analice’?», preguntó Green.

«¿Apple dice que no? Espero que digan que no, pero su tecnología no dirá que no».

Empresas tecnológicas como Microsoft, Google, Facebook y otras llevan años compartiendo huellas digitales de imágenes conocidas de abuso sexual infantil. Apple los ha utilizado para escanear archivos de usuario almacenados en su servicio iCloud, que no está cifrado de forma tan segura como los datos del dispositivo, en busca de pornografía infantil.

Apple ha estado bajo presión del gobierno durante años para permitir una mayor vigilancia de los datos cifrados.

La elaboración de nuevas medidas de seguridad requirió que Apple realizara un delicado acto de equilibrio entre tomar medidas enérgicas contra la explotación infantil y al mismo tiempo mantener su compromiso de alto perfil de proteger la privacidad de sus usuarios.

Pero una abatida Electronic Frontier Foundation, pionera de las libertades civiles en línea, calificó el compromiso de Apple en materia de protección de la privacidad como «un cambio radical para los usuarios que han confiado en el liderazgo de la compañía en privacidad y seguridad».

Mientras tanto, el científico informático que hace más de una década inventó PhotoDNA, la tecnología utilizada por las fuerzas del orden para identificar pornografía infantil en línea, reconoció el potencial de abuso del sistema de Apple, pero dijo que estaba muy superado por el imperativo de luchar contra el abuso sexual infantil.

«¿Es posible? Por supuesto. ¿Pero es algo que me preocupa? No», dijo Hany Farid, investigador de la Universidad de California en Berkeley, quien sostiene que muchos otros programas diseñados para proteger dispositivos contra diversas amenazas No he visto «este tipo de misión progresiva».

Por ejemplo, WhatsApp proporciona a los usuarios cifrado de extremo a extremo para proteger su privacidad, pero también emplea un sistema para detectar malware y advertir a los usuarios que no hagan clic en enlaces dañinos.

‘cambiador de juego’

Apple fue una de las primeras empresas importantes en adoptar el «cifrado de extremo a extremo, en el que los mensajes se codifican para que sólo sus remitentes y destinatarios puedan leerlos». Sin embargo, las autoridades han presionado durante mucho tiempo a la empresa para que acceda a esa información en para investigar delitos como el terrorismo o la explotación sexual infantil.

Apple dijo que los últimos cambios se implementarán este año como parte de las actualizaciones de su software operativo para iPhone, Mac y Apple Watches.

«La protección ampliada de Apple para los niños cambia las reglas del juego», dijo en un comunicado John Clark, presidente y director ejecutivo del Centro Nacional para Niños Desaparecidos y Explotados. «Con tanta gente usando productos Apple, estas nuevas medidas de seguridad tienen el potencial de salvar vidas para los niños».

Julia Cordua, directora ejecutiva de Thorn, dijo que la tecnología de Apple equilibra «la necesidad de privacidad con la seguridad digital de los niños». Thorn, una organización sin fines de lucro fundada por Demi Moore y Ashton Kutcher, utiliza tecnología para ayudar a proteger a los niños del abuso sexual identificando a las víctimas y trabajando con plataformas tecnológicas.

Rompiendo la seguridad

Pero en una dura crítica, el Centro para la Democracia y la Tecnología, una organización sin fines de lucro con sede en Washington, pidió a Apple que abandonara los cambios, que, según dijo, destruyen efectivamente la garantía de la compañía de «cifrado de extremo a extremo».

El escaneo de mensajes en busca de contenido sexual explícito en teléfonos o computadoras rompe efectivamente la seguridad, dijo.

La organización también cuestionó la tecnología de Apple para diferenciar entre contenido peligroso y algo tan manso como el arte o un meme. Estas tecnologías son notoriamente propensas a errores, dijo CDT en un comunicado enviado por correo electrónico. Apple niega que los cambios representen una puerta trasera que degrade su cifrado. Se trata de innovaciones cuidadosamente consideradas que no perturban la privacidad del usuario, sino que la protegen firmemente.

Por otra parte, Apple dijo que su aplicación de mensajería utilizará el aprendizaje automático en el dispositivo para identificar y difuminar fotos sexualmente explícitas en los teléfonos de los niños y también puede advertir a los padres de niños más pequeños mediante mensajes de texto. También dijo que su software «intervendría» cuando los usuarios intentaran buscar temas relacionados con el abuso sexual infantil.

Para recibir advertencias sobre imágenes sexualmente explícitas en los dispositivos de sus hijos, los padres deberán registrar el teléfono de sus hijos. Los niños mayores de 13 años pueden darse de baja, lo que significa que los padres de adolescentes no recibirán notificaciones.

Apple dijo que ninguna característica comprometería la seguridad de las comunicaciones privadas ni notificaría a la policía.