Las adolescentes se enfrentan a una epidemia de desnudos falsos en las escuelas
Las Escuelas Públicas de Westfield celebraron una reunión ordinaria de la junta directiva a finales de marzo en la escuela secundaria local, un complejo de ladrillos rojos en Westfield, Nueva Jersey, con un marcador en el exterior dando la bienvenida con orgullo a los visitantes de los equipos deportivos “Hogar de los Diablos Azules”.
Pero para Dorota Mani las cosas no fueron como de costumbre.
En octubre, algunas niñas de décimo grado en Westfield High School, incluida Francesca, la hija de 14 años de Mani, alertaron a los administradores de que los niños de su clase habían utilizado software de inteligencia artificial para fabricar imágenes sexualmente explícitas de ellas y estaban haciendo circular las imágenes falsas. fotos. Cinco meses después, dicen los Manis y otras familias, el distrito ha hecho poco para abordar públicamente las imágenes manipuladas o actualizar las políticas escolares para impedir el uso explotador de la IA.
“Parece como si la administración de Westfield High School y el distrito estuvieran participando en una clase magistral para hacer que este incidente se desvaneciera en el aire”, amonestó a los miembros de la junta la Sra. Mani, fundadora de una escuela preescolar local, durante la reunión.
En un comunicado, el distrito escolar dijo que había abierto una “investigación inmediata” al enterarse del incidente, había notificado y consultado inmediatamente con la policía y había brindado asesoramiento grupal a la clase de segundo año.
«Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar», dijo en el comunicado Raymond González, superintendente de las Escuelas Públicas de Westfield.
Sorprendidas el año pasado por la repentina popularidad de los chatbots impulsados por inteligencia artificial como ChatGPT, las escuelas de todo Estados Unidos se apresuraron a contener los robots generadores de texto en un esfuerzo por prevenir las trampas de los estudiantes. Ahora, un fenómeno más alarmante de generación de imágenes mediante IA está sacudiendo las escuelas.
Los niños de varios estados han utilizado aplicaciones de “nudificación” ampliamente disponibles para pervertir fotografías reales e identificables de sus compañeras de clase vestidas, asistiendo a eventos como fiestas de graduación escolares, en imágenes gráficas y de apariencia convincente de las niñas con los senos y genitales expuestos generados por IA. En algunos casos, los niños compartieron las imágenes falsas en el comedor de la escuela, en el autobús escolar o mediante chats grupales en plataformas como Snapchat e Instagram, según informes de la escuela y la policía.
Este tipo de imágenes alteradas digitalmente, conocidas como “deepfakes” o “deepnudes”, pueden tener consecuencias devastadoras. Los expertos en explotación sexual infantil dicen que el uso de imágenes no consensuadas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes puede dañar su salud mental, su reputación y su seguridad física, además de plantear riesgos para sus perspectivas universitarias y profesionales. El mes pasado, la Oficina Federal de Investigaciones advirtió que es ilegal distribuir material de abuso sexual infantil generado por computadora, incluidas imágenes de aspecto realista generadas por IA de menores identificables que participan en conductas sexualmente explícitas.
Sin embargo, el uso por parte de los estudiantes de aplicaciones explotadoras de IA en las escuelas es tan nuevo que algunos distritos parecen menos preparados para abordarlo que otros. Eso puede hacer que las salvaguardias sean precarias para los estudiantes.
«Este fenómeno se ha producido muy repentinamente y puede estar tomando a muchos distritos escolares desprevenidos y sin saber qué hacer», dijo Riana Pfefferkorninvestigador del Observatorio de Internet de Stanford, que escribe sobre Cuestiones legales relacionadas con imágenes de abuso sexual infantil generadas por computadora..
En la escuela secundaria Issaquah, cerca de Seattle, el otoño pasado, un detective de la policía que investigaba quejas de padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años preguntó a un subdirector por qué la escuela no había informado del incidente a la policía, según según un informe del Departamento de Policía de Issaquah. Luego, el funcionario escolar preguntó “qué se suponía que debía denunciar”, según el documento policial, lo que llevó al detective a informarle que las escuelas están obligadas por ley a denunciar abusos sexuales, incluido posible material de abuso sexual infantil. Posteriormente, la escuela informó del incidente a los Servicios de Protección Infantil, según el informe policial. (El New York Times obtuvo el informe policial a través de una solicitud de registros públicos).
En un comunicado, el Distrito Escolar de Issaquah dijo que había hablado con estudiantes, familias y la policía como parte de su investigación sobre los deepfakes. El distrito también “compartimos nuestra empatía”, decía el comunicado, y brindó apoyo a los estudiantes afectados.
La declaración agregaba que el distrito había reportado las “imágenes falsas generadas por inteligencia artificial a los Servicios de Protección Infantil por precaución”, y señaló que “según nuestro equipo legal, no estamos obligados a reportar imágenes falsas a la policía. «
En la escuela secundaria Beverly Vista en Beverly Hills, California, los administradores contactaron a la policía en febrero después de enterarse de que cinco niños habían creado y compartido imágenes explícitas de compañeras de clase generadas por IA. Dos semanas después, la junta escolar aprobó la expulsión de cinco estudiantes, según documentos del distrito. (El distrito dijo que el código de educación de California le prohibía confirmar si los estudiantes expulsados eran los estudiantes que habían fabricado las imágenes).
Michael Bregy, superintendente del Distrito Escolar Unificado de Beverly Hills, dijo que él y otros líderes escolares querían sentar un precedente nacional de que las escuelas no deben permitir que los alumnos creen y hagan circular imágenes sexualmente explícitas de sus compañeros.
«Eso es acoso extremo cuando se trata de escuelas», dijo el Dr. Bregy, señalando que las imágenes explícitas eran «perturbadoras y violatorias» para las niñas y sus familias. «Es algo que aquí no toleraremos en absoluto».
Las escuelas de las pequeñas y prósperas comunidades de Beverly Hills y Westfield estuvieron entre los primeros en reconocer públicamente los incidentes deepfake. Los detalles de los casos, descritos en las comunicaciones del distrito con los padres, reuniones de la junta escolar, audiencias legislativas y expedientes judiciales, ilustran la variabilidad de las respuestas de las escuelas.
El incidente de Westfield comenzó el verano pasado cuando un estudiante de secundaria le pidió hacerse amigo de una compañera de clase de 15 años en Instagram que tenía una cuenta privada, según una demanda contra el niño y sus padres presentada por la joven y su familia. (Los Manis dijeron que no están involucrados en la demanda).
Después de que ella aceptó la solicitud, el estudiante copió fotos de ella y de varias otras compañeras de escuela de sus cuentas de redes sociales, según documentos judiciales. Luego usó una aplicación de inteligencia artificial para fabricar imágenes sexualmente explícitas y “totalmente identificables” de las niñas y las compartió con sus compañeros de escuela a través de un grupo de Snapchat, según documentos judiciales.
Westfield High comenzó a investigar a finales de octubre. Mientras los administradores discretamente llevaban a algunos niños aparte para interrogarlos, dijo Francesca Mani, la llamaron a ella y a otras niñas de décimo grado que habían sido sometidas a deepfakes a la oficina de la escuela anunciando sus nombres por el intercomunicador de la escuela.
Esa semana, Mary Asfendis, directora de Westfield High, envió un correo electrónico a los padres alertándolos sobre «una situación que resultó en una desinformación generalizada». El correo electrónico continuaba describiendo los deepfakes como un «incidente muy grave». También dijo que, a pesar de la preocupación de los estudiantes sobre el posible intercambio de imágenes, la escuela creía que «todas las imágenes creadas han sido eliminadas y no están circulando».
Dorota Mani dijo que los administradores de Westfield le habían dicho que el distrito suspendió al estudiante acusado de fabricar las imágenes durante uno o dos días.
Poco después, ella y su hija comenzaron a hablar públicamente sobre el incidente, instando a los distritos escolares, a los legisladores estatales y al Congreso a promulgar leyes y políticas que prohíban específicamente los deepfakes explícitos.
“Tenemos que empezar a actualizar nuestra política escolar”, dijo en una entrevista reciente Francesca Mani, que ahora tiene 15 años. «Porque si la escuela tuviera políticas de IA, los estudiantes como yo habrían estado protegidos».
Los padres, incluida Dorota Mani, también presentaron denuncias de acoso ante Westfield High el otoño pasado por las imágenes explícitas. Sin embargo, durante la reunión de marzo, Mani dijo a los miembros de la junta escolar que la escuela secundaria aún no había proporcionado a los padres un informe oficial sobre el incidente.
Las Escuelas Públicas de Westfield dijeron que no podían comentar sobre ninguna acción disciplinaria por razones de confidencialidad de los estudiantes. En un comunicado, el Dr. González, el superintendente, dijo que el distrito estaba fortaleciendo sus esfuerzos “al educar a nuestros estudiantes y establecer pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable”.
Las escuelas de Beverly Hills han adoptado una postura pública más firme.
Cuando los administradores se enteraron en febrero de que los niños de octavo grado de la escuela secundaria Beverly Vista habían creado imágenes explícitas de compañeras de clase de 12 y 13 años, rápidamente enviaron un mensaje (asunto: “Espantoso uso indebido de la inteligencia artificial”) a todos. padres del distrito, personal y estudiantes de secundaria y preparatoria. El mensaje instaba a los miembros de la comunidad a compartir información con la escuela para ayudar a garantizar que el uso «perturbador e inapropiado» de la IA por parte de los estudiantes «se detenga inmediatamente».
También advirtió que el distrito estaba dispuesto a imponer castigos severos. “Cualquier estudiante que sea descubierto creando, difundiendo o en posesión de imágenes de esta naturaleza generadas por IA enfrentará acciones disciplinarias”, incluida una recomendación de expulsión, decía el mensaje.
El Dr. Bregy, el superintendente, dijo que las escuelas y los legisladores debían actuar rápidamente porque el abuso de la IA hacía que los estudiantes se sintieran inseguros en las escuelas.
«Se oye mucho sobre la seguridad física en las escuelas», dijo. «Pero de lo que no se habla es de esta invasión de la seguridad personal y emocional de los estudiantes».