Deepfake racista de IA del director de Baltimore conduce al arresto
El director deportivo de una escuela secundaria en el área de Baltimore fue arrestado el jueves después de que utilizó software de inteligencia artificial, dijo la policía, para fabricar un clip de audio racista y antisemita en el que se hacía pasar por el director de la escuela.
Dazhon Darien, director deportivo de Pikesville High School, inventó la grabación, incluida una diatriba sobre “niños negros desagradecidos que no pueden salir de una bolsa de papel”, en un esfuerzo por difamar al director, Eric Eiswert, según el Departamento de Policía del Condado de Baltimore.
La grabación falsa, que se publicó en Instagram a mediados de enero, se difundió rápidamente y arrasó. Escuelas públicas del condado de Baltimoreque es el distrito escolar número 22 más grande del país y atiende a más de 100.000 estudiantes. Mientras el distrito investigaba, Eiswert, que negó haber hecho los comentarios, se vio inundado de amenazas a su seguridad, dijo la policía. También fue puesto en licencia administrativa, dijo el distrito escolar.
Ahora el Sr. Darién enfrenta cargos que incluyen alterar las operaciones escolares y acechar al director.
Eiswert remitió una solicitud de comentarios a un grupo comercial de directores, el Consejo de Empleados Administrativos y de Supervisión, que no respondió la llamada de un periodista. No fue posible localizar de inmediato a Darién, quien pagó su fianza el jueves, para hacer comentarios.
El caso del condado de Baltimore es sólo el último indicio de una escalada del abuso de la IA en las escuelas. Muchos casos incluyen deepfakes o videos, audio o imágenes alterados digitalmente que pueden parecer convincentemente reales.
Desde el otoño pasado, las escuelas de Estados Unidos han estado luchando para abordar preocupantes incidentes de deepfake en los que estudiantes varones utilizaron aplicaciones de “nudificación” de IA para crear imágenes falsas desnudas de sus compañeras de clase, algunas de ellas estudiantes de secundaria de tan solo 12 años. El incidente de voz deepfake del condado de Baltimore apunta a otro riesgo de IA para las escuelas de todo el país, esta vez para los educadores veteranos y los líderes distritales.
Las calumnias de venganza deepfake pueden ocurrir en cualquier lugar de trabajo, pero es un espectro particularmente inquietante para los funcionarios escolares encargados de proteger y educar a los niños. Un funcionario del condado de Baltimore advirtió el jueves que la rápida difusión de nuevas herramientas de inteligencia artificial generativa estaba superando las protecciones escolares y las leyes estatales.
«También estamos entrando en una frontera nueva y profundamente preocupante», dijo Johnny Olszewski, ejecutivo del condado de Baltimore, durante los comentarios públicos sobre el arresto del jueves. Añadió que los líderes comunitarios necesitaban “analizar más ampliamente cómo se puede utilizar y abusar de esta tecnología para dañar a otras personas”.
El relato policial del caso del condado de Baltimore muestra la rapidez con la que la perniciosa desinformación deepfake puede propagarse en las escuelas, causando daños duraderos a los educadores, estudiantes y familias.
Según documentos policiales, Darien desarrolló un agravio contra Eiswert en diciembre después de que el director comenzó a investigarlo. El Sr. Darien había autorizado un pago del distrito de $1,916 a su compañero de cuarto, dijo la policía, “bajo el pretexto” de que el compañero de cuarto estaba trabajando como entrenador asistente para el equipo de fútbol femenino de Pikesville.
Poco después, dijo la policía, Darien utilizó los servicios de Internet del distrito escolar para buscar herramientas de inteligencia artificial, incluidas OpenAI, el desarrollador del chatbot ChatGPT, y Bing Chat de Microsoft.
(Los New York Times demandado OpenAI y su socio, Microsoft, en diciembre, por infracción de derechos de autor de contenido de noticias relacionado con sistemas de IA).
A mediados de enero, Darien envió por correo electrónico un clip de audio falso haciéndose pasar por el director a él y a otros dos empleados de la escuela secundaria, según la policía. El correo electrónico, con el asunto «Director de Pikesville – Grabación perturbadora», fue enviado desde una cuenta de Gmail que parecía pertenecer a un tercero desconocido pero que estaba vinculada al número de teléfono celular del Sr. Darien, según los documentos policiales.
Luego, uno de esos empleados de la escuela envió la grabación inventada a organizaciones de noticias y a la Asociación Nacional para el Avance de las Personas de Color, según documentos policiales. También se lo envió a un estudiante que «sabía que difundiría rápidamente el mensaje en varios medios de comunicación social y en toda la escuela», dicen los documentos.
Pronto, una cuenta de Instagram que sigue el crimen local publicó el audio racista falso, diciendo que era una “despotricación sobre los estudiantes negros” y nombrando al director como el orador. El clip de audio, que dura menos de un minuto, fue compartido más de 27.000 veces y generó más de 2.800 comentarios, muchos de los cuales pedían el despido del director.
La policía dice que la perorata deepfake tuvo “profundas repercusiones”, poniendo a prueba la confianza entre las familias, los maestros y los administradores de Pikesville High.
Padres y estudiantes molestos y enojados inundaron la escuela con llamadas. Algunos profesores, dijo la policía, temían que «se hubieran colocado dispositivos de grabación en varios lugares de la escuela». Para abordar las preocupaciones de seguridad, el Departamento de Policía aumentó su presencia en la escuela.
La policía también proporcionó vigilancia de seguridad para el Sr. Eiswert, quien recibió una avalancha de mensajes de acoso y llamadas telefónicas, algunas de las cuales lo amenazaban a él y a su familia con violencia.
En comentarios públicos durante una reunión de la junta escolar en enero, William Burke, director ejecutivo del Consejo de Empleados Administrativos y de Supervisión, que representa al director, dijo que las redes sociales y los medios de comunicación habían permitido a los comentaristas condenar al Sr. Eiswert sin “pruebas y ninguna responsabilidad”.
“Por favor, no se apresure a juzgar”, suplicó el Sr. Burke. «Por favor, haga que la investigación sea segura y justa».
Dos expertos externos que luego analizaron la grabación para el Departamento de Policía del Condado de Baltimore concluyeron que el clip de audio fue manipulado. Un experto dijo que contenía “rastros de contenido generado por IA con edición humana posterior al hecho”, dicen los documentos policiales.