El reconocimiento facial provocó arrestos injustos. Entonces Detroit está haciendo cambios.
En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugirió que era un delincuente. La coincidencia era errónea y Williams presentó una demanda.
El viernes, como parte de una Acuerdo legal Tras su arresto injusto, Williams obtuvo el compromiso del Departamento de Policía de Detroit de actuar mejor. La ciudad adoptó nuevas normas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense por las Libertades Civiles (ACLU), que representó a Williams, deberían ser la nueva norma nacional.
«Esperamos que esto mueva la aguja en la dirección correcta», dijo Williams.
El Sr. Williams fue la primera persona conocida arrestado injustamente Basado en un reconocimiento facial defectuoso, pero no fue el último. La policía de Detroit arrestó al menos a otras dos personas como resultado de búsquedas de reconocimiento facial que salieron mal, incluida una mujer que fue acusada de robo de auto cuando estaba en el estacionamiento. ocho meses de embarazo.
Las fuerzas del orden de todo el país utilizan tecnología de reconocimiento facial para intentar identificar a los delincuentes cuyas fechorías son captadas por una cámara. En Michigan, el software compara un rostro desconocido con los que aparecen en una base de datos de fotografías policiales o de carnets de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan en fotos extraídas de sitios de redes sociales y de Internet.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo ocular en una serie de fotografías a menos que exista otra evidencia que las vincule con el crimen.
«El proceso de ‘tomar una fotografía, colocarla en una alineación’ terminará», dijo Phil Mayor, abogado de la ACLU de Michigan. «Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el usuario indebido mejor documentado de la tecnología de reconocimiento facial a convertirse en un líder nacional en tener barreras de seguridad en su uso».
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, han prohibido temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, jefe de informática de la unidad de inteligencia criminal de Detroit, dijo que el Departamento de Policía estaba «muy interesado en utilizar la tecnología de manera significativa para la seguridad pública». Detroit, afirmó, tiene «la política más fuerte del país ahora».
Cómo sale mal
El Sr. Williams fue arrestado después de un crimen ocurrido en 2018. Un hombre robó cinco relojes de una boutique en el centro de Detroit, mientras era grabado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre en fotografías de su carnet de conducir y de su ficha policial arrojó 243 fotos, ordenadas según el grado de certeza del sistema de que se trataba de la misma persona que aparecía en el vídeo de vigilancia, según los documentos revelados como parte de la demanda del Sr. Williams. Una antigua foto de su carnet de conducir de Williams ocupaba el noveno puesto de la lista. La persona que llevó a cabo la búsqueda consideró que era la que mejor coincidía y envió un informe a un detective de la policía de Detroit.
El detective incluyó la fotografía del Sr. Williams en una “serie de fotografías de seis paquetes” (fotos de seis personas en una cuadrícula) que mostró al contratista de seguridad que había proporcionado el video de vigilancia de la tienda. Ella estuvo de acuerdo en que el Sr. Williams era la persona más parecida al hombre de la boutique, y esto dio lugar a la orden de arresto. El Sr. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le recogieron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
Demandó a Detroit en 2021 con la esperanza de forzar la prohibición de la tecnología para que otros no sufrieran su suerte. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de una mala coincidencia de reconocimiento facial. La policía arrestó a la Sra. Woodruff mientras preparaba a sus hijos para la escuela. También ha demandado a la ciudad; la demanda está en curso.
“Es muy peligroso”, dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo ningún beneficio positivo en ello”.
Las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial ha dado lugar a un arresto injusto. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, ha culpado a un «error humano» de los arrestos injustos. Sus oficiales, dijo, dependían demasiado de las pistas que producía la tecnología. Fue su juicio el que falló, no el de la máquina.
Se supone que la nueva política, que entró en vigor este mes, ayudará a lograrlo. Según las nuevas normas, la policía ya no puede mostrar el rostro de una persona a un testigo ocular basándose únicamente en una coincidencia de reconocimiento facial.
«Tiene que haber algún tipo de evidencia secundaria que lo corrobore y que no esté relacionada antes de que haya suficiente justificación para acudir a la alineación», dijo Sr. Lamoreaux de la unidad de inteligencia criminal de Detroit. La policía necesitaría información de ubicación del teléfono de una persona, por ejemplo, o evidencia de ADN, algo más que un parecido físico.
El departamento también está cambiando la forma en que realiza la selección de fotografías. Se trata de adoptar lo que se llama secuencial doble ciego, que se considera una forma más justa de identificar a alguien. En lugar de presentarle un “six-pack” a un testigo, un oficial (uno que no sabe quién es el principal sospechoso) presenta las fotos una por una. Y la alineación incluye una foto de la persona diferente a la que apareció el sistema de reconocimiento facial.
La policía también deberá revelar que se realizó un registro facial, así como la calidad de la imagen del rostro que se está buscando: ¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? — porque es menos probable que una imagen de mala calidad produzca resultados confiables. También tendrán que revelar la edad de la foto que apareció en el sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidían.
Franklin Hayes, subjefe de policía de Detroit, dijo que confiaba en que las nuevas prácticas evitarían futuras identificaciones erróneas.
«Todavía hay algunas cosas que podrían fallar, por ejemplo, los gemelos idénticos», dijo Hayes. «Nunca podremos decir nunca, pero sentimos que esta es nuestra mejor política hasta ahora».
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit era un excelente punto de partida y que otras agencias deberían adoptarla.
«No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia sea rampante», afirmó Ross.
¿Cuánto ayuda?
La identificación de testigos presenciales es una tenso esfuerzo, y la policía ha adoptado las cámaras y el reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
Jefe Blanco dijo El año pasado, los legisladores locales dijeron que la tecnología de reconocimiento facial había ayudado a “sacar a 16 asesinos de la calle”. Cuando se les pidió más información, los funcionarios del Departamento de Policía no brindaron detalles sobre esos casos.
En cambio, para demostrar los éxitos del departamento con la tecnología, los funcionarios de policía desempeñaron un papel vídeo de vigilancia de un hombre que arrojó combustible dentro de una gasolinera y le prendió fuego. Dijeron que había sido identificado con tecnología de reconocimiento facial y arrestado esa noche. el mas tarde declarado culpable.
El Departamento de Policía de Detroit es uno de los pocos que lleva un registro de sus búsquedas de reconocimiento facial y las envía reportes semanales sobre su uso a una junta de supervisión. En los últimos años, ha tenido un promedio de más de 100 búsquedas al año, y aproximadamente la mitad de esas búsquedas revelaron posibles coincidencias.
El departamento solo lleva un registro de la frecuencia con la que obtiene una pista, no de si la pista resulta cierta. Pero como parte de su acuerdo con Williams (que también recibió 300.000 dólares, según un portavoz de la policía), tiene que realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan a cuando comenzó a utilizar la tecnología en 2017. Si identifica otros casos en los que se detuvo a personas con poca o ninguna otra prueba de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal correspondiente.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones sonaban prometedoras, pero seguía escéptica.
“Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes”, dijo. «Si toda esta tecnología de vigilancia realmente hiciera lo que dice, Detroit sería una de las ciudades más seguras del país».
Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de supervisión que aprobó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía.
“La tecnología todavía no está lista”, dijo Burton. “Un arresto falso ya es demasiado, y el hecho de que haya tres en Detroit debería hacer sonar la alarma para que se descontinúe”.