¿Puede la aplicación Calmara AI realmente detectar infecciones en parejas sexuales?

A finales del mes pasado, la startup HeHealth, con sede en San Francisco, anunció el lanzamiento de Calmara.aiun sitio web alegre y repleto de emojis que la compañía describe como «su mejor amigo experto en tecnología para controles de ITS».

El concepto es simple. Un usuario preocupado por el estado de salud sexual de su pareja simplemente toma una foto (con consentimiento, según las notas del servicio) del pene de su pareja (la única parte del cuerpo humano que el software está capacitado para reconocer) y la carga en Calmara.

En segundos, el sitio escanea la imagen y devuelve uno de dos mensajes: “¡Borrar! No se han detectado signos visibles de ITS por ahora” o “¡¡¡Espera!!! Descubrimos algo sospechoso”.

Calmara describe el servicio gratuito como “la mejor opción después de una prueba de laboratorio para una verificación rápida”, impulsado por inteligencia artificial con “una tasa de precisión de hasta el 94,4 %” (aunque la letra más pequeña en el sitio aclara que su rendimiento real es “del 65 % al 96% en diversas condiciones”).

Desde su debut, los expertos en privacidad y salud pública han señalado con alarma una serie de descuidos importantes en el diseño de Calmara, como su verificación de consentimiento endeblesu potencial para recibir pornografía infantil y una excesiva dependencia de las imágenes para detectar condiciones que a menudo son invisibles.

Pero incluso como herramienta rudimentaria de detección de signos visuales de infecciones de transmisión sexual en un órgano humano específico, las pruebas de Calmara demostraron que el servicio es inexacto, poco confiable y propenso al mismo tipo de información estigmatizante que su empresa matriz dice querer combatir.

Un reportero de Los Angeles Times subió a Calmara una amplia gama de imágenes de pene tomadas del Centro para el Control y la Prevención de Enfermedades. Biblioteca de imágenes de salud pública, el STD Center NY y el Royal Australian College of General Practitioners.

Calmara emitió un “¡¡¡Espera!!!” a múltiples imágenes de lesiones y protuberancias en el pene causadas por enfermedades de transmisión sexual, como sífilis, clamidia, herpes y virus del papiloma humano, el virus que causa las verrugas genitales.

Pero el sitio no reconoció algunas imágenes de libros de texto sobre infecciones de transmisión sexual, incluida una úlcera chancroide y un caso de sífilis tan pronunciado que el prepucio ya no podía retraerse.

La IA de Calmara con frecuencia identificaba de manera inexacta protuberancias en el pene no patológicas y de origen natural como signos de infección, señalando múltiples imágenes de órganos libres de enfermedades como «algo sospechoso».

También tuvo problemas para distinguir entre objetos inanimados y genitales humanos, emitiendo un alegre «¡Claro!» a imágenes de un novedoso jarrón con forma de pene y un pastel con forma de pene.

«Hay tantas cosas mal con esta aplicación que ni siquiera sé por dónde empezar», dijo Dra. Ina Parkun profesor de la UC San Francisco que se desempeña como consultor médico para los CDC División de Prevención de ETS. “Con cualquier prueba que se realice para detectar ITS, siempre existe la posibilidad de obtener falsos negativos y falsos positivos. El problema con esta aplicación es que parece estar plagada de ambos”.

Dr. Jeffrey Klausner, un especialista en enfermedades infecciosas de la Facultad de Medicina Keck de la USC y un asesor científico de HeHealthReconoció que Calmara “no puede promocionarse como prueba de detección”.

“Para hacerse una prueba de detección de ITS, es necesario hacerse un análisis de sangre. Hay que hacerse un análisis de orina”, dijo. “Hacer que alguien mire un pene, o que un asistente digital mire un pene, no podrá detectar el VIH, la sífilis, la clamidia o la gonorrea. Incluso la mayoría de los casos de herpes son asintomáticos”.

Calmara, dijo, es «algo muy diferente» del producto exclusivo de HeHealth, un servicio pago que escanea imágenes que un usuario envía de su propio pene y señala cualquier cosa que amerite un seguimiento con un proveedor de atención médica.

Klausner no respondió a las solicitudes de comentarios adicionales sobre la precisión de la aplicación.

Tanto HeHealth como Calmara utilizan la misma IA subyacente, aunque los dos sitios «pueden tener diferencias a la hora de identificar problemas preocupantes», dijo la cofundadora y directora ejecutiva, Dra. Yudara Kularathne.

«Impulsada por la magia patentada de HeHealth (piense en una IA tan nítida que pensaría que supera a sus SAT), nuestra IA ha sido probada en batalla por más de 40.000 usuarios», se lee en el sitio web de Calmara, antes de señalar que su precisión oscila entre el 65 % y el 96 %. .

“Es fantástico que revelen eso, pero el 65% es terrible”, afirmó Dr. Sean jovenprofesor de medicina de emergencia de la UCI y director ejecutivo del Instituto de Tecnología de Predicción de la Universidad de California. “Desde una perspectiva de salud pública, si le estás dando a la gente un 65% de precisión, ¿por qué decirle algo a alguien? Eso es potencialmente más dañino que beneficioso”.

Kularathne dijo que el rango de precisión «destaca la complejidad de detectar ITS y otras afecciones visibles en el pene, cada una con sus características y desafíos únicos». Y añadió: “Es importante entender que este es sólo el punto de partida para Calmara. A medida que perfeccionemos nuestra IA con más conocimientos, esperamos que estas cifras mejoren”.

En HeHealth sitio webKularathne dice que se inspiró para iniciar la empresa después de que un amigo se suicidara después de “un susto de ITS magnificado por la desinformación en línea”.

«Numerosas condiciones fisiológicas a menudo se confunden con ITS, y nuestra tecnología puede brindar tranquilidad en estas situaciones», Kularathne al corriente Martes en LinkedIn. «Nuestra tecnología tiene como objetivo brindar claridad a los jóvenes, especialmente a la Generación Z».

La IA de Calmara también confundió algunas condiciones fisiológicas con ITS.

El Times subió al sitio una serie de imágenes que fueron publicadas en un sitio web médico como ejemplos de variaciones anatómicas no transmisibles y no patológicas en el pene humano que a veces se confunden con ITS, incluidas marcas en la piel, glándulas sebáceas visibles y capilares agrandados. .

Calmara identificó a cada uno como “algo sus”.

Una información tan inexacta podría tener en los usuarios jóvenes exactamente el efecto opuesto al de la “claridad” que pretenden sus fundadores, afirmó Dra. Joni Robertsprofesor asistente en Cal Poly San Luis Obispo que dirige el campus Laboratorio de Salud Sexual y Reproductiva.

“Si tengo 18 años, tomo una fotografía de algo que ocurre normalmente como parte del cuerpo humano, [and] ¿Me sale esto que dice que es ‘sus’? Ahora estoy estresado”, dijo Roberts.

“Ya sabemos que la salud mental [issues are] extremadamente alto en esta población. Las redes sociales han causado estragos en la autoimagen, el valor, la depresión, etc., de las personas”, dijo. «Decir que algo es ‘sus’ sin proporcionar ninguna información es problemático».

Kularathne defendió la elección del idioma del sitio. «La frase ‘algo sus’ se elige deliberadamente para indicar ambigüedad y sugerir la necesidad de una mayor investigación», escribió en un correo electrónico. «Es un estímulo para que los usuarios busquen asesoramiento profesional, fomentando una cultura de precaución y responsabilidad».

Aún así, “la identificación errónea de una anatomía saludable como ‘algo sospechoso’ si eso sucede, de hecho no es el resultado que buscamos”, escribió.

Los usuarios cuyas fotografías reciben un aviso de «Retención» son dirigidos a HeHealth donde, pagando una tarifa, pueden enviar fotografías adicionales de su pene para su posterior escaneo.

A aquellos que obtienen un “Clear” se les dice: “Por ahora no se han detectado signos visibles de ITS”. . . Pero esto no significa que todo esté claro para las ITS”, señalando, correctamente, que muchas enfermedades de transmisión sexual son asintomáticas e invisibles. Los usuarios que hagan clic en las preguntas frecuentes de Calmara también encontrarán un descargo de responsabilidad que indicará que «¡Borrar!» La notificación «no significa que usted pueda escatimar en controles adicionales».

Young expresó su preocupación de que algunas personas pudieran usar la aplicación para tomar decisiones inmediatas sobre su salud sexual.

«Existen obligaciones más éticas para poder ser transparente y claro acerca de sus datos y prácticas, y no utilizar los enfoques típicos de startups que muchas otras empresas utilizarán en espacios no relacionados con la salud», dijo.

En su forma actual, dijo, Calmara “tiene el potencial de estigmatizar aún más no sólo las ITS, sino también estigmatizar aún más la salud digital al dar diagnósticos inexactos y hacer que la gente afirme que cada herramienta o aplicación de salud digital es simplemente una gran farsa”.

HeHealth.ai ha recaudado alrededor de 1,1 millones de dólares desde su fundación en 2019, dijo la cofundadora Mei-Ling Lu. Actualmente, la empresa está buscando otros 1,5 millones de dólares de inversores. según PitchBook.

Los expertos médicos entrevistados para este artículo dijeron que la tecnología puede y debe usarse para reducir las barreras a la atención médica sexual. Proveedores incluidos Planificación familiar y el Clínica Mayo están utilizando herramientas de inteligencia artificial para compartir información examinada con sus pacientes, dijo Mara DeckerEpidemiólogo de UC San Francisco que estudia educación sobre salud sexual y tecnología digital.

Pero cuando se trata del enfoque de Calmara, “básicamente sólo puedo ver aspectos negativos y ningún beneficio”, dijo Decker. “Podrían fácilmente reemplazar su aplicación con un letrero que diga: ‘Si tienes un sarpullido o una llaga notable, hazte la prueba’”.