¿Qué es el “lavado con IA” y por qué es un problema?

Amazon recibió titulares críticos este año cuando los informes cuestionaron la tecnología «Just Walk Out» instalada en muchas de sus tiendas físicas de comestibles.

El sistema impulsado por inteligencia artificial permite a los clientes de muchas de sus tiendas Amazon Fresh y Amazon Go simplemente recoger sus artículos y luego irse.

La IA utiliza muchos sensores para determinar lo que has elegido y luego te facturan automáticamente.

Sin embargo, en abril se informó ampliamente que, en lugar de utilizar únicamente IA, Just Walk Out necesitaba alrededor de 1.000 trabajadores en India para comprobar manualmente casi tres cuartas partes de las transacciones.

Amazon se apresuró a afirmar que Los informes eran “erróneos”, y que el personal en la India no estaba revisando las imágenes de todas las tiendas.

En cambio, dijo que los trabajadores indios simplemente estaban revisando el sistema. Amazon añadió que “esto no es diferente de cualquier otro sistema de inteligencia artificial que otorga un gran valor a la precisión, donde los revisores humanos son comunes”.

Independientemente de los detalles exactos del caso de Amazon, se trata de un ejemplo destacado de una cuestión nueva y creciente: si las empresas están exagerando las afirmaciones sobre el uso que hacen de la IA. Es un fenómeno que se ha denominado “lavado de cara a la IA”, en referencia al “lavado verde” medioambiental.

Pero primero, un recordatorio de lo que significa exactamente la IA. Si bien no existe una definición exacta, la IA permite a las computadoras aprender y resolver problemasLa IA es capaz de hacer esto después de haber sido entrenada previamente con grandes cantidades de información.

El tipo específico de IA que ha sido noticia en los últimos años es la denominada «IA generativa», que se especializa en crear contenido nuevo, ya sea manteniendo conversaciones de texto o produciendo música o imágenes.

Los chatbots como ChatGPT, Gemini de Google y Copilot de Microsoft son ejemplos populares de IA generativa.

En lo que respecta al lavado con IA, existen varios tipos. Algunas empresas afirman utilizar IA cuando en realidad utilizan una informática menos sofisticada, mientras que otras exageran la eficacia de su IA en comparación con las técnicas existentes o sugieren que sus soluciones de IA están en pleno funcionamiento cuando no es así.

Mientras tanto, otras empresas simplemente están incorporando un chatbot de IA a su software operativo existente que no es de IA.

Según OpenOcean, un fondo de inversión con sede en Reino Unido y Finlandia para nuevas empresas tecnológicas, si bien en 2022 solo el 10 % de las empresas emergentes de tecnología mencionaron el uso de inteligencia artificial en sus presentaciones, en 2023 esa cifra aumentó a más de una cuarta parte. Se espera que esa cifra sea más de un tercio este año.

Y, dice Sri Ayangar, miembro del equipo de OpenOcean, la competencia por la financiación y el deseo de aparecer a la vanguardia han empujado a algunas de estas empresas a exagerar sus capacidades de IA.

«Algunos fundadores parecen creer que si no mencionan la IA en su presentación, esto puede ponerlos en desventaja, independientemente del papel que desempeñe en su solución», afirma Ayangar.

«Y según nuestro análisis, existe una disparidad significativa entre las empresas que afirman tener capacidades de IA y aquellas que demuestran resultados tangibles impulsados ​​por la IA».

Es un problema que ha existido silenciosamente durante varios años, según datos de otra firma de inversión tecnológica, MMC Ventures. En un estudio de 2019, se descubrió que el 40% de las nuevas empresas tecnológicas que se describían a sí mismas como «startups de IA» en realidad Prácticamente no se utilizó ninguna IA.

«El problema es el mismo hoy, pero con un problema diferente», afirma Simon Menashy, socio general de MMC Ventures.

Explica que ahora todas las empresas pueden adquirir «capacidades de IA de vanguardia» por el precio del software estándar. Pero en lugar de construir un sistema completo de IA, dice que muchas empresas simplemente están colocando una interfaz de chatbot encima de un producto que no es de IA.

Douglas Dick, jefe de riesgo de tecnología emergente en el Reino Unido del gigante de la contabilidad KPMG, dice que el problema del lavado de la IA no se ve ayudado por el hecho de que no existe una única definición acordada de IA.

«Si le preguntara a un grupo de personas cuál es su definición de IA, todos darían una respuesta diferente», afirma. «El término se utiliza de forma muy amplia y vaga, sin ningún punto de referencia claro. Es esta ambigüedad la que está permitiendo que surja el lavado de imagen de la IA.

«El lavado de IA puede tener impactos preocupantes para las empresas, desde pagar de más por tecnología y servicios hasta no cumplir con los objetivos operativos que se esperaba que la IA les ayudara a alcanzar».

Mientras tanto, para los inversores puede resultar más difícil identificar empresas realmente innovadoras.

Y, dice el Sr. Ayangar: «Si los consumidores tienen expectativas no satisfechas de productos que afirman ofrecer soluciones avanzadas impulsadas por IA, esto puede erosionar la confianza en las empresas emergentes que están haciendo un trabajo realmente innovador».

Los reguladores, al menos en Estados Unidos, están empezando a darse cuenta. A principios de este año, la Comisión de Bolsa y Valores de Estados Unidos (SEC) dijo que era cobrando a dos empresas de asesoría de inversiones con hacer declaraciones falsas y engañosas sobre el alcance de su uso de la IA.

«La postura firme adoptada por la SEC demuestra una falta de margen de maniobra en lo que respecta al lavado de información por parte de la IA, lo que indica que, al menos en Estados Unidos, podemos esperar más multas y sanciones en el futuro para aquellos que violen las regulaciones», dice Nick White, socio del bufete de abogados internacional Charles Russell Speechlys.

En el Reino Unido, ya existen normas y leyes que cubren el lavado de IA, incluido el código de conducta de la Autoridad de Estándares de Publicidad (ASA), que establece que las comunicaciones de marketing no deben inducir a error material, ni deben ser susceptibles de hacerlo.

Michael Cordeaux, asociado del equipo regulatorio de la firma de abogados corporativos del Reino Unido Walker Morris, dice que las afirmaciones sobre IA se han convertido en una característica cada vez más común de los anuncios sujetos a la investigación de la ASA.

Los ejemplos incluyen una publicación paga en Instagram sobre una aplicación titulada «Mejora tus fotos con IA», que la ASA consideró que era exagerando el rendimiento de la aplicación y, por lo tanto, era engañoso.

«Lo que está claro es que las afirmaciones sobre la IA son cada vez más frecuentes y, presumiblemente, eficaces para despertar el interés de los consumidores», afirma Cordeaux.

“En mi opinión, estamos en el apogeo del ciclo de la IA”, afirma Sandra Wachter, profesora de tecnología y regulación en la Universidad de Oxford y una de las principales expertas mundiales en IA.

“Sin embargo, creo que nos hemos olvidado de preguntarnos si siempre tiene sentido utilizar la IA para todo tipo de tareas. Recuerdo haber visto anuncios en el metro de Londres de cepillos de dientes eléctricos que funcionan con IA. ¿A quién va dirigido? ¿A quién ayuda esto?”

Además, el impacto ambiental de la IA a menudo se pasa por alto, afirma.

“La IA no crece en los árboles… la tecnología ya contribuye más al cambio climático que la aviación. Tenemos que alejarnos de esta discusión unilateral y exagerada y pensar realmente en tareas y sectores específicos para los que la IA puede ser beneficiosa, y no simplemente implementarla ciegamente en todo”.

Pero a largo plazo, dice Advika Jalan, directora de investigación de MMC Ventures, el problema del lavado de inteligencia artificial puede desaparecer por sí solo.

«La IA se está volviendo tan omnipresente, incluso si son solo envoltorios de ChatGPT, que ‘impulsada por IA’ como herramienta de marca probablemente dejará de ser un diferenciador después de algún tiempo», afirma. «Será un poco como decir ‘estamos en Internet'».