Feliz cumpleaños, Amazon? Por qué no celebraré el 30 cumpleaños de la empresa

Acababa de empezar mi máster en inteligencia artificial cuando un compañero de clase me preguntó si había oído hablar de Amazon, una nueva librería online en la que se podía pedir prácticamente cualquier libro del mundo y recibirlo en la puerta de casa. Sintiendo que volvía a invadirme toda la emoción de una feria del libro de secundaria, entré en el mundo de Amazon.com y pedí un libro precioso. Me pareció revolucionario y futurista, pero a la vez acogedor y personal. A finales de ese año, 1995, Amazon envió a sus clientes fieles, entre los que me encontraba yo, una taza de café gratis para las fiestas.

Habría sido difícil imaginar entonces que la pequeña empresa dirigida por Jeff Bezos… Garaje en Bellevue, Washington estaría celebrando su 30 aniversario y un precio alucinante de $1.97 billón Patrimonio neto actual. Sigo usando Amazon para comprar aparatos y artículos básicos, ver películas y programas y leer libros en un Kindle. Hago todo esto a pesar de que sé que la librería, que alguna vez fue mi favorita, se ha convertido en un gigante ávido de datos que está destruyendo la privacidad personal.

Hoy, Amazon vende básicamente todo y sabe básicamente todo, desde nuestro papel higiénico favorito hasta las preguntas de nuestros hijos a Alexa y lo que está sucediendo en nuestros vecindarios, y ha dejado que policía ¡También participamos en eso! Amazon sabe dónde vivimos, cómo suena nuestra voz, quiénes son nuestros contactos, cómo es nuestro historial crediticio, a qué temperatura nos gusta mantener nuestras casas e incluso si tenemos alergias u otros problemas de salud.

A partir de esta información, la empresa infiere un perfil completo: sabe si somos homosexuales o heterosexuales, casados ​​o divorciados, republicanos o demócratas, sexualmente activos o no, religiosos o laicos. Sabe nuestro nivel educativo y cuánto dinero ganamos. Y utiliza estos datos para vendernos mejor.

Como investigador en materia de privacidad, abogo por una protección sólida de la privacidad de los consumidores. Después de pasar casi una década analizando las políticas de privacidad con lupa, puedo decir con seguridad que Amazon ha sido peor en materia de privacidad que casi cualquier otra empresa. No es solo que Amazon tenga políticas de privacidad horribles; también es que, junto con Facebook y Google, fue coautora de nuestra terrible economía de publicidad dirigida, basada en extraer la mayor cantidad posible de datos de los usuarios para que cualquiera que tenga acceso a ellos pueda manipularlos para que compren más cosas.

Considerando la importancia de la libertad para la historia del origen de Estados Unidos, resulta irónico que el país esté tan en deuda con una empresa que ha convertido la manipulación de nuestro libre albedrío en una ciencia.

“¿Acabas de comprar estos granos de café italiano?”, nos pregunta Amazon. “Esto es lo que deberías comprar a continuación”.

La privacidad y el libre albedrío están inextricablemente entrelazados: ambos se basan en que se nos permita decidir quiénes somos, qué queremos y cuándo lo queremos sin que nadie nos observe ni interfiera. La privacidad es buena para nuestra salud mental y para la sociedad. Ni las corporaciones ni los gobiernos (que tienen una forma de adquirir los datos que recopilan las empresas) deberían tener acceso a un conocimiento ilimitado sobre quiénes somos y qué hacemos todo el tiempo.

Amazon ha desempeñado un papel fundamental para que esto sea posible. Su guerra contra la privacidad adquirió un cariz particularmente distópico Recientemente, en Gran Bretaña, algunas estaciones de tren utilizaron un sistema de inteligencia artificial de Amazon llamado Rekognition para escanear los rostros de los pasajeros y determinar su edad, género y estado emocional, ya sea felicidad, tristeza o enojo; identificar conductas supuestamente antisociales como correr, gritar, andar en patineta y fumar; y adivinar si tenían tendencias suicidas. Es como si la policía del pensamiento de Orwell cobrara vida, pero en lugar de Gran Hermano, es Gran Bezos.

Lo peor es que simplemente aceptamos esta intrusión a cambio de cosas baratas y envío gratis en dos días.

Lamentablemente, Amazon se ha convertido casi en un producto de primera necesidad, pero podemos tomar medidas para frenar sus peores consecuencias.

Los consumidores no deberían asumir la carga de mejorar Amazon, sino los responsables de las políticas y los reguladores. Un buen punto de partida es la Ley de Derechos de Privacidad de los Estados UnidosLa legislación que se encuentra actualmente en el Congreso no es perfecta, pero al menos abordaría nuestra flagrante falta de una ley federal de privacidad. Las leyes de privacidad de los estados forman un mosaico que varía ampliamente en cuanto a su eficacia para proteger a los consumidores.

Debemos empezar a pensar en la privacidad de los datos como un derecho humano. La idea de que las empresas tienen derecho a todos los datos que puedan recopilar y deducir sobre nosotros es una locura. Hace treinta años, nadie habría estado de acuerdo con ella.

Así no es como debería funcionar el mundo, y resulta especialmente aterrador que estemos en esta situación al entrar en la era de la inteligencia artificial. Los programas de IA generativa, como los chatbots de los que oímos hablar constantemente, están diseñados para extraer la mayor cantidad posible de información personal, supuestamente para hacerlos más eficaces. Y Amazon está actualizando su asistente Alexa incorporar tecnología de IA generativa.

Nada de lo que pueda comprar impulsivamente en Amazon me ayudará a sentirme mejor ante un futuro sin privacidad, con vigilancia masiva y un control generalizado de nuestros sentimientos y tendencias. Lo que empezó como un libro hermoso y una taza gratis ha dado lugar a un mundo en el que todo lo que compro, dondequiera que voy y, tal vez en un futuro no tan lejano, cada emoción que siento puede ser rastreada y convertida en inferencias para venderme más cosas o promover ideologías peligrosas o promover cualquier otro propósito que las corporaciones o los gobiernos consideren útil. Si suena distópico, es porque lo es.

Jen Caltrider es la directora del proyecto *Privacidad no incluida de Mozilla.