Ansiedad por la IA a medida que las computadoras se vuelven súper inteligentes
Desde el mortífero Terminator de Hollywood hasta las advertencias del genio Stephen Hawking o las estrellas de Silicon Valley, se han alimentado los temores de que la inteligencia artificial (IA) algún día pueda destruir a la humanidad.
Los titanes de la tecnología se apresuran a crear una IA mucho más inteligente que las personas, lo que empuja al presidente estadounidense Joe Biden a imponer regulaciones de emergencia y a la Unión Europea a buscar que se acuerde una legislación importante para finales de este año.
Una cumbre de dos días en Londres exploró salvaguardias regulatorias contra riesgos de IA como los que se detallan a continuación.
¿Ladrón de empleo?
El éxito de ChatGPT de OpenAI ha encendido el debate sobre si la «IA generativa» capaz de producir rápidamente texto, imágenes y audio a partir de comandos simples en el lenguaje cotidiano es una tremenda amenaza para los puestos de trabajo de las personas.
Ya se utiliza maquinaria automatizada para realizar trabajos en fábricas, almacenes y campos. Sin embargo, la IA generativa puede apuntar a trabajos administrativos como abogados, médicos, profesores, periodistas e incluso programadores informáticos.
Un informe de la consultora McKinsey estima que para finales de esta década, hasta el 30 por ciento de las horas trabajadas en Estados Unidos podrían automatizarse, en una tendencia acelerada por la IA generativa.
Los impulsores de dicha tecnología han invocado la noción de un ingreso básico universal en el que las máquinas generan riqueza que se comparte con personas liberadas de las cargas del trabajo.
Pero también es posible que las empresas obtengan beneficios de una mayor eficiencia, dejando a quienes se quedan sin trabajo a su suerte.
¿Imitador?
Los artistas se apresuraron a protestar contra software como Dall-E, Midjourney y Stable Diffusion que son capaces de crear imágenes en casi cualquier estilo bajo demanda.
Los codificadores y escritores informáticos hicieron lo mismo y criticaron a los creadores de IA por «entrenar» el software en su trabajo, permitiéndole replicar sus estilos o habilidades sin permiso ni compensación.
Los modelos de IA se han enseñado utilizando enormes cantidades de información e imágenes encontradas en línea.
«En eso se entrena, una fracción de la enorme producción de la humanidad», dijo el cofundador de OpenAI, Sam Altman, en una conferencia en septiembre. «Creo que esta será una herramienta que amplificará a los seres humanos, no los reemplazará».
¿Herramientas de desinformación?
Las noticias falsas y los deepfakes existen desde hace años, pero poder generarlas fácilmente usando IA generativa genera temores de un engaño desenfrenado en línea.
Las elecciones corren el riesgo de que las ganen aquellos más expertos en difundir desinformación, sostiene el científico cognitivo y experto en inteligencia artificial Gary Marcus.
«La democracia depende del acceso a la información necesaria para tomar las decisiones correctas», dijo Marcus. «Si nadie sabe qué es verdad y qué no, se acabó todo».
¿Fraude?
La IA generativa facilita a los estafadores la creación de correos electrónicos de phishing convincentes, tal vez incluso aprendiendo lo suficiente sobre los objetivos para personalizar los enfoques.
La tecnología les permite copiar una cara o una voz y así engañar a las personas para que caigan en engaños como, por ejemplo, afirmar que un ser querido está en peligro.
El presidente de Estados Unidos, Biden, calificó la capacidad de la IA para imitar las voces de las personas como «alucinante» al firmar su reciente orden ejecutiva dirigida a esta tecnología.
Incluso existen modelos de lenguaje entrenados específicamente para producir este tipo de contenido malicioso.
Modelos humanos
Al igual que ocurre con otras tecnologías con potencial para el bien o el mal, el principal peligro lo representan los humanos que la manejan. Dado que la IA se entrena con datos puestos en la web por humanos, puede reflejar los prejuicios, parcialidades e injusticias de la sociedad.
La IA también tiene el potencial de facilitar la creación de armas biológicas; hackear bancos o redes eléctricas; ejecutar una vigilancia gubernamental opresiva y más.
¿Señor supremo de la IA?
Algunos actores de la industria temen que la IA pueda volverse tan inteligente que pueda arrebatarle el control a los humanos.
«No es difícil imaginar que en algún momento en el futuro, nuestras computadoras inteligentes se volverán tan inteligentes o más inteligentes que las personas», dijo el cofundador y científico jefe de OpenAI, Ilya Sutskever, en una reciente conferencia TED AI. «El impacto de dicha inteligencia artificial será realmente enorme».
OpenAI y sus rivales sostienen que el objetivo es que la IA beneficie a la humanidad, resolviendo problemas que durante mucho tiempo han sido intratables, como el cambio climático.
Al mismo tiempo, los líderes de la industria de la IA exigen una regulación cuidadosa para prevenir riesgos como la extinción humana.
© 2023 AFP