Físico ganador del Nobel ‘desconcertado’ por la tecnología de inteligencia artificial que ayudó a crear
Un científico estadounidense que ganó el Premio Nobel de Física 2024 por su trabajo pionero sobre inteligencia artificial dijo el martes que encontraba los recientes avances en la tecnología «muy desconcertantes» y advirtió sobre una posible catástrofe si no se controlan.
John Hopfield, profesor emérito de Princeton, se unió al coganador Geoffrey Hinton para pedir una comprensión más profunda del funcionamiento interno de los sistemas de aprendizaje profundo para evitar que se salgan de control.
En un discurso en una reunión en la Universidad de Nueva Jersey a través de un enlace de video desde Gran Bretaña, el hombre de 91 años dijo que a lo largo de su vida había presenciado el surgimiento de dos tecnologías poderosas pero potencialmente peligrosas: la ingeniería biológica y la física nuclear.
«Estamos acostumbrados a tener tecnologías que no son sólo buenas o malas, sino que tienen capacidades en ambas direcciones», afirmó.
«Y como físico, estoy muy nervioso por algo que no tiene control, algo que no entiendo lo suficientemente bien como para poder entender cuáles son los límites a los que se puede impulsar esa tecnología».
«Esa es la pregunta que plantea la IA», continuó, añadiendo que a pesar de que los sistemas modernos de IA parecen «absolutas maravillas», existe una falta de comprensión sobre cómo funcionan, lo que describió como «muy, muy desconcertante».
«Es por eso que yo mismo, y creo que Geoffrey Hinton también, defenderíamos firmemente la comprensión como una necesidad esencial del campo, que va a desarrollar algunas habilidades que van más allá de las capacidades que se pueden imaginar en la actualidad».
Hopfield fue honrado por idear la «red Hopfield», un modelo teórico que demuestra cómo una red neuronal artificial puede imitar la forma en que los cerebros biológicos almacenan y recuperan recuerdos.
Su modelo fue mejorado por el británico-canadiense Hinton, a menudo apodado el «padrino de la IA», cuya «máquina Boltzmann» introdujo el elemento de aleatoriedad, allanando el camino para aplicaciones modernas de IA, como los generadores de imágenes.
Con el meteórico ascenso de las capacidades de la IA (y la feroz carrera que ha desatado entre las empresas), la tecnología ha enfrentado críticas por evolucionar más rápido de lo que los científicos pueden comprender plenamente.
«No sabes que las propiedades colectivas con las que empezaste son en realidad propiedades colectivas con todas las interacciones presentes y, por lo tanto, no sabes si hay algo espontáneo pero no deseado escondido en el proceso», enfatizó Hopefield.
Evocó el ejemplo del «hielo nueve», un cristal ficticio diseñado artificialmente en la novela de Kurt Vonnegut de 1963, «Cat’s Cradle», desarrollado para ayudar a los soldados a lidiar con condiciones de barro, pero que sin darse cuenta congela los océanos del mundo, provocando la caída de la civilización.
«Me preocupa cualquier cosa que diga… ‘Soy más rápido que tú, soy más grande que tú… ¿puedes habitar pacíficamente conmigo?’ No lo sé, me preocupa».
© 2024 AFP