Premio Nobel: Los pioneros en IA ganan el Premio Nobel de Física
«Estos dos caballeros fueron realmente los pioneros», dijo Mark Pearce, miembro del comité del Nobel de Física.
Las redes neuronales artificiales -nodos informáticos interconectados inspirados en las neuronas del cerebro humano- de las que fueron pioneros los investigadores se utilizan en toda la ciencia y la medicina y «también se han convertido en parte de nuestra vida diaria», afirmó Ellen Moons, del comité del Nobel de la Real Academia Sueca de Ciencias. Ciencias.
Hopfield, cuyo trabajo de 1982 sentó las bases para el de Hinton, dijo a The Associated Press: «Sigo sorprendido por el impacto que ha tenido».
Hinton predijo que la IA acabará teniendo una «enorme influencia» en la civilización, aportando mejoras en la productividad y la atención sanitaria.
Descubre las historias de tu interés
«Sería comparable a la Revolución Industrial», dijo en una conferencia abierta con periodistas y funcionarios de la Real Academia Sueca de Ciencias. «No tenemos experiencia de lo que es tener cosas más inteligentes que nosotros. Y será maravilloso en muchos aspectos», dijo Hinton.
«Pero también tenemos que preocuparnos por una serie de posibles consecuencias negativas, en particular la amenaza de que estas cosas se salgan de control».
Advertencia de Riesgos de la IA El comité del Nobel también mencionó temores sobre el posible lado negativo.
Moons dijo que si bien tiene «enormes beneficios, su rápido desarrollo también ha generado preocupaciones sobre nuestro futuro. Colectivamente, los humanos tienen la responsabilidad de utilizar esta nueva tecnología de una manera segura y ética para el mayor beneficio de la humanidad».
Hinton, quien renunció a un puesto en Google para poder hablar más libremente sobre los peligros de la tecnología que ayudó a crear, comparte esas preocupaciones.
«Me preocupa que la consecuencia general de esto pueda ser que sistemas más inteligentes que nosotros eventualmente tomen el control», dijo Hinton.
Por su parte, Hopfield, que firmó las primeras peticiones de investigadores que pedían un fuerte control de la tecnología, comparó los riesgos y beneficios de trabajar con virus y energía nuclear, capaces de ayudar y dañar a la sociedad. En una conferencia de prensa en Princeton, hizo referencia a las preocupaciones, mencionando la distopía imaginada en «1984» de George Orwell, o el apocalipsis ficticio creado inadvertidamente por un físico ganador del Nobel en «Cat’s Cradle» de Kurt Vonnegut.
Ninguno de los ganadores estaba en casa para recibir la llamada. Hopfield, que se estaba quedando con su esposa en una cabaña en Hampshire, Inglaterra, dijo que después de tomar un café y vacunarse contra la gripe, abrió su computadora y se encontró con una ráfaga de actividad.
«Nunca había visto tantos correos electrónicos en mi vida», dijo. Le esperaban una botella de champán y un plato de sopa, añadió, pero dudaba que hubiera otros físicos en la ciudad que se unieran a la celebración.
Hinton dijo que estaba sorprendido por el honor.
«Estoy estupefacto. No tenía idea de que esto sucedería», dijo cuando el comité del Nobel lo contactó por teléfono. Dijo que estaba en un hotel barato sin internet.
El trabajo de Hinton se considera «el nacimiento» de la IA Hinton, de 76 años, ayudó a desarrollar una técnica en la década de 1980 conocida como retropropagación, instrumental para entrenar a las máquinas a «aprender» ajustando los errores hasta que desaparezcan. Es similar a la forma en que aprende un estudiante, con una solución inicial calificada y fallas identificadas y devueltas para su reparación. Este proceso continúa hasta que la respuesta coincide con la versión de la realidad de la red.
Hinton tenía una formación poco convencional como psicólogo que también incursionaba en la carpintería y sentía genuina curiosidad por saber cómo funciona la mente, dijo su protegido Nick Frosst, quien fue el primer empleado de Hinton en la división de inteligencia artificial de Google en Toronto.
Creo que su «alegría y su interés genuino en responder preguntas fundamentales son claves para su éxito como científico», dijo Frosst.
Tampoco se detuvo en su trabajo pionero de los años 80.
«Ha estado probando constantemente cosas locas y algunas de ellas funcionan muy bien y otras no», dijo Frosst. «Pero todos ellos han contribuido al éxito del campo y han impulsado a otros investigadores a probar cosas nuevas también».
El equipo de Hinton en la Universidad de Toronto cautivó a sus pares al usar una red neuronal para ganar el prestigioso concurso de visión por computadora ImageNet en 2012. Eso generó una avalancha de imitadores y fue «un momento muy, muy significativo en retrospectiva y en el curso de la historia de la IA». » dijo el científico informático de la Universidad de Stanford y creador de ImageNet, Fei-Fei Li.
«Muchas personas consideran que este es el nacimiento de la IA moderna», dijo.
Hinton y sus colegas científicos de IA Yoshua Bengio y Yann LeCun ganaron el máximo premio de informática, el Premio Turing, en 2019.
«Durante mucho tiempo, la gente pensó que lo que estábamos haciendo los tres era una tontería», dijo Hinton a la AP en 2019. «Mi mensaje a los jóvenes investigadores es: no se desanime si todos les dicen lo que están haciendo. tonto.»
Muchos de los antiguos alumnos y colaboradores de Hinton lo siguieron en la industria tecnológica cuando comenzó a capitalizar las innovaciones de la IA, y algunos fundaron sus propias empresas de IA, incluidas Cohere de Frosst y OpenAI, fabricante de ChatGPT. Hinton dijo que utiliza herramientas de aprendizaje automático en su vida diaria.
«Siempre que quiero saber la respuesta a algo, simplemente voy y le pregunto al GPT-4», dijo Hinton en el anuncio del Nobel. «No confío totalmente en él porque puede causar alucinaciones, pero en casi todo es un experto no muy bueno. Y eso es muy útil».
Hopfield, de 91 años, creó una memoria asociativa que puede almacenar y reconstruir imágenes y otros tipos de patrones en los datos, dijo el comité del Nobel.
Así como Hinton llegó a este campo procedente de la psicología, Hopfield enfatizó que la ciencia de vanguardia surge de cruzar las fronteras de campos científicos como la física, la biología y la química en lugar de que los investigadores se queden en su carril. Por eso este premio es un premio de física, dijo, señalando que su red neuronal toma prestado de la física de la materia condensada.
Con problemas grandes y complejos en los campos científicos, «si no estás motivado por la física, simplemente no abordas esa clase de problemas», dijo Hopfield.
Si bien no existe un Nobel para ciencias de la computación, Li dijo que otorgar un premio de ciencia tradicional a los pioneros de la IA es significativo y muestra cómo los límites entre disciplinas se han desdibujado.
Desacuerdo sobre los riesgos de la IA No todos sus pares están de acuerdo con los premios Nobel sobre los riesgos de la tecnología que ayudaron a crear.
Frosst ha tenido muchos «debates animados» con Hinton sobre los riesgos de la IA y no está de acuerdo con algunas de las advertencias de Hinton, pero no con su voluntad de abordarlas públicamente.
«Principalmente no estamos de acuerdo en la escala de tiempo y en la tecnología particular sobre la que está haciendo sonar la alarma», dijo Frosst. «No creo que las redes neuronales y los modelos de lenguaje tal como existen hoy representen un riesgo existencial».
Bengio, que durante mucho tiempo ha hecho sonar las alarmas sobre los riesgos de la IA, dijo que lo que realmente les alarma a él y a Hinton es la «pérdida de control humano» y si los sistemas de IA actuarán moralmente cuando sean más inteligentes que los humanos.
«No sabemos la respuesta a estas preguntas», dijo. «Y deberíamos asegurarnos de hacerlo antes de construir esas máquinas».
Cuando se le preguntó si el comité del Nobel podría haber tenido en cuenta las advertencias de Hinton al decidir sobre el premio, Bengio lo descartó y dijo que «estamos hablando de trabajos muy tempranos cuando pensábamos que todo sería color de rosa».
Seis días de anuncios del Nobel comenzaron el lunes con los estadounidenses Victor Ambros y Gary Ruvkun ganando el premio de medicina. Continúan con el premio de química el miércoles y el de literatura el jueves. El Premio Nobel de la Paz se anunciará el viernes y el de Economía el 14 de octubre.
El premio incluye una dotación en efectivo de 11 millones de coronas suecas (1 millón de dólares) de un legado dejado por el creador del premio, el inventor sueco Alfred Nobel. Los galardonados están invitados a recibir sus premios en una ceremonia que se celebrará el 10 de diciembre, aniversario de la muerte del Nobel.