Sam Altman sobre su derrocamiento, los peligros de la IA y Taylor Swift

Cuando Sam Altman era despedido abruptamente el mes pasado como director ejecutivo de la potencia de inteligencia artificial OpenAI, la ruptura lo dejó con mucho que pensar.

Pero mirando hacia atrás en la experiencia, Altman le dijo al comediante Trevor Noah en un podcast de video publicado el jueves por la mañana, es posible que haya habido algunas ventajas.

«La empatía que obtuve de toda esta experiencia y mi recopilación de valores, sin duda fue una bendición disfrazada», dijo Altman al ex presentador del «Daily Show» en uno de sus primeros grandes entrevistas desde que regresó triunfalmente a la empresa de tecnología. «Fue un costo doloroso, pero estoy feliz de haber tenido la experiencia en ese sentido».

Fue uno de los varios temas sobre los que habló el tecnólogo, cuya empresa está detrás de los principales productos de IA de consumo como ChatGPT y DALL-E, lo que lo convierte en el rostro del actual auge de la IA en muchos sentidos, en el último episodio del podcast de Spotify de Noah. ¿Ahora que?»

1. Altman estaba en el Gran Premio de Las Vegas cuando lo despidieron.

En respuesta a una pregunta de Noah sobre dónde estaba cuando recibió la noticia de que la junta de OpenAI lo había despedido, Altman dijo que estaba donde estaban muchos californianos ricos e influyentes en ese momento: Las Vegas, por primera vez. Gran Premio de Fórmula Uno.

«Nunca pude ver ninguna carrera durante todo el fin de semana», le dijo al anfitrión mientras los dos se sentaban alrededor de una sencilla mesa de madera en lo que supusieron que era la oficina de OpenAI. «Estaba en mi habitación de hotel, recibí esta llamada, no tenía idea de qué iba a ser y la junta me despidió».

Su teléfono comenzó a llenarse de mensajes hasta el punto en que iMessage dejó de funcionar, dijo Altman. Los empleados comenzaron a renunciar; Microsoft, un importante inversor en OpenAI, estaba llamando a la gente.

Altman dijo que aún no tenía en mente regresar a OpenAI, pero sabía que quería seguir trabajando en el desarrollo de inteligencia artificial generalizada. Voló de regreso a California y comenzó a contemplar su próximo paso.

«Se sintió como un sueño», dijo Altman sobre la experiencia. “Estaba confundido, era caótico. No parecía real”.

2. Todavía tiene algunos resentimientos por toda la terrible experiencia.

“Esto fue algo muy doloroso y, personalmente, lo sentí como un ser humano, súper injusto, la forma en que se manejó”, dijo Altman sobre su despido sorpresa.

Todavía no está claro exactamente por qué la junta directiva de OpenAI intentó expulsar a Altman, aunque se ha especulado en torno a posibles desacuerdos sobre la rapidez con la que la empresa debería intentar desarrollar y comercializar sistemas avanzados de IA. Debido a la estructura de OpenAI, que mantiene los elementos con fines de lucro de la empresa subordinados a una junta sin fines de lucro, la empresa no tiene como objetivo principal ganar dinero. En cambio, su objetivo es desarrollar inteligencia artificial para el mejoramiento de toda la humanidad.

La junta buscó expulsar a Altman rápidamente y con la beneficio de la sorpresainformes posteriores lo han revelado. Pero más allá de una afirmación inicial de que ha sido inconsistentemente sincero en sus comunicaciones con ellos, la junta ha guardado silencio sobre lo que motivó su intento de golpe.

El sábado por la mañana después de que lo despidieran, Altman le dijo a Noah: “un par de miembros de la junta me llamaron y me dijeron: ‘¿Te gustaría hablar sobre volver?’ «

«Tenía sentimientos realmente complicados al respecto», dijo. “Pero fue muy clarificador al final decir: ‘Sí, lo quiero’. «

3. Altman pudo ver de primera mano lo que es perder el trabajo.

En los minutos finales de la entrevista, que se mantuvo amable durante su hora y 15 minutos de duración, Noah hizo una observación amistosa pero directa de que el despido de Altman fue paralelo a las pérdidas de empleos que mucha gente teme que su tecnología provocará a escala social.

“Continúe recordando ese sentimiento que tuvo cuando lo despidieron mientras crea una tecnología que pondrá a muchas personas en una posición similar”, animó Noah al director ejecutivo.

«¿Sabes lo que hice el sábado por la mañana, como el sábado temprano por la mañana, cuando no podía dormir?» Dijo Altman, aparentemente refiriéndose al día después de su despido del viernes. “Escribí: ‘¿Qué puedo aprender sobre esto que me ayude a ser mejor cuando otras personas pasen por algo similar y me culpen como si estuviera culpando a la junta directiva en este momento’?

Eso lo hizo más empático, dijo.

4. Altman todavía cree en la IA, a pesar de sus riesgos.

A pesar de todo el dramatismo del último mes en la sala de juntas, Altman sigue entusiasmado con la inteligencia artificial, aunque advierte que tendrá desventajas.

«Esta será una fuerza para combatir la injusticia en el mundo de una manera muy importante», le dijo a Noah. “Estos sistemas lo serán… no tendrán los mismos defectos profundos que tienen todos los humanos. Se les podrá lograr que sean mucho menos racistas, mucho menos sexistas y mucho menos parciales. Serán una fuerza a favor de la justicia económica en el mundo”.

Pero, preguntó su anfitrión, ¿es realmente posible hacer que la IA sea completamente segura? ¿Cuál es el escenario de pesadilla de Altman?

La seguridad no es un binario sino un equilibrio entre riesgos y beneficios, dijo Altman, señalando la continua aceptación por parte de la sociedad de los aviones (a pesar de accidentes ocasionales) y los productos farmacéuticos (que todavía tienen efectos secundarios).

«Pero eso no significa que las cosas no vayan a salir realmente mal», dijo. “Creo que las cosas irán muy mal con la IA. Lo que tenemos que prevenir” son los riesgos existenciales, o la amenaza de que la IA pueda acabar con la humanidad de la misma manera que lo harían las armas nucleares.

5. Tuvo algunas palabras amables para Taylor Swift.

Altman era recién nombrado CEO del año según la revista Time, perdiendo el primer puesto hasta 2023 Persona del año Taylor Swift.

Pero él no la envidia por eso, le dijo a Noah.

“He recibido más atención este año de la que me hubiera gustado en toda mi vida”, dijo, y en ocasiones ha sido difícil para su vida personal. Está «feliz por Taylor Swift».