El ex miembro de la junta directiva de OpenAI explica por qué el director ejecutivo Sam Altman fue despedido
Helen Toner, ex miembro de la junta directiva de OpenAI, que ayudó destituir al director ejecutivo Sam Altman en noviembre, rompió su silencio cuando habló en un podcast publicado el martes sobre los acontecimientos dentro de la empresa que condujeron al despido de Altman.
Dio un ejemplo: cuando OpenAI lanzó ChatGPT en noviembre de 2022, la junta no fue informada con anticipación y se enteró en Twitter. Toner también dijo que Altman no le dijo a la junta que era dueño del fondo inicial OpenAI.
Altman pasó a ser nombrado director general Menos de una semana después de su despido, pero los comentarios de Toner dan una idea de la decisión por primera vez.
«La junta es una junta sin fines de lucro que se creó explícitamente con el propósito de garantizar que la misión de bien público de la empresa fuera primordial, estuviera en primer lugar, por encima de las ganancias, los intereses de los inversores y otras cosas», dijo Toner en «El espectáculo TED de IA» podcast.
«Pero durante años, Sam había dificultado mucho que la junta directiva hiciera ese trabajo reteniendo información, tergiversando cosas que estaban sucediendo en la empresa y, en algunos casos, mintiendo abiertamente a la junta», dijo.
Toner dijo que Altman le dio a la junta «información inexacta sobre la pequeña cantidad de procesos de seguridad formales que la compañía tenía implementados» en múltiples ocasiones.
«Para cualquier caso individual, Sam siempre podía dar algún tipo de explicación que pareciera inocua de por qué no fue gran cosa, o fue mal interpretado, o lo que sea», dijo Toner. «Pero el efecto final fue que después de años de este tipo de cosas, los cuatro que lo despedimos llegamos a la conclusión de que simplemente no podíamos creer las cosas que Sam nos estaba contando, y ese es un lugar completamente inviable en el que estar». como junta directiva, especialmente una junta que se supone debe proporcionar supervisión independiente de la empresa, no sólo ayudar al CEO a recaudar más dinero».
Toner explicó que la junta había trabajado para mejorar los problemas. Dijo que, en octubre, un mes antes de la destitución, la junta tuvo conversaciones con dos ejecutivos que le contaron experiencias con Altman que antes no se sentían cómodos compartiendo, incluidas capturas de pantalla y documentación de interacciones problemáticas y falsedades.
«Los dos de repente empezaron a decirnos… que no podían confiar en él, sobre la atmósfera tóxica que estaba creando», dijo Toner. «Usaron la frase ‘abuso psicológico’, diciéndonos que no creían que él fuera la persona adecuada para llevar la empresa a AGI, y nos dijeron que no creían que él pudiera o cambiaría».
La inteligencia artificial general, o AGI, es un término amplio que se refiere a un tipo de inteligencia artificial que supera las capacidades humanas en diversas tareas cognitivas.
Un portavoz de OpenAI no estuvo disponible de inmediato para hacer comentarios.
A principios de este mes, OpenAI disuelto su equipo se centró en los riesgos a largo plazo de AI un año después de que la empresa anunciara el grupo. La noticia llegó días después de que ambos líderes del equipo, el cofundador de OpenAI, Ilya Sutskever, y Jan Leike, anunciaron sus salidas desde el microsoft-startup respaldada. Leike, quien desde entonces ha anunciado que es unirse al competidor de IA Anthropicescribió el viernes que «la cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes».
Los comentarios de Toner y las salidas de alto perfil siguen a las del año pasado. crisis de liderazgo.
En noviembre, La junta directiva de OpenAI destituyó a Altmandiciendo que había llevado a cabo «un proceso de revisión deliberante» y que Altman «no fue consistentemente sincero en sus comunicaciones con la junta, lo que obstaculizó su capacidad para ejercer sus responsabilidades».
«La junta ya no confía en su capacidad para seguir liderando OpenAI», dijo.
El periodico de Wall Street y otros medios de comunicación informaron que, si bien Sutskever se centró en garantizar que la inteligencia artificial no dañara a los humanos, otros, incluido Altman, estaban más ansiosos por seguir adelante con la entrega de nueva tecnología.
La destitución de Altman provocó renuncias y amenazas de renuncias, incluida una carta abierta firmada por prácticamente todos los empleados de OpenAI, y el revuelo de los inversores, incluidos microsoft. Al cabo de una semana, Altman regresó y los miembros de la junta Toner y Tasha McCauley, que habían votado para destituir a Altman, quedaron fuera. Sutskever renunció a su puesto en la junta y permaneció en el personal hasta que anunció su salida el 14 de mayo. Adam D’Angelo, que también votó a favor de derrocar a Altman, permanece en la junta.
En marzo, OpenAI anunció su nueva juntaque incluye a Altman, y la conclusión de una investigación interna realizada por la firma de abogados WilmerHale sobre los eventos que llevaron al derrocamiento de Altman.
OpenAI no publicó el informe de la investigación de WilmerHale, pero resumió sus hallazgos.
«La revisión concluyó que había una ruptura significativa de la confianza entre la junta anterior y Sam y Greg», dijo en ese momento el presidente de la junta de OpenAI, Bret Taylor, refiriéndose al presidente y cofundador Greg Brockman. La revisión también «concluyó que la junta actuó de buena fe… [and] No anticipé parte de la inestabilidad que vino después», añadió Taylor.