El líder de seguridad de OpenAI, Jan Leike, se une a Anthropic, respaldado por Amazon
Anadolu | Anadolu | imágenes falsas
Jan Leike, uno de los principales investigadores de seguridad de OpenAI que renunció a la compañía de inteligencia artificial a principios de este mes, dijo el martes que se ha unido a su rival. AI startup Antrópica.
Leike anunció su renuncia a OpenAI a principios del 15 de mayo, días antes de que la empresa disolvió el grupo de superalineación que codirigió. Ese equipo, formado en 2023, se centró en los riesgos de la IA a largo plazo. El cofundador de OpenAI, Ilya Sutskever, anunció su salida en una publicación en X el 14 de mayo.
«Estoy emocionado de unirme a @AnthropicAI para continuar la misión de superalineación», Leike escribió en X el martes. «Mi nuevo equipo trabajará en supervisión escalable, generalización de débil a fuerte e investigación de alineación automatizada».
Anthropic está respaldado por Amazonasque tiene comprometido hasta 4 mil millones de dólares en la financiación de una participación minoritaria en la empresa.
En una publicación posterior a su salida de OpenAI, Leike escribió: «Dejar este trabajo ha sido una de las cosas más difíciles que he hecho en mi vida, porque necesitamos urgentemente descubrir cómo dirigir y controlar sistemas de IA mucho más inteligentes que nosotros».
La seguridad de la IA ha ganado rápidamente importancia en todo el sector tecnológico desde que OpenAI introdujo ChatGPT a finales de 2022, lo que marcó el comienzo de un auge en las inversiones y los productos de IA generativa. Algunos en la industria han expresado inquietud que las empresas se están moviendo demasiado rápido al lanzar al público potentes productos de IA sin considerar adecuadamente el posible daño social.
microsoftIA abierta respaldada dicho El martes creó un nuevo comité de seguridad liderado por altos ejecutivos, incluido el director ejecutivo Sam Altman. El comité recomendará «decisiones de seguridad para proyectos y operaciones de OpenAI» a la junta directiva de la empresa.
Anthropic, fundada en 2021 por los hermanos Dario Amodei y Daniela Amodei y otros ex ejecutivos de OpenAI, lanzó su rival ChatGPT Claude 3 en marzo. La empresa ha recibido financiación de Google, Fuerza de ventas y Zoomademás de financiación de Amazon.