OpenAI forma un comité de seguridad a medida que aumentan las preocupaciones sobre la IA
El creador de ChatGPT, OpenAI, dijo el martes que formó un comité de seguridad para evaluar los procesos y salvaguardas de la compañía a medida que aumentan las preocupaciones sobre el uso de tecnología de inteligencia artificial en rápido desarrollo.
Se espera que el comité demore 90 días en finalizar su evaluación. Después de eso, presentará a la junta directiva completa de la compañía recomendaciones sobre decisiones críticas de seguridad para proyectos y operaciones de OpenAI, dijo la firma en un entrada en el blog.
El anuncio se produce después de que dos líderes de alto nivel, el cofundador Ilya Sutskever y su colega ejecutivo Jan Leike, renunciaran a la empresa. Sus salidas generaron preocupaciones sobre las prioridades de la compañía, porque ambas se habían centrado en la importancia de garantizar un futuro seguro para la humanidad en medio del auge de la IA.
Sutskever y Leike lideraron el llamado equipo de superalineación de OpenAI, cuyo objetivo era crear sistemas para frenar los riesgos a largo plazo de la tecnología. Al grupo se le asignó la tarea de “avances científicos y técnicos para dirigir y controlar sistemas de inteligencia artificial mucho más inteligentes que nosotros”. Tras su partida, Leike dijo que «la cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes».
El nuevo comité de seguridad de OpenAI está dirigido por el presidente de la junta, Bret Taylor, directores Adam D’Angelo y Nicole Seligman y el director ejecutivo Sam Altman. Varios líderes técnicos y políticos de OpenAI también forman parte del comité. OpenAI dijo que «contratará y consultará con otros expertos técnicos y de seguridad para respaldar este trabajo».
La formación del comité llega cuando la empresa comienza a trabajar en la capacitación de lo que llama su “modelo de próxima frontera” para la inteligencia artificial.
«Si bien estamos orgullosos de construir y lanzar modelos que son líderes en la industria tanto en capacidades como en seguridad, damos la bienvenida a un debate sólido en este momento importante», dijo OpenAI en su publicación de blog.
Las controversias sobre el uso de la IA han perseguido a la empresa con sede en San Francisco, incluso en el negocio del entretenimiento, que está preocupada por las implicaciones de la tecnología para la propiedad intelectual y el posible desplazamiento de puestos de trabajo.
La actriz Scarlett Johansson criticó a la compañía la semana pasada por su manejo de una función de voz ChatGPT que ella y otros dijeron sonaba inquietantemente como ella. Johansson, quien prestó su voz a un programa de inteligencia artificial en la película ganadora del Oscar «Her» de Spike Jonze, dijo que Altman se acercó a ella para pedirle que proporcionara su voz, pero ella se negó, sólo para escuchar más tarde lo que sonaba como su voz en un Demostración de OpenAI.
OpenAI dijo que la voz que aparece en la demostración no era la de Johansson, sino la de otro actor. Después de que Johansson dio la alarma, OpenAI puso una pausa en su opción de voz, “Sky”, una de las muchas voces humanas disponibles en la aplicación. Un portavoz de OpenAI dijo que la formación del comité de seguridad no estaba relacionada con los problemas que involucran a Johansson.
OpenAI es mejor conocido por ChatGPT y Sora, un herramienta de texto a vídeo eso tiene importantes ramificaciones potenciales para los cineastas y los estudios.
OpenAI y otras empresas tecnológicas han estado manteniendo conversaciones con hollywoodmientras la industria del entretenimiento se enfrenta a la Efectos a largo plazo de la IA sobre el empleo y la creatividad..
Algunos directores de cine y televisión han dicho que la IA les permite pensar con más audacia. ideas de prueba sin tener las limitaciones de efectos visuales y presupuestos de viaje limitados. A otros les preocupa que una mayor eficiencia a través de herramientas de inteligencia artificial pueda reducir trabajos en áreas como maquillaje, producción y animación.
Al enfrentarse a cuestiones de seguridad, el negocio de OpenAI, que es respaldado por MicrosoftTambién debe hacer frente a la competencia de otras empresas que están construyendo sus propias herramientas de inteligencia artificial y financiación.
Anthropic, con sede en San Francisco, ha recibió miles de millones de dólares de Amazon y Google. El domingo, xAI, dirigida por Elon Musk, Anunciado cerró una ronda de financiación de 6.000 millones de dólares destinada a investigación y desarrollo, construcción de infraestructura y lanzamiento de sus primeros productos al mercado.