La renuncia de Microsoft al puesto de observador en la junta directiva de OpenAI no resuelve las preocupaciones

Microsoft renunció a su puesto de observador en la junta directiva de OpenAI. Manzanaque se esperaba que asumiera una posición de observador similar, ya no lo hará, según el Tiempos financieros. Pero sea cual sea la claridad Los cambios de esta semana Se pretendía proporcionar, pero persisten muchas de las mismas preocupaciones..

Los reguladores no se están dando la vuelta y, para aquellos centrados en la ética en inteligencia artificialLos mismos temores —sobre que las ganancias tengan prioridad sobre la seguridad— persisten. Amba Kak, codirectora ejecutiva del AI Now Institute, una organización sin fines de lucro, describió el anuncio como un «subterfugio» diseñado para oscurecer las relaciones entre las grandes empresas tecnológicas y los actores emergentes en el campo de la inteligencia artificial.

«El momento de esta medida es importante», escribió Kak en un mensaje a la CNBC. «Debería verse como una respuesta directa al escrutinio regulatorio global sobre estas relaciones no convencionales».

El estrecho vínculo entre Microsoft y OpenAI y el enorme control que ambas empresas tienen sobre la industria de la IA seguirán siendo analizados por la Comisión Federal de Comercio, según una persona con conocimiento del asunto, que pidió no ser identificada debido a la confidencialidad.

Mientras tanto, los grandes sectores de desarrolladores e investigadores de IA que están preocupados por la seguridad y la ética en una industria de IA cada vez más lucrativa no se inmutan. Empleados actuales y anteriores de OpenAI publicó una carta abierta el 4 de junio, describiendo las preocupaciones sobre los rápidos avances que se están produciendo en IA, a pesar de la falta de supervisión y protección de los denunciantes.

«Las empresas de inteligencia artificial tienen fuertes incentivos financieros para evitar una supervisión efectiva, y no creemos que las estructuras de gobierno corporativo a medida sean suficientes para cambiar esto», escribieron los empleados en la carta. Agregaron que las empresas de inteligencia artificial «actualmente solo tienen obligaciones débiles para compartir parte de esta información con los gobiernos, y ninguna con la sociedad civil», y no se puede «confiar en que la compartan voluntariamente».

Días después de que se publicara la carta, una fuente familiarizada con el asunto confirmó a CNBC que la FTC y el Departamento de Justicia estaban dispuesto a abrir investigaciones antimonopolio en OpenAI, Microsoft y Nvidiacentrándose en la conducta de las empresas.

La presidenta de la FTC, Lina Khan, ha descrito Kak describió la acción de su agencia como una «investigación de mercado sobre las inversiones y asociaciones que se están formando entre los desarrolladores de IA y los principales proveedores de servicios en la nube». Kak dijo a CNBC que las actividades de los reguladores están ayudando a obtener respuestas y brindar transparencia.

Microsoft no mencionó a los reguladores en absoluto en su… explicación por renunciar a su puesto de observador en la junta directiva. El gigante del software dijo que ahora puede hacerse a un lado porque está satisfecho con la estructura de la junta directiva de la startup, que ha sido completamente renovada en los ocho meses transcurridos desde un levantamiento que llevó a la breve destitución del CEO Sam Altman y amenazó la inversión masiva de Microsoft en OpenAI.

Microsoft inicialmente tomó un asiento sin derecho a voto en la junta directiva de OpenAI en noviembre, después de la saga de Altman. La nueva junta incluye a Paul Nakasone, ex director de la Agencia de Seguridad Nacional, junto con el CEO de Quora, Adam D’Angelo, el ex secretario del Tesoro, Larry Summers, el ex codirector ejecutivo de Salesforce, Bret Taylor, y Altman. También hay nuevas adiciones A partir de marzo: Dra. Sue Desmond-Hellmann, ex directora ejecutiva de la Fundación Bill y Melinda Gates; Nicole Seligman, ex vicepresidenta ejecutiva de Sony; y Fidji Simo, directora ejecutiva de Instacart.

Tras el anuncio del miércoles de Microsoft, OpenAI dijo: Axios que la empresa está cambiando su enfoque sobre cómo relacionarse con «socios estratégicos». Apple no ha hecho ninguna declaración. Ninguna de las tres empresas proporcionó comentarios a CNBC para este artículo.

João Sedoc, profesor adjunto de tecnología en la Stern School of Business de la Universidad de Nueva York, dijo que la última decisión de Microsoft es positiva para la industria de la IA debido a la influencia percibida de la empresa en OpenAI. Dijo que era «fundamental» que Microsoft «interviniera y ayudara a estabilizar» OpenAI después del repentino despido seguido de la rápida reincorporación de Altman.

«La presencia de Microsoft presenta una mezcla de conflicto de intereses y ventaja competitiva», dijo Sedoc, y agregó: «Microsoft y OpenAI tienen una relación extraña, ya que ambos tienen sinergias y competencia al mismo tiempo».

Pero las dos empresas no están completamente alineadas. A principios de este año, Microsoft pagó un préstamo de 650 millones de dólares. Licencia de la tecnología de Inflection AI y contratar talentos clave de la empresa, en particular el director ejecutivo Mustafa Suleyman, quien anteriormente cofundó DeepMind, la startup de inteligencia artificial adquirida por Google en 2014.

Ben Miller, director ejecutivo de la plataforma de inversión Fundrise, dijo que después del acuerdo con Inflection, Microsoft «ahora está en camino de ser un verdadero competidor de OpenAI», lo que significa que no debería estar en la sala de juntas de la startup.

«Tener voz y voto en la mesa es extremadamente influyente para la empresa y proporciona a Microsoft una enorme cantidad de información sobre las actividades del negocio», afirmó Miller.

Sedoc dijo a CNBC que la separación representa el precedente correcto, ya que las grandes empresas tecnológicas se están convirtiendo cada vez más en grandes inversores en IA. Citó a empresas emergentes de IA como Anthropic, respaldada por Amazon, y Hugging Face, cuyos inversores incluyen a Google, Amazon, Nvidia y otros.

«Probablemente estén pensando en los efectos posteriores que esto significaría para el movimiento general de la industria», dijo Sedoc.

Sin embargo, un área donde Sedoc dijo que podría ser problemático es la seguridad de la IA.

«Creo que Microsoft tiene mucha experiencia y una trayectoria más larga en pensar en este tema en muchos ámbitos diferentes a los que OpenAI no tiene», dijo Sedoc. «Desde esa perspectiva, creo que no estar presentes en la mesa de negociaciones tendrá algunas desventajas».

Las prácticas de seguridad de la IA fueron en el corazón del desacuerdo entre Altman y la junta anterior de OpenAI, y continúa causando fisuras en la empresa.

En mayo, OpenAI disolvió su equipo centrado en los riesgos a largo plazo de la IA, justo un año después de que la empresa anunciara la creación del grupo. La noticia se conoció días después de que ambos líderes del equipo, el cofundador de OpenAI Ilya Sutskever y Jan Leike, anunciaron sus salidas de la empresa. En una publicación en X, Leike escribió que la «cultura y los procesos de seguridad de OpenAI han quedado en segundo plano frente a los productos brillantes» y que le «preocupa» que la empresa no esté en el camino correcto.

«Construir máquinas más inteligentes que los humanos es una tarea inherentemente peligrosa», escribió Leike. «OpenAI asume una enorme responsabilidad en nombre de toda la humanidad».

Al anunciar el nombramiento de Nakasone como miembro de la junta directiva el mes pasado, OpenAI dijo que se uniría al Comité de Seguridad y Protección recientemente creado. OpenAI dijo en ese momento que el grupo está evaluando durante 90 días los procesos y las medidas de seguridad de la empresa antes de hacer recomendaciones a la junta directiva y, eventualmente, informar al público.

—Ryan Browne, Matt Clinch y Steve Kovach de CNBC contribuyeron con este informe.

MIRAR: OpenAI fue hackeado en abril de 2023, sin que se haya revelado al público