El gobernador de California, Gavin Newsom, veta un histórico proyecto de ley sobre seguridad de la IA
El gobernador de California, Gavin Newsom, bloqueó un proyecto de ley histórico sobre seguridad de la inteligencia artificial (IA), que había enfrentado una fuerte oposición de las principales empresas de tecnología.
La legislación propuesta habría impuesto algunas de las primeras regulaciones sobre IA en Estados Unidos.
Newsom dijo que el proyecto de ley podría sofocar la innovación y provocar que los desarrolladores de IA se muden fuera del estado.
El senador Scott Wiener, autor del proyecto de ley, dijo que el veto permite a las empresas continuar desarrollando una «tecnología extremadamente poderosa» sin ninguna supervisión gubernamental.
El proyecto de ley habría exigido que los modelos de IA más avanzados se sometieran a pruebas de seguridad.
Habría obligado a los desarrolladores a asegurarse de que su tecnología incluyera el llamado «interruptor de apagado». Esto permitiría a las organizaciones aislar y desactivar eficazmente un sistema de IA si se convirtiera en una amenaza.
También habría hecho obligatoria la supervisión oficial para el desarrollo de los llamados «modelos de frontera», o los sistemas de inteligencia artificial más potentes.
El proyecto de ley «no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales». Newsom dijo en un comunicado.
«En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando un sistema grande las implemente», añadió.
Al mismo tiempo, Newsom anunció planes para proteger al público de los riesgos de la IA y pidió a los principales expertos que ayudaran a desarrollar salvaguardias para la tecnología.
En las últimas semanas, Newsom también firmó 17 proyectos de ley, incluida una legislación destinada a combatir la desinformación y las llamadas falsificaciones profundas, que incluyen imágenes, videos o contenido de audio creados con inteligencia artificial generativa.
California es el hogar de muchas de las empresas de inteligencia artificial más grandes y avanzadas del mundo, incluido el fabricante de ChatGPT, OpenAI.
El papel del estado como centro para muchas de las empresas tecnológicas más grandes del mundo significa que cualquier proyecto de ley que regule el sector tendría un impacto nacional y global importante en la industria.
El señor Wiener dijo La decisión de vetar el proyecto de ley deja a las empresas de IA «sin restricciones vinculantes por parte de los responsables políticos estadounidenses, particularmente dada la continua parálisis del Congreso en torno a la regulación de la industria tecnológica de manera significativa».
Los esfuerzos del Congreso para imponer salvaguardias a la IA se han estancado.
OpenAI, Google y Meta estuvieron entre varias empresas tecnológicas importantes que expresaron su oposición al proyecto de ley y advirtieron que obstaculizaría el desarrollo de una tecnología crucial.
Wei Sun, analista senior de Counterpoint Research, dijo: «La IA, como tecnología de propósito general, aún se encuentra en sus primeras etapas, por lo que restringir la tecnología en sí, como se propone, es prematuro.
«En cambio, sería más beneficioso regular escenarios de aplicación específicos que puedan causar daños en el futuro», añadió.