La legislatura de California aprueba un proyecto de ley sobre seguridad de la IA
Un controvertido proyecto de ley que requeriría que los desarrolladores de modelos avanzados de inteligencia artificial adopten medidas de seguridad está un paso más cerca de convertirse en ley.
El proyecto de ley, SB 1047, requeriría que los desarrolladores de futuros modelos avanzados de IA creen barreras de protección para evitar que la tecnología se utilice indebidamente para realizar ciberataques a infraestructuras críticas como plantas de energía.
Los desarrolladores tendrían que presentar sus planes de seguridad al fiscal general, quien podría responsabilizarlos si los modelos de IA que controlan directamente causaran daño o una amenaza inminente a la seguridad pública.
El proyecto de ley, presentado por el senador Scott Wiener (demócrata de San Francisco), fue aprobado por la Asamblea estatal el miércoles con 41 votos a favor y nueve en contra. El jueves, la medida fue aprobada por el Senado estatal en una votación de concurrencia. Ahora se dirige a la oficina del gobernador Gavin Newsom, aunque no está claro si Newsom firmará o vetará el proyecto de ley.
“La innovación y la seguridad pueden ir de la mano, y California está liderando el camino”, dijo Wiener en un comunicado.
Un portavoz de Newsom dijo que el gobernador evaluará el proyecto de ley cuando llegue a su escritorio.
El proyecto de ley de Wiener fue objeto de un intenso debate en la comunidad tecnológica del Área de la Bahía. Recibió el apoyo de la Centro para la seguridad de la IA, Elon Musk, director ejecutivo de Tesla, el Consejo editorial del LA Times y la startup de inteligencia artificial Anthropic, con sede en San Francisco.
Pero los líderes demócratas del Congreso, así como destacados actores de IA, incluidos Meta y OpenAI, se opusieron y expresaron su preocupación sobre si la legislación sofocaría la innovación en California.
Los líderes demócratas del Congreso, entre ellos la expresidenta de la Cámara de Representantes Nancy Pelosi, el representante Ro Khanna (demócrata por Fremont) y Zoe Lofgren (demócrata por San José), también se han opuesto al proyecto de ley y han instado a Newsom a vetarlo. Argumentan que la legislación podría perjudicar a California. La creciente industria de la IAhogar del creador de ChatGPT, OpenAI, y cita los esfuerzos que el Congreso está haciendo relacionados con la IA.
“Existe un riesgo real de que las empresas decidan constituirse en otras jurisdicciones o simplemente no lanzar modelos en California”, escribieron Khanna, Lofgren y otros seis representantes demócratas del Congreso en una carta a Newsom.
“Si bien queremos que California sea líder en inteligencia artificial de una manera que proteja a los consumidores, los datos, la propiedad intelectual y más, la SB 1047 es más dañina que útil en ese objetivo”, dijo Pelosi en un comunicado.
Wiener y otros legisladores que apoyan el proyecto de ley no están de acuerdo y sostienen que fomentaría la innovación y al mismo tiempo protegería al público.
“Hay que poner barreras de protección”, dijo el asambleísta Devon Mathis (republicano de Visalia) antes de la votación de la Asamblea el miércoles por la tarde. “Tenemos que asegurarnos de que sean actores responsables”.
Los defensores de la SB 1047 dicen que requiere que los desarrolladores sean responsables de la seguridad de los modelos de IA avanzados bajo su control, lo que podría ayudar a prevenir eventos catastróficos de IA en el futuro.
“Me preocupa que las empresas tecnológicas no resuelvan por sí solas los importantes riesgos asociados a la IA, porque están atrapadas en su carrera por la cuota de mercado y la maximización de las ganancias”, dijo Yoshua Bengio, profesor de la Universidad de Montreal y fundador y director científico de Mila, el Instituto de Inteligencia Artificial de Quebec, en una conferencia de prensa esta semana. “Simplemente no podemos dejar que califiquen sus propios deberes y esperen que todo salga bien”.
Los partidarios también afirman que la IA debería regularse de forma similar a otras industrias que plantean riesgos potenciales de seguridad.
“Es una decisión difícil y molestará a algunas personas, pero, considerando todo, creo que California probablemente debería aprobar el proyecto de ley de seguridad de la IA SB 1047”, escribió Musk en X el lunes. “Durante más de 20 años, he defendido la regulación de la IA, al igual que regulamos cualquier producto o tecnología que sea un riesgo potencial para el público”.
A principios de este mes, el proyecto de ley fue aprobado por un comité clave del Senado estatal después de que Wiener hiciera… cambios significativosincluida la eliminación de la pena por perjurio y el cambio del estándar legal para los desarrolladores con respecto a la seguridad de sus modelos avanzados de IA.
En una carta a Newsom del 21 de agosto, Dario Amodei, director ejecutivo de Anthropic, una startup de inteligencia artificial con sede en San Francisco, dijo que creía que los “beneficios del proyecto de ley probablemente superan sus costos”. La carta no respaldaba el proyecto de ley, pero compartía el punto de vista de la empresa sobre los pros y los contras.
“Queremos dejar en claro que la SB 1047 aborda preocupaciones reales y serias sobre el riesgo catastrófico de los sistemas de IA”, escribió Amodei. “Los sistemas de IA están avanzando en sus capacidades con extrema rapidez, lo que ofrece grandes promesas para la economía de California y, al mismo tiempo, un riesgo sustancial”.
Pero algunas empresas tecnológicas como OpenAI dijeron que se oponían al proyecto de ley incluso después de los cambios.
“Las amplias y significativas implicaciones de la IA para la competitividad y la seguridad nacional de Estados Unidos exigen que la regulación de los modelos de vanguardia se diseñe e implemente a nivel federal”, escribió el director de estrategia de OpenAI, Jason Kwon, en una carta del 21 de agosto a Wiener. “Un conjunto de políticas de IA impulsadas a nivel federal, en lugar de un mosaico de leyes estatales, fomentará la innovación y posicionará a Estados Unidos para liderar el desarrollo de estándares globales”.
Wiener dijo que acogería con agrado una ley federal fuerte sobre seguridad de la IA que prevalezca sobre su proyecto de ley.
“Si la experiencia pasada sirve de indicio, promulgar una ley (federal) de este tipo será una lucha cuesta arriba”, dijo Wiener en un comunicado. “Mientras tanto, California debería seguir liderando políticas como la SB 1047 que fomentan la innovación y al mismo tiempo protegen al público”.
SB 1047 se encuentra entre Aproximadamente 50 proyectos de ley relacionados con la IA que abordó varios aspectos del impacto de la tecnología en el público, incluidos empleos, deepfakes y seguridad en la Legislatura estatal.