Cómo afectará la orden ejecutiva de Biden al futuro de la IA
La inteligencia artificial (IA) es una tecnología poderosa que puede aportar muchos beneficios a la sociedad, pero también plantea muchos desafíos y riesgos. Para garantizar que Estados Unidos lidere el camino a la hora de aprovechar la oportunidad y gestionar los riesgos de la IA, el presidente Biden emitió un hito orden ejecutiva el 30 de octubre de 2023.
Cómo la orden utiliza una ley de 75 años para regular la IA
La administración Biden está utilizando la Ley de Producción de Defensa, una ley de 75 años que da la casa blanca amplia autoridad para regular las industrias relacionadas con la seguridad nacional, para obligar a las empresas a informar al gobierno federal sobre los posibles riesgos de seguridad nacional relacionados con su trabajo con IA.
Esta es la primera orden ejecutiva del gobierno federal que regula directamente la IA y sigue los compromisos voluntarios de 15 principales empresas de inteligencia artificial, como Google, Microsoft y OpenAI.
La orden ejecutiva tiene como objetivo lograr cuatro cosas principales. Establece nuevos estándares para la seguridad de la IA; protege la privacidad, los derechos civiles y los derechos del consumidor de los estadounidenses; apoya a los trabajadores y la innovación; y promueve el liderazgo estadounidense en todo el mundo. Mientras se abordan esos enfoques, muchos críticos dicen está diluido y probablemente no sea suficiente para instalar barandillas de seguridad muy necesarias para esta tecnología que avanza rápidamente y que es capaz de superar a muchas mentes humanas.
El presidente Joe Biden ha emitido una orden ejecutiva que regulará directamente la inteligencia artificial. (Cyberguy.com)
MÁS: ¿POR QUÉ EL CHATBOT AI DE GOOGLE ESQUIVA PREGUNTAS SOBRE EL CONFLICTO ISRAEL-HAMAS?
1. Nuevos estándares para la seguridad de la IA
Uno de los componentes clave de la orden ejecutiva es crear nuevos estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros y confiables.
Compartir resultados de pruebas de seguridad para potentes sistemas de IA
La orden ejecutiva exige que los desarrolladores de los sistemas de inteligencia artificial más potentes, como los modelos básicos que representan un riesgo grave para la seguridad nacional o la salud pública, compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de los EE. UU. antes de hacerlos públicos. Esto permitirá al gobierno evaluar los riesgos y beneficios potenciales de estos sistemas y prevenir cualquier uso dañino o malicioso.
Estableciendo estándares rigurosos para las pruebas del equipo rojo
La orden ejecutiva también ordena al Instituto Nacional de Estándares y Tecnología (NIST) que establezca estándares rigurosos para pruebas exhaustivas del equipo rojo para garantizar la seguridad antes de su divulgación al público. Las pruebas del equipo rojo son un método para evaluar la seguridad y solidez de un sistema mediante la simulación de ataques de adversarios.
EL JEFE DE CHATGPT ADVIERTE SOBRE ALGUNAS HABILIDADES ‘SUPERHUMANAS’ QUE LA IA PODRÍA DESARROLLAR
Aplicar normas de seguridad a sectores de infraestructura críticos
El Departamento de Seguridad Nacional (DHS) aplicará estos estándares a sectores de infraestructura críticos y establecerá la Junta de Seguridad de IA.
Los Departamentos de Energía y Seguridad Nacional también abordarán las amenazas de los sistemas de IA a la infraestructura crítica, así como los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad.
Desarrollo de nuevos estándares para el cribado de síntesis biológica
Además, la orden ejecutiva tiene como objetivo proteger contra los riesgos del uso de IA para diseñar materiales biológicos peligrosos mediante el desarrollo de nuevos estándares sólidos para la detección de síntesis biológica.
Las agencias que financian proyectos de ciencias biológicas establecerán estos estándares como condición para la financiación federal, creando poderosos incentivos para garantizar una detección adecuada y gestionar los riesgos potencialmente empeorados por la IA.
Estas acciones son los pasos más importantes jamás tomados por cualquier gobierno para avanzar en el campo de la seguridad de la IA. Ayudarán a garantizar que los sistemas de IA estén alineados con los valores humanos y no causen daños ni daños a las personas ni al medio ambiente.
La orden ejecutiva de Biden creará nuevos estándares para garantizar que la inteligencia artificial sea segura y confiable. (Cyberguy.com)
MÁS: PREVENCIÓN DE TIROTEOS MASIVOS CON UNA DETECCIÓN: INTERVENCIÓN INSPIRADA EN LOS NAVY SEALS
2. Proteger la privacidad, los derechos civiles y los derechos del consumidor de los estadounidenses
Otro aspecto importante de la orden ejecutiva es proteger la privacidad, los derechos civiles y los derechos de los consumidores de los estadounidenses en la era de la IA.
Evaluación de técnicas de privacidad utilizadas en IA
La orden ejecutiva crea pautas que las agencias pueden utilizar para evaluar las técnicas de privacidad utilizadas en la IA, como la privacidad diferencial o el aprendizaje federado. Estas técnicas están diseñadas para proteger datos confidenciales o personales contra el acceso o la divulgación no autorizados y, al mismo tiempo, permitir análisis o aprendizaje útiles.
Promoción de la equidad y los derechos civiles en las aplicaciones de IA
La orden ejecutiva también promueve la equidad y los derechos civiles al brindar orientación a los propietarios y contratistas federales para ayudar a evitar que los algoritmos de IA fomenten la discriminación, como en las decisiones de vivienda o empleo. También crea mejores prácticas sobre el papel apropiado de la IA en el sistema de justicia, como cuando se utiliza en sentencias, evaluaciones de riesgos o previsión de delitos. Estas acciones ayudarán a prevenir prejuicios e injusticias en las aplicaciones de IA que afectan la vida y las oportunidades de las personas.
Proteger a los consumidores de prácticas sanitarias nocivas relacionadas con la IA
Además, la orden ejecutiva protege a los consumidores al ordenar al Departamento de Salud y Servicios Humanos (HHS) que cree un programa para evaluar sustancias potencialmente dañinas. Prácticas de atención médica relacionadas con la IAcomo diagnósticos erróneos o tratamientos excesivos. También crea recursos sobre cómo los educadores pueden utilizar de manera responsable las herramientas de inteligencia artificial, como el aprendizaje personalizado o las pruebas adaptativas. Estas medidas ayudarán a garantizar que los sistemas de IA se utilicen de manera que beneficien la salud, la educación y el bienestar de las personas.
La privacidad, los derechos civiles y del consumidor se abordarán en la orden ejecutiva. (Cyberguy.com)
MÁS: ESTA APLICACIÓN DE CITAS UTILIZA IA PARA ENCONTRAR TU ALMA GEMELA POR TU CARA
3. Apoyo a los trabajadores y la innovación
La orden ejecutiva también apoya a los trabajadores y la innovación en el sector de la IA para ayudar a fomentar un ecosistema de IA vibrante y diverso que impulse el descubrimiento científico y la prosperidad económica.
Elaborar un informe sobre las implicaciones de la IA en el mercado laboral
La orden ejecutiva produce un informe sobre las posibles implicaciones de la IA en el mercado laboral y estudia las formas en que el gobierno federal podría apoyar a los trabajadores afectados por una interrupción del mercado laboral. Esto ayudará a preparar a los trabajadores para la naturaleza cambiante del trabajo y les brindará oportunidades de reciclaje o mejora de habilidades.
Incrementar las inversiones en investigación y desarrollo de IA
La orden ejecutiva también promueve la innovación y la competencia al ordenar a las agencias que aumenten sus inversiones en investigación y desarrollo (I+D) de IA, especialmente en áreas que tienen un alto potencial de impacto social o crecimiento económico. También alienta a las agencias a colaborar con la industria, el mundo académico, la sociedad civil y socios internacionales para promover la innovación responsable en IA.
La orden ejecutiva tiene como objetivo diversificar el ecosistema de IA. (Cyberguy.com)
MÁS: META CONFIESA QUE ESTÁ UTILIZANDO LO QUE PUBLICAS PARA ENTRENAR SU IA
4. Impulsar el liderazgo estadounidense en todo el mundo
Finalmente, la orden ejecutiva promueve el liderazgo estadounidense en todo el mundo al ordenar a las agencias que interactúen con aliados y socios en el desarrollo de normas y principios comunes para el uso responsable de la IA.
También ordena a las agencias que promuevan los derechos humanos y los valores democráticos en sus actividades relacionadas con la IA y que se opongan a cualquier intento de los regímenes autoritarios de utilizar indebidamente la IA para la represión o la vigilancia.
Estas acciones ayudarán a garantizar que Estados Unidos siga siendo un líder mundial en la configuración del futuro de la IA de una manera que refleje sus valores e intereses.
La orden ejecutiva de Biden tendrá como objetivo promover el liderazgo estadounidense en el mundo de la IA. (Cyberguy.com)
MÁS: CÓMO UTILIZAR LA IA PARA AYUDARTE A CONSEGUIR UN MEJOR TRABAJO EN LUGAR DE ROBAR UNO
Reglas que la orden ejecutiva omite
La orden omite algunas reglas que han sido parte de los debates públicos de este año. Por ejemplo, no existe ninguna regulación para la concesión de licencias para los modelos más avanzados, propuesta respaldada por el director ejecutivo de OpenAI, Sam Altman, y no existen restricciones para los usos más riesgosos de la tecnología.
Además, la orden no obliga a revelar detalles sobre los datos de entrenamiento y el tamaño del modelo, que según muchos expertos y críticos es esencial para comprender la tecnología y anticipar sus posibles daños.
Además, no hay orientación sobre cómo se aplicará la ley de propiedad intelectual a las obras creadas con o mediante IA; eso ahora queda en manos de los tribunales.
Un mundo sin orden ejecutiva
La orden ejecutiva de Biden sobre IA es un paso en la dirección correcta, aunque puede que no sea suficiente ni permanente. Algunos argumentan que la orden ejecutiva no es legalmente vinculante y que los futuros presidentes pueden modificarla o revocarla.
También sugieren que se necesitan regulaciones más específicas y aplicables para abordar los desafíos y oportunidades complejos y cambiantes de la IA. Sin la orden ejecutiva, la IA aún podría estar regulada por leyes existentes y estándares voluntarios, pero podrían no ser suficientes o consistentes para garantizar que la IA sea responsable, ética y beneficiosa para todos.
Las conclusiones clave de Kurt
La orden ejecutiva de Biden sobre la IA es una acción gubernamental importante que, con suerte, tendrá un impacto positivo en el futuro de la IA. Intenta garantizar que los sistemas de IA sean seguros, confiables y beneficiosos para todos los estadounidenses y el mundo, pero ignora los consejos básicos de líderes de IA como el director ejecutivo de OpenAI, Sam Altman. Deja una serie de cuestiones graves sin resolver por responder.
¿Qué opinas de la orden ejecutiva de Biden? ¿Cree que ayudará a Estados Unidos a liderar el camino en innovación y seguridad de la IA? Háganos saber escribiéndonos a Cyberguy.com/Contacto.
Para obtener más consejos técnicos y alertas de seguridad, suscríbase a mi boletín informativo gratuito CyberGuy Report dirigiéndose a Cyberguy.com/Newsletter
Hazle una pregunta a Kurt o cuéntanos qué historias te gustaría que cubramos.
Respuestas a las preguntas más frecuentes sobre CyberGuy:
Copyright 2023 CyberGuy.com. Reservados todos los derechos.