El desarrollo de la IA no puede dejarse solo en manos de las fuerzas del mercado, advierten expertos de la ONU
El desarrollo de la inteligencia artificial no debe guiarse únicamente por las fuerzas del mercado, advirtieron el jueves expertos de la ONU, pidiendo la creación de herramientas para la cooperación global.
Pero se abstuvieron de sugerir la creación de un poderoso organismo rector mundial para supervisar el despliegue y la evolución de una tecnología, cuya proliferación ha generado temores de sesgos, mal uso y dependencia.
El panel de alrededor de 40 expertos de los campos de la tecnología, el derecho y la protección de datos fue creado por el Secretario General de la ONU, Antonio Guterres, en octubre.
Su informe, publicado días antes del inicio de una «Cumbre del Futuro» de alto perfil, alerta sobre la falta de gobernanza global de la IA, así como sobre la exclusión efectiva de los países en desarrollo de los debates sobre el futuro de esta tecnología.
De los 193 miembros de la ONU, sólo siete forman parte de las siete principales iniciativas vinculadas a la IA, mientras que 118 están totalmente ausentes, en su mayoría naciones del sur global.
«Existe hoy en día un déficit de gobernanza global respecto a la IA», que por su naturaleza es transfronteriza, advierten los expertos en su informe.
«La inteligencia artificial debe servir a la humanidad de manera equitativa y segura», dijo Guterres esta semana. «Si no se controlan, los peligros que plantea la inteligencia artificial podrían tener graves consecuencias para la democracia, la paz y la estabilidad».
En el contexto de su claro llamado, los expertos instaron a los miembros de la ONU a establecer mecanismos para facilitar la cooperación mundial sobre esta cuestión, así como para prevenir la proliferación involuntaria.
«El desarrollo, despliegue y uso de dicha tecnología no puede dejarse únicamente en manos de los caprichos de los mercados», afirma el informe.
En primer lugar, pidió la creación de un grupo de expertos científicos sobre IA inspirado en el foro de expertos del Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), cuyos informes son la última palabra sobre la cuestión del cambio climático.
El panel informará a la comunidad internacional sobre los riesgos emergentes, identificará las necesidades de investigación y cómo podrían utilizarse para aliviar el hambre, la pobreza y la desigualdad de género, entre otros objetivos.
Esta propuesta está incluida en el proyecto de Pacto Digital Mundial, aún en debate, que se adoptará el domingo en la «Cumbre del Futuro».
El informe apoya la creación de una estructura de «coordinación» ligera dentro de la secretaría de la ONU.
Pero no llega a ser un organismo de gobernanza internacional plenamente desarrollado (como el que busca Guterres), basado en el modelo del organismo de control nuclear de la ONU, el OIEA.
«Si los riesgos de la IA se vuelven más graves y más concentrados, podría resultar necesario que los Estados miembros consideren la posibilidad de crear una institución internacional más sólida con poderes de seguimiento, presentación de informes, verificación y aplicación de la ley», señala el informe.
Los autores reconocen que, debido a la vertiginosa velocidad de los cambios en la IA, sería inútil intentar elaborar una lista exhaustiva de los peligros que presenta esta tecnología en constante evolución.
Pero destacaron los peligros de la desinformación para la democracia, las falsificaciones cada vez más realistas (en particular las pornográficas) y la evolución de las armas autónomas y el uso de inteligencia artificial por parte de grupos criminales y terroristas.
«Sin embargo, dada la velocidad, la autonomía y la opacidad de los sistemas de IA, esperar a que surja una amenaza puede significar que cualquier respuesta llegará demasiado tarde», señala el informe. «Las evaluaciones científicas continuas y el diálogo sobre políticas garantizarían que el mundo no se sorprenda».
© 2024 AFP