OpenAI está trabajando en una iniciativa de seguridad y educación sobre IA con Common Sense

Sam Altman, director ejecutivo de OpenAI, asiste a la 54ª reunión anual del Foro Económico Mundial en Davos, Suiza, el 18 de enero de 2024.

Denis Balibouse | Reuters

OpenAI dijo el lunes que se está asociando con Common Sense Media en una iniciativa diseñada para ayudar a los adolescentes a comprender cómo usar la inteligencia artificial de manera segura.

«Queremos descubrir cómo hacer que esta herramienta esté disponible de manera segura, responsable y amplia para los adolescentes y las personas que la van a utilizar como parte de su experiencia educativa», dijo el director ejecutivo de OpenAI, Sam Altman, en un evento de Common Sense en San Francisco.

Common Sense, una organización sin fines de lucro centrada en hacer que la tecnología sea segura y accesible para los niños, ha estado trabajando para desarrollar un sistema de calificación y revisión de IA destinado a padres, niños y educadores para comprender mejor los riesgos y beneficios de la tecnología. Algunas de las preguntas que Common Sense quiere responder incluyen si la IA fomenta el amor por el aprendizaje entre los jóvenes, si respeta los derechos humanos y los derechos de los niños y si la tecnología puede perpetuar la difusión de información errónea.

El objetivo de la nueva asociación es ayudar a crear directrices de IA y materiales educativos para niños, educadores y padres, y ayudar a seleccionar modelos de lenguaje grandes «familiares» de la marca GPT que cumplan con la calificación y los estándares de Common Sense. GPT es la columna vertebral del chatbot ChatGPT de OpenAI, que se lanzó a finales de 2022.

El director ejecutivo de Common Sense Media, Jim Steyer, dijo en un comunicado que los materiales desarrollados a través de la asociación «serán diseñados para educar a las familias y educadores sobre el uso seguro y responsable de ChatGPT, de modo que podamos evitar colectivamente cualquier consecuencia no deseada de esta tecnología emergente».

En el evento del lunes, Altman habló brevemente sobre la asociación y la IA en general, diciendo que espera que «beneficie a los niños sin acceso» a la IA. Parte de la misión de OpenAI es «hacer que una IA realmente útil esté disponible de forma gratuita», dijo.

En septiembre, Filantropías de Craig NewmarkEl brazo filantrópico del fundador de Craigslist dijo que contribuyó con 3 millones de dólares para ayudar a financiar la educación y la IA de sentido común. iniciativa. Craig Newmark dijo a CNBC en ese momento que algunas de sus preocupaciones sobre la IA incluyen la posibilidad de que los malos actores puedan usar la tecnología para influir en el ecosistema de la información y contribuir al descontento social.

OpenAI y Common Sense no dijeron cómo se modificarán los LLM para ayudar a los educadores o a los adolescentes. Altman dijo que los LLM personalizados con fines educativos podrían ayudar a los adolescentes «que quieran aprender sobre ciencias o biología».

«No creo que sepamos todavía exactamente cómo la gente querrá usarlo», dijo Altman. Añadió que imagina un mundo en el que «cada adolescente o cada adulto tendrá una IA personalizada».

En cuanto a las próximas elecciones y los riesgos potenciales que plantean los llamados deepfakes para confundir a la gente, Altman reconoció que las imágenes generadas por IA plantean problemas, pero dijo: «Creo que la gente es mucho más sofisticada de lo que les damos crédito, y no creen cada imagen que ves.»

Habló sobre cómo OpenAI se está preparando para las posibles formas en que los malos actores podrían usar la IA.

«Hemos puesto en marcha un gran esfuerzo de respuesta», dijo. «Esto será monitoreado muy de cerca».

MIRAR: Microsoft-OpenAI creó la mayor campaña publicitaria en la historia de la tecnología

No te pierdas estas historias de CNBC PRO:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *