Una nueva prueba de IA mide la rapidez con la que los robots pueden responder a las órdenes de los usuarios
- Un grupo de inteligencia artificial ha publicado un nuevo conjunto de resultados que evalúan la velocidad del hardware al ejecutar aplicaciones de IA.
- Dos nuevos puntos de referencia miden la velocidad de los chips y sistemas de IA para generar respuestas a partir de modelos de IA repletos de datos.
- Un nuevo punto de referencia también evalúa la velocidad de los escenarios de preguntas y respuestas para modelos de lenguaje grandes.
Inteligencia artificial El grupo de evaluación comparativa MLCommons publicó el miércoles un nuevo conjunto de pruebas y resultados que califican la velocidad a la que el hardware de primera línea puede ejecutar aplicaciones de inteligencia artificial y responder a los usuarios.
Los dos nuevos puntos de referencia agregados por MLCommons miden la velocidad a la que los chips y sistemas de IA pueden generar respuestas a partir de los potentes modelos de IA repletos de datos. Los resultados demuestran aproximadamente qué tan rápido aplicación de IA como ChatGPT puede entregar una respuesta a la consulta de un usuario.
Uno de los nuevos puntos de referencia agregó la capacidad de medir la velocidad de un escenario de preguntas y respuestas para modelos de lenguaje grandes. Llamado Llama 2, incluye 70 mil millones de parámetros y fue desarrollado por Meta Platforms.
LA CASA BLANCA PRESENTA NUEVAS REGULACIONES DE IA PARA AGENCIAS FEDERALES
Los funcionarios de MLCommons también agregaron un segundo generador de texto a imagen al conjunto de herramientas de evaluación comparativa, llamado MLPerf, basado en el modelo Stable Diffusion XL de Stability AI.
Los visitantes observan un robot de Unitree Robotics durante el Festival Mundial de Inteligencia Artificial de Cannes el 10 de febrero de 2023, en Cannes, Francia. (REUTERS/Eric Gaillard/Foto de archivo)
Los servidores impulsados por los chips H100 de Nvidia construidos por Google de Alphabet, Supermicro y la propia Nvidia ganaron cómodamente ambos nuevos puntos de referencia en rendimiento bruto. Varios fabricantes de servidores presentaron diseños basados en el chip L40S, menos potente de la empresa.
El fabricante de servidores Krai presentó un diseño para el punto de referencia de generación de imágenes con un chip Qualcomm AI que consume mucha menos energía que los procesadores de última generación de Nvidia.
HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN FOX NEWS
Intel también presentó un diseño basado en sus chips aceleradores Gaudi2. La empresa calificó los resultados de «sólidos».
El rendimiento bruto no es la única medida crítica al implementar aplicaciones de IA. Los chips de IA avanzados absorben enormes cantidades de energía Y uno de los desafíos más importantes para las empresas de IA es implementar chips que ofrezcan una cantidad óptima de rendimiento con una cantidad mínima de energía.
MLCommons tiene una categoría de referencia separada para medir el consumo de energía.