Eficiencia de la IA: las empresas ahora se centran en modelos más pequeños debido a su eficiencia
En una entrevista exclusiva con ET, Raghavan, con sede en Nueva York, dijo que sus conversaciones con las empresas se centran cada vez más en modelos más pequeños y adecuados para su propósito, ya que pueden ser más eficientes.
Sobre casos de uso de IA
El primer caso de uso es la atención al cliente en general, que suele ser la propuesta de valor más sencilla. Es una de esas áreas que ha pasado de preGenAI a GenAI, donde la propuesta de valor sigue siendo la misma, pero ahora la nueva tecnología permite un escalamiento más rápido.
El segundo caso de uso es el código y la modernización o, más ampliamente, la productividad del desarrollador. Cualquier empresa que haya existido durante los últimos 10 a 15 años probablemente tenga una gran huella de software. Esto significa que tiene software heredado que siempre busca modernizar mientras mantiene su dominio y tecnología. El papel de la IA en la modernización de su software, aplicaciones y código base es enorme.
El tercer caso de uso es el trabajo digital, específicamente la automatización administrativa. Esto incluye la incorporación de recursos humanos (recursos humanos), la contratación de talentos, la adquisición de la cadena de suministro y los procesos financieros. Estas son las principales áreas en las que, a nivel mundial, estamos empezando a ver tracción, razón por la cual estamos priorizando nuestras inversiones en tecnología.
Descubre las historias de tu interés
Sobre el uso empresarial
Está escuchando a todos duplicar la idea de que no necesita el modelo más grande que pueda manejar mil millones de tareas para cada caso de uso. Cada vez más, la conversación se está desplazando hacia modelos más pequeños y adecuados a su propósito: modelos de lenguaje pequeño (SLM, por sus siglas en inglés), que pueden tener 8 mil millones de parámetros pero están entrenados con grandes volúmenes de datos. Si no necesito el mismo modelo para traducir COBOL a Java, escribir poesía de Shakespeare y generar imágenes, optaré por modelos “adecuados al propósito”. Muchas empresas ahora están considerando la rentabilidad y dicen: «Denme el modelo más pequeño y la infraestructura más barata».En ahorro de costos
La diferencia entre ejecutar la GPU más grande y potente versus una más asequible puede generar ahorros de costos que oscilan entre 2 y 10 veces. En IBM, nos hemos centrado en aplicar la IA en RR.HH., donde hemos aumentado drásticamente el valor que ofrece la IA. Hoy en día, más del 80 % de las consultas de los empleados se gestionan mediante autoservicio, lo que ahorra entre 12 000 y 50 000 horas de trabajo manual. Además, la calidad del servicio es mejor que la que podría ofrecer un ser humano.
Sobre la implementación de la IA
En el corto plazo, gran parte de la propuesta de valor para las empresas gira en torno a la eficiencia y la automatización. Los clientes exitosos no participan en pruebas piloto o pruebas de conceptos (PoC) dispersas en múltiples líneas de negocios. Si lo hace, puede terminar con 100 PoC y nada a escala. En cambio, se centran en un área específica, ya sea definida por un producto, unidad de negocio o proceso, e intentan probarla y escalarla. Los clientes que siguen esta estrategia tienden a obtener un retorno de la inversión antes que aquellos que ejecutan muchas PoC.
Sobre los desafíos
Vemos entre 3 y 4 desafíos comunes, independientemente de la geografía. El costo, la preparación de datos, las habilidades y la confianza y la gobernanza son los cuatro temas comunes en los que los clientes se centran cada vez más.