The Six Five Summit: AI Unleashed 2026 de Intel Corp

Hola a todos. Bienvenidos a The Six Five Summit 2026, AI Unleashed. Continuamos la conversación con otro AI Infrastructure Spotlight. Soy Ryan Shrout, y me acompaña mi colega Matt Kimball. Hoy vamos a hablar de un desafío con el que están lidiando casi todas las empresas. ¿Cómo se construye una infraestructura de IA? ¿Cómo se construye con suficiente rapidez? ¿Cómo se construye con suficiente flexibilidad y rentabilidad para ir más allá de los proyectos piloto y llegar a la producción real, un tema que parece surgir bastante en nuestras conversaciones últimamente? Nos acompaña en esta conversación un gran amigo mío, Anil Nanduri, vicepresidente de productos de IA y comercialización para el centro de datos de Intel. Bienvenido de nuevo a The Six Five, Anil.

Hola, Ryan. ¿Cómo has estado? Ha pasado tiempo. Todo ha estado bien.

Espero con interés esta conversación. Sé que tienen cosas emocionantes en marcha por allá.

No, gracias, y es un gusto estar en tu programa; realmente espero con interés esta conversación.

Muy buena pregunta, Matt. Creo que lo fundamental es que muchos de nuestros clientes empiezan pensando primero en el hardware. Creo que realmente tenemos que cambiar la conversación y centrarnos en el ROI. ¿Por qué? Porque todo girará en torno a cómo la IA puede resolver un problema. Desde esa perspectiva, hay que desglosar de verdad cómo se aplicará la IA a qué área del negocio y dónde se generará valor. Con base en eso, se obtiene una idea clara de los presupuestos disponibles, la economía de costos que se enfrenta y la mejora de productividad a la que se aspira. Se trata de los principios básicos de cómo se quiere abordar el aspecto operativo.

Ahora bien, como la IA avanza a un ritmo tan rápido, es interesante que se quiera mantener activo ese motor de innovación, lo que significa que se quieren hacer muchos proyectos piloto, y está bien. Se crean entornos aislados y proyectos piloto. Pero, al pensar en llevarla a producción, hay que tener mucho más claro cómo se quiere implementar. Están pasando muchas cosas, como dijiste. Ya no se trata de maximizar los tokens; el mayor número de tokens no necesariamente dará el mejor ROI. En realidad, lo que genera el ROI es el uso más eficiente de los tokens. Y también quiero que la audiencia tenga claro que no todos los tokens son iguales. Y durante la próxima media hora explicaré qué significa eso en realidad.

Pero no todos los tokens son iguales, lo que significa que habrá tokens ultrapremium, con latencia ultrabaja y gran velocidad, muy adecuados para interacciones. Si intentas protegerte contra el fraude con tarjetas de crédito, quieres contar con una IA casi en tiempo real. La quieres rápida. Por otro lado, estás haciendo una auditoría y necesitas presentar un informe de auditoría en 20 días. No necesitas una IA tan rápida. Podrías gestionarlo de una manera muy distinta, en modo por lotes. Así, las conversaciones sobre el ROI empiezan a influir en cómo se piensa en llevar la IA a producción.

Uno de los temas que escuchamos y del que hablamos durante todo The Six Five Summit es la IA agéntica. Pasamos por toda esta evolución: de los primeros LLM a los LLM de razonamiento y ahora a la IA agéntica. Es la conversación más importante que tenemos y profundiza en tu punto de que no todos los tokens son iguales. Desde la perspectiva de la infraestructura, me interesa saber qué cambia fundamentalmente cuando estos sistemas de IA empiezan a planificar, coordinar y realizar acciones, en lugar de simplemente generar una respuesta.

Ryan, otra gran pregunta. ¿Qué hacen los agentes? Automatizan el trabajo que intentábamos hacer. A medida que se incorporan más agentes, realmente necesitas el ciclo del agente para controlar cómo operan. Si damos un paso atrás y observamos cómo funcionan estos sistemas de IA, dedicamos mucho tiempo a determinar dónde ejecutar la IA. Esa IA genera tokens, que es la forma en que la consumes. Como dije antes, la generación de tokens no es igual para todos. Se pueden generar tokens con modelos pequeños y ejecutarlos lentamente, pero de manera muy eficiente; incluso en una CPU, pueden generar cierto nivel de tokens. Como sabes, las GPU empiezan a subir en la pila. Las GPU son excelentes por la flexibilidad que ofrecen y por cierta densidad de tokens que permiten ejecutar.

Pero, si realmente quieres lograr un gran rendimiento y escalarlo, incluso las GPU alcanzan un límite de Pareto. Por eso existen soluciones como las arquitecturas Dataflow, como una RDU o una solución similar a Groq con LPU. Empiezan a entrar en acción y a encargarse de la baja latencia, la alta interactividad y el gran volumen de tokens que necesitas generar. La propia generación de tokens ofrece muchas oportunidades de optimización; luego podemos hablar de eso y de cómo incorporarlo a la economía del negocio. La segunda parte es: ¿qué hago con estos tokens? En realidad, especialmente en el mundo agéntico, estos tokens sirven para crear resultados. Digamos que estoy creando una aplicación o intentando mejorarla y refactorizarla. Al pensar en eso, los agentes te ayudan a crear código.

Vas a probar ese código. Necesitas verificar, probar y ejecutar ese código. Ahí es donde las CPU empiezan a desempeñar un papel importante, porque son el motor de ejecución, el motor de verificación y el motor de aislamiento en entornos de pruebas. Si te preguntas por qué hay escasez de CPU últimamente, es porque en el sistema se producen muchos intercambios de ida y vuelta. Fuiste un paso más allá: al pensar en la llegada de los agentes, ahora hay que determinar quién los coordina, quién es el mariscal de campo. La función de mariscal de campo cobra cada vez más importancia. Se trata de lo que llamamos harness, que básicamente plantea: ¿cómo voy a ejecutar cada carga de trabajo? ¿Dónde la voy a ejecutar y quién lo hará? Aquí te preguntas: ¿qué tipo de agentes necesito?

¿Qué tipo de ciclos de agentes necesito coordinar? ¿Qué tipo de seguridad necesito? ¿Necesito ejecutar el modelo en las instalaciones, donde están mis datos, o quiero ejecutarlo en la nube y trasladar allí mis datos? Todas estas serán decisiones muy importantes para los CIO, y las empresas realmente tienen que analizar si llevan sus datos a la IA o si llevan la IA a sus datos. Esa es una manera de pensarlo. Pero, al ejecutar esto, empiezas a ver distintos problemas en el sistema del centro de datos. Tus puntos de presión están cambiando.

El punto de presión dejó de ser la generación de tokens, que, por cierto, es una función clave y representa un costo elevado, y pasó a ser la ejecución del flujo de trabajo integral, donde importa el tiempo de reloj de pared. Con estos tokens, según los sistemas que ejecutes, se ejerce presión sobre las longitudes de contexto; también sobre la memoria; se confía en el almacenamiento; se consultan bases de datos; y ahora se espera a que respondan funciones. Un buen ejemplo es cuando, como empresa, intentas analizar la cadena de suministro y las compras, la demanda de los clientes y tus herramientas financieras para asegurarte de cuándo puedes, por ejemplo, invertir. Digamos que tienes una enorme demanda y quieres que la IA te ayude a gestionarla.