Agentic AI Needs Different Silicon

El contenido destaca que los nuevos chips TPU 8T y 8I de Google están diseñados específicamente para IA agentic, que opera en bucles de múltiples pasos con estado, a diferencia de la inferencia tradicional de LLM sin estado. Esto representa un cambio fundamental en la arquitectura de hardware, donde el caché KV actúa como memoria persistente crucial para los agentes que razonan y actúan a lo largo del tiempo.