Our agent burned through $40 in 3 minutes. Here’s how we got it to $1.

Un agente de IA para respuesta a incidentes incurrió inicialmente en altos costos, quemando $40 en 3 minutos debido al uso excesivo de un gran modelo de lenguaje. Al rediseñar la arquitectura con enrutamiento dinámico y retención de contexto, el equipo redujo los costos de inferencia en un 65%.