Why LLM Cost Dashboards Are Not Enough — The Runtime Enforcement Gap

El autor señala una brecha clave en la gestión de costos de LLM en producción: aunque la observabilidad es común, la aplicación del presupuesto en tiempo de ejecución es inexistente. Argumenta que descubrir facturas elevadas a fin de mes a través de un panel es demasiado tarde y presenta LLMeter como una herramienta de código abierto para la atribución de costos por usuario y alertas presupuestarias.