Why LLM Cost Dashboards Are Not Enough — The Runtime Enforcement Gap

O autor destaca uma lacuna na gestão de custos de LLM em produção: enquanto há muita observabilidade, falta a aplicação de orçamentos em tempo de execução. Ele argumenta que apenas saber do custo no final do mês via dashboard é tarde demais e apresenta o LLMeter como uma solução de código aberto para atribuição de custos por usuário e alertas de orçamento.