LLM Cost Tracking for Rails

Ce contenu présente `llm_cost_tracker`, un moteur Rails conçu pour résoudre le défi de l'attribution des coûts des grands modèles de langage (LLM) au sein des applications Rails. Il vise à fournir un suivi des coûts par utilisateur, par fonctionnalité et par locataire pour des services comme OpenAI ou Anthropic, en respectant les principes de non-nouvelle infrastructure, de non-stockage des prompts et de non-redirection du trafic.