LLM Cost Tracking for Rails

Dieser Inhalt stellt `llm_cost_tracker` vor, eine Rails Engine, die entwickelt wurde, um die Herausforderung der Zuordnung von Kosten für Large Language Models (LLM) in Rails-Anwendungen zu lösen. Ziel ist es, eine Kostenverfolgung pro Benutzer, pro Funktion und pro Mandant für Dienste wie OpenAI oder Anthropic zu ermöglichen, ohne neue Infrastruktur, Prompt-Speicherung oder Traffic-Umleitung.