Production AI very different from the demos [D]

Eine KI-Funktion in Produktion verursachte unerwartet hohe Kosten aufgrund längerer Kundenanfragen und zusätzlicher Kontextabrufe, was die Token-Nutzung verdoppelte. Das Fehlen von Kostenattributionswerkzeugen im OpenAI-Dashboard erschwert die Nachverfolgung, welche Funktion oder welches Modell die Ausgaben verursacht.