Production AI very different from the demos [D]

Una función de IA en producción generó costos inesperadamente altos debido a indicaciones más largas de los clientes y a la recuperación de contexto adicional, duplicando el uso de tokens. La falta de herramientas de atribución de costos en el panel de OpenAI dificulta el seguimiento de qué función o modelo está generando los gastos.