How I Cut My API Bill in Half Without Understanding What I Was Doing

Une personne a considérablement réduit sa facture d'API IA en mettant en œuvre la mise en cache des invites. Elle a découvert qu'une grande partie du contexte de ses requêtes API était statique et pouvait être mise en cache, entraînant une réduction de 90 % du coût des jetons mis en cache.