How I Cut My API Bill in Half Without Understanding What I Was Doing

Un individuo redujo drásticamente su factura de API de IA implementando el almacenamiento en caché de prompts. Descubrieron que gran parte del contexto de sus solicitudes de API era estático y podía ser almacenado en caché, lo que llevó a una reducción del 90% en el costo de los tokens en caché.