How Prompt Caching Cuts AI Costs by 90%

El almacenamiento en caché de prompts, lanzado por Anthropic y ofrecido por otros principales proveedores de LLMs, puede reducir los costos de la API de IA hasta en un 90%. Esta optimización reutiliza estados internos previamente calculados para porciones de prompts comunes, lo que resulta en respuestas más rápidas y ahorros significativos.