GET Serves Cache, POST Runs Inference: Cost Safety for a Public LLM Endpoint

Un endpoint público de LLM para un sitio de juguete que da respuestas erróneas emplea una arquitectura única: las solicitudes GET sirven respuestas en caché, mientras que las solicitudes POST activan la inferencia de IA fresca. Este diseño busca limitar el abuso, hacer predecibles los costos y disuadir ataques casuales en el servicio de acceso abierto.