GET Serves Cache, POST Runs Inference: Cost Safety for a Public LLM Endpoint

Ein öffentlicher LLM-Endpunkt für eine Spielzeugseite, die absichtlich falsche Antworten gibt, nutzt eine einzigartige Architektur: GET-Anfragen liefern Cache-Antworten, während POST-Anfragen frische KI-Inferenz auslösen. Dieses Design zielt darauf ab, Missbrauch zu begrenzen, Kosten vorhersehbar zu machen und beiläufige Angriffe auf den offen zugänglichen Dienst abzuschrecken.