AI as Judge

I Built an LLM Gateway That Learns Which Model to Use — Here's How the Routing Works

Provara est une passerelle LLM qui achemine intelligemment les requêtes vers divers modèles d'IA (OpenAI, Anthropic, Google, etc.) via un point de terminaison compatible OpenAI. Elle utilise un LLM-juge pour noter les réponses, permettant au routeur d'apprendre et de sélectionner automatiquement le meilleur modèle pour une tâche donnée au fil du temps, sans configuration manuelle.