L'auteur a créé "streamhub", une solution en Go utilisant Redis Streams pour rendre les réponses de LLM via SSE résumables. Elle résout les problèmes de déconnexions client, de consommation inutile de jetons et de signaux d'annulation distribués pour les backends Go, comblant ainsi un manque d'outils existant.
L'auteur explique comment il a remplacé PostgreSQL, Notion et LangGraph par 200 lignes de Redis pour gérer efficacement le contexte d'une équipe de 10 agents IA. Ce changement a résolu les problèmes de communication inter-agents, les requêtes relationnelles lentes et les coûts élevés des tokens API.
L'auteur a remplacé un broker de messages coûteux et complexe (Redis Streams géré) dans un pipeline multi-agents par une communication directe entre agents. Ce changement, motivé par les coûts, les pannes et la surcharge de configuration, a révélé que l'utilisation initiale d'un broker était un modèle architectural non remis en question.
Ce tutoriel explique comment construire une couche de cache LLM rentable en Python pour réduire les coûts d'API. Il utilise une correspondance exacte via Redis et une détection sémantique des quasi-doublons via la similarité cosinus. Cette approche peut générer d'importantes économies mensuelles en évitant les appels API redondants.
Ce contenu, présenté par Aditi Gupta à AI Dev 26 x SF, se concentre sur la création d'agents SRE utilisant le Redis Context Engine. Il explore l'application de l'IA pour optimiser les opérations de Site Reliability Engineering.
L'article présente un nouveau sink Redis de 60 lignes pour ragvitals, conçu pour utiliser les instances Redis existantes déjà présentes dans la plupart des piles RAG de production pour la mise en cache des invites ou des embeddings. Cette solution basée sur Redis offre une alternative efficace à d'autres sinks de surveillance pour suivre la dérive en production, évitant les infrastructures séparées et simplifiant la collecte de données.
Cet article explore l'évolution de la gestion des données de type "tableau" dans Redis, des solutions initiales basées sur des chaînes aux structures de données riches et prêtes pour la production d'aujourd'hui. Il détaille comment les capacités de tableau de Redis se sont développées grâce à une ingénierie pragmatique et des itérations communautaires. En fin de compte, il offre des conseils sur les meilleures pratiques et le choix de la bonne structure de données Redis pour des cas d'utilisation spécifiques.