L'auteur a créé "streamhub", une solution en Go utilisant Redis Streams pour rendre les réponses de LLM via SSE résumables. Elle résout les problèmes de déconnexions client, de consommation inutile de jetons et de signaux d'annulation distribués pour les backends Go, comblant ainsi un manque d'outils existant.
Après quinze ans d'expérience, l'auteur a décidé de créer un framework Go open source pour agents d'IA, nommé eywa. Il a constaté un manque de solutions Go robustes et prêtes pour la production, au-delà de simples wrappers de SDK.
Cet article met en lumière quatre projets Go populaires sur la page des tendances de GitHub, dont trois sont directement liés à l'intelligence artificielle. Il présente un hub de modèles d'IA unifié, un service de partage d'abonnements API d'IA et une passerelle d'IA d'entreprise à haut débit.
L'article détaille le développement de "qrrot", une base de données en mémoire construite en Go qui intègre un assistant IA basé sur Gemini pour une interaction en langage naturel et l'exécution autonome de requêtes. Il offre un aperçu approfondi de l'architecture du projet, des benchmarks et du fonctionnement de l'IA, tout en abordant les points faibles et les défauts architecturaux.
Cet article présente un moteur de rédaction PII en Go, sans allocation et exécuté localement, conçu pour assainir de grands fichiers de logs avant de les alimenter aux LLM. L'outil identifie et masque efficacement les données sensibles comme les e-mails et les adresses IP, résolvant des défis courants de confidentialité et de performance dans les workflows d'IA.
L'auteur a développé HAL-Proxy, une passerelle de couche d'abstraction matérielle "zero-trust" en Go, pour atténuer les risques d'hallucinations de l'IA dans les robots physiques. Il souligne la différence cruciale entre les défaillances de l'IA dans les logiciels et le matériel, où les erreurs peuvent entraîner des dommages physiques.
Le comportement de panique agressif de Go génère des traces de pile étendues, où 97% des plus de 2 000 lignes sont du bruit. Cela surcharge le débogage et la capacité des IA à identifier rapidement les informations pertinentes.