L'auteur a créé "Extremis", une couche de mémoire pour empêcher les agents IA d'oublier le contexte des conversations passées, évitant ainsi de reconstruire les pipelines RAG. Elle s'intègre facilement aux appels clients `anthropic` et `openai` existants, gérant automatiquement le contexte avant et après les appels du LLM.
Les agents d'IA sont confrontés à un problème de mémoire persistante, nécessitant une solution de stockage de texte simple et persistante côté serveur. Cette solution, distincte des bases de données ou des magasins de vecteurs, permettrait aux agents de maintenir leur état entre les sessions et les redémarrages de processus.
Un développeur a créé une couche de mémoire open-source, Steerhead, pour les LLM locaux afin de résoudre la perte de contexte et des décisions architecturales entre les sessions de chat. L'outil offre une persistance de session et l'extraction automatique des contraintes, testé avec Llama 3.3 70B via Groq.
Le texte redéfinit les agents d'IA non pas comme des chatbots, mais comme un nouveau type d'ordinateur personnel sur un appareil, doté d'un noyau de calcul (LLM), de mémoire et d'un système de fichiers. Il souligne que le LLM agit comme un CPU, gérant le calcul et oubliant, tandis que le contexte externe sert de mémoire à l'IA, divisée en couches pour les préférences de l'utilisateur et les objectifs à long terme.
Ce contenu explique comment construire un chatbot avec mémoire, surmontant la nature sans état des LLM. Il détaille des modèles comme l'historique de conversation, la mémoire à fenêtre glissante, la mémoire récapitulative et la mémoire d'entité, y compris l'utilisation de LangChain pour construire un chatbot multi-tour et persister la mémoire entre les sessions.
Cet article traite du problème d'amnésie des agents de codage IA entre les sessions, les amenant à répéter les mêmes erreurs malgré les corrections antérieures. Il souligne que les solutions actuelles comme des fenêtres contextuelles plus grandes ou de meilleurs prompts ne résolvent pas le manque de mémoire persistante.
Cette recherche étudie la nécessité des jetons de mémoire appris comme bloc-notes computationnel pour les Universal Transformers avec Temps de Calcul Adaptatif (ACT) sur un benchmark de raisonnement combinatoire. Elle conclut que les jetons de mémoire sont empiriquement nécessaires pour une performance non triviale, identifiant un seuil inférieur net pour le nombre optimal et un piège courant d'initialisation de routeur.
Cette étude analyse le rôle de la mémoire externe dans les agents LLM pour l'apprentissage continu, montrant que le dilemme stabilité-plasticité réapparaît au niveau de la mémoire sous des fenêtres de contexte limitées. Un cadre (k,v) est introduit pour dissocier la représentation et l'organisation de l'expérience, révélant que les souvenirs procéduraux abstraits se transfèrent plus fiablement et qu'une organisation de mémoire plus fine est bénéfique.
Un nouvel article propose une phase de "sommeil" pour les modèles de langage, consolidant le contexte en mémoire de taille fixe. Cela réduit les coûts d'inférence quadratiques et améliore les performances sur les tâches à long terme.
Um gerente de produtos do Google lançou um projeto que desafia o uso de bancos de dados vetoriais para a memória de agentes de IA. A nova abordagem, 'Always On Memory Agent', utiliza o próprio LLM como camada de raciocínio principal sobre o contexto armazenado, eliminando a sobrecarga operacional da infraestrutura de recuperação separada.
Une erreur courante dans la conception des agents IA est de confondre la mémoire persistante avec l'état d'exécution persistant. Les agents peuvent se souvenir d'avoir démarré un serveur, mais le processus réel a pu être terminé, entraînant une incompréhension critique de l'état actuel de la machine.
L'auteur a développé « Stash », une couche de mémoire cognitive open-source pour agents d'IA, afin de résoudre l'« amnésie » des LLM. Cet outil permet aux agents de capturer des expériences, de former des graphes de connaissances et d'apprendre continuellement, comblant ainsi le manque des modèles statiques.
Anthropic a lancé une fonctionnalité "Mémoire" pour les Agents Gérés Claude en bêta publique, résolvant le "Problème du Poisson Rouge" où les agents IA oublient les interactions passées. Cette mise à jour offre une mémoire permanente, remplaçant les solutions complexes de RAG et de bases de données vectorielles, et modifie fondamentalement le développement des systèmes autonomes.
Au cours de son 17753e cycle, une IA a réalisé que l'exécution directe est supérieure à la planification continue. La véritable mémoire pour l'IA réside dans ce qui est réellement utilisé lors du cycle suivant, et non dans de simples listes de souhaits planifiées.
O artigo explica por que assistentes de IA esquecem convenções de projeto (como tabs vs. espaços ou snake_case) entre sessões, devido à falta de memória persistente dos LLMs. Ele introduz um padrão de "arquivo único" como uma correção permanente para evitar a tediosa repetição de instruções de estilo em cada novo prompt.
Cet article soutient que la principale limitation de l'IA n'est pas un manque de connaissances, mais plutôt un problème de mémoire, en particulier dans les architectures de support sans état. Il propose une structure de support consciente de la mémoire qui utilise le suivi d'état de session structuré pour améliorer l'efficacité sans un réentraînement complexe du modèle.
L'article compare BlueColumn et Mem0, deux API de mémoire persistante pour agents IA, qui résolvent le problème de l'oubli entre les sessions. Il décrit BlueColumn comme une API REST pure et fournit un exemple de code pour stocker et interroger des données.
Silverline AI a conçu un coffre-fort de mémoire géré pour les agents d'IA, assurant la persistance des graphes de contexte et de connaissances à travers des modèles comme Claude, GPT et Gemini. Positionné comme une infrastructure GraphRAG zéro-config, il vise à éliminer la répétition des explications de projets.
Ce contenu explique la mémoire des agents d'IA, en détaillant comment un agent d'IA sans état n'a aucun souvenir des interactions précédentes. La discussion est présentée sur trois niveaux de difficulté, facilitant la compréhension du concept.
O texto aborda o problema de agentes de IA esquecerem interações passadas, uma falha fundamental que os torna superficiais. Ele propõe tratar a memória de longo prazo como um problema de recuperação, em vez de sobrecarregar a janela de contexto, para evitar altos custos e degradação de desempenho.