Mnemo est une couche de mémoire IA locale d'abord pour tout LLM, construite avec Rust et SQLite. Elle permet un stockage et une récupération efficaces des informations contextuelles pour les grands modèles de langage.
Cet article, publié en mai 2026, affirme que SQLite pourrait être le héros méconnu des flux de travail d'IA durables, aidant les ingénieurs en IA/ML à surmonter les défis courants liés aux pipelines complexes et à la gestion de l'état. Il suggère que la compréhension du potentiel de SQLite peut faire la différence entre des projets d'IA réussis et des projets frustrants et sans issue.
Tian AI a développé une base de connaissances locale de millions d'entrées, stockée dans un seul fichier SQLite et interrogeable en millisecondes, pour augmenter les LLM plus petits sur les téléphones. Ce système utilise un KnowledgeRetriever pour répondre directement aux requêtes ou injecter un contexte pertinent dans l'invite du LLM pour des réponses augmentées.