L'IA conversationnelle en production souffre souvent de la "dérive de persona", où la voix de l'IA devient incohérente avec le temps. L'auteur soutient que c'est un problème d'architecture, pas de prompt, proposant une logique codée en dur pour le caractère et les règles, et présente ArcOS, un moteur à cinq étapes pour gérer cela.
Cet article discute des nouveautés architecturales de DeepSeek V4, soulignant son système d'attention hybride (CSA + HCA) et les Manifold-Constrained Hyper-Connections. Il aborde également l'entraînement FP4 QAT à l'échelle de la frontière, le différenciant des modèles précédents.
L'article plaide pour l'ingénierie de l'IA comme une discipline distincte, rendue nécessaire par la nature non déterministe des modèles d'IA par rapport aux logiciels traditionnels. Il illustre la complexité et les modes de défaillance potentiels d'une architecture de système basée sur les LLM.
Ce contenu souligne l'importance d'une architecture de recherche LLM-découplée, où l'outil de recherche est séparé du modèle LLM pour la planification et le raisonnement. Cette approche offre des avantages pratiques tels que le choix flexible du modèle et un débogage significativement amélioré en isolant la source des erreurs.
Cet article, la deuxième partie d'une série, explore les techniques avancées de gestion de la mémoire utilisées par Claude Code. Il explique comment la mémoire de session est maintenue, la mécanique de la compaction complète, l'importance de la protection des invariants et la gestion des chemins de récupération bornés.