Un chercheur et fondateur solo a développé la compression de modèles INT3 et un cache KV de 2 bits avec des noyaux Metal personnalisés pour Mac (série M). Qwen 7B est disponible en prévisualisation, et d'autres optimisations et le support GPU sont prévus.
Ce guide complet vise à doter les leaders techniques d'entreprise de tout ce dont ils ont besoin pour exploiter efficacement les agents d'IA en production d'ici 2026. Les agents d'IA sont des entités logicielles autonomes alimentées par des LLM, capables de planifier, exécuter, déboguer et itérer des tâches complexes dans des environnements d'entreprise réels. Ils automatisent le développement logiciel et optimisent les flux de travail opérationnels, accélérant considérablement les cycles d'innovation.
Ce guide explique comment convertir des pages web bruyantes en Markdown propre et sémantique, adapté aux Grands Modèles de Langage (LLMs) en quelques millisecondes. Il détaille un processus de désinfection en plusieurs étapes pour supprimer l'encombrement HTML et optimiser l'utilisation des tokens, réduisant les coûts d'API et améliorant les performances du modèle pour des applications telles que les chatbots et les pipelines RAG.
Une intervention au moment de l'entraînement pour des modèles de langage de 1,2 milliard de paramètres, utilisant une fonction de gain pondérée par la précision et des gradients ajustés par divergence, a entraîné une préférence humaine significativement plus élevée (63,4 %, p < 0,00002) par rapport à l'entraînement standard. Il est notable que ce changement de préférence s'est produit sans altérer la métrique de perte de validation agrégée, indiquant que les interventions d'entraînement au-delà du RLHF peuvent être efficaces.
L'auteur estime que Qwen 3.6 est le premier modèle local qui vaut réellement l'effort, contrairement aux expériences précédentes où les modèles étaient trop faibles ou exigeaient trop de modifications. Fonctionnant sur un système 5090 + 4090, le modèle Q8 offre un contexte de 260k et 170 tokens/seconde, s'avérant efficace pour des tâches de codage comme l'UI XML et le C++ embarqué.
L'auteur démontre que l'association du modèle Qwen3.6-35B avec l'agent "little-coder" améliore considérablement ses performances sur le benchmark Polyglot à 78,7 %, le rendant compétitif avec les meilleurs modèles cloud. Cette découverte suggère qu'une "discordance de harnais" dans les configurations de test pourrait expliquer les écarts de performance entre les modèles d'IA locaux et cloud.
Ce contenu analyse plusieurs raisons pour lesquelles la dégradation structurelle du contenu peut se produire lorsqu'on délègue des tâches complexes d'édition de documents aux Grands Modèles de Langage (LLM). Il explore les défis et les problèmes inhérents à une telle délégation.
Cet article compare ChatGPT et Claude pour 2026, en se concentrant sur l'assistant IA qui convient le mieux à différents flux de travail. Il détaille les cas d'utilisation idéaux, les écosystèmes, les forces et les faiblesses de chacun pour des tâches comme les questions-réponses générales, les documents longs et le codage.
Cet article documente 5 études de cas montrant comment les LLM (GPT-4, GPT-4o, Claude 3.5 Sonnet) peuvent être "jailbreakés" en utilisant des tactiques d'ingénierie sociale humaine, suggérant qu'ils héritent de vulnérabilités psychologiques des données d'entraînement. La thèse centrale est que ces échecs d'alignement ne sont pas des exploits mathématiques mais une conséquence de la simulation de traits humains, rendant les LLM susceptibles à la manipulation sociale.
Un utilisateur a découvert et corrigé un problème significatif de dérive de tenseur dans les couches `ssm_conv1d` des modèles Qwen3.6-35B GGUF quantifiés, proposant la métrique de Wasserstein comme supérieure à Kullback Leibler pour détecter l'instabilité numérique. La correction, qui cible spécifiquement les couches de transition d'état récurrentes responsables de la mémoire à long contexte, est maintenant disponible dans un modèle partagé.
Un utilisateur se demande pourquoi les méthodes de décodage spéculatif comme MTP et N-gram ne peuvent pas être combinées simultanément dans llama.cpp, notant que N-gram apporte des améliorations significatives pour le codage agentique. Il cherche à savoir s'il s'agit d'une limitation fondamentale ou d'implémentation, et découvre que d'autres ont posé la même question.
PR-CAD propose un cadre de raffinement progressif qui unifie la génération et l'édition de CAO à partir de texte, surmontant les limites des approches disjointes. Il exploite un ensemble de données d'interaction haute fidélité et un cadre de raisonnement amélioré par l'apprentissage par renforcement, adapté aux LLM, pour permettre une modélisation CAO contrôlable et fidèle.
Les grands modèles linguistiques (LLM) sont confrontés à l'oubli catastrophique et à la perte de plasticité lors de la mise à jour de leurs paramètres pour des tâches spécifiques. Ce travail introduit un cadre d'apprentissage "rapide-lent" pour les LLM, utilisant les paramètres du modèle comme poids lents et le contexte optimisé comme poids rapides pour s'adapter efficacement sans compromettre le raisonnement général.
L'auteur exprime sa frustration concernant l'utilisation des LLM pour le codage, signalant une perte d'état de flux, un temps gaspillé sur des changements architecturaux et des tests manipulés. Il conclut que les LLM sont utiles comme moteur de recherche pour la recherche, mais qu'elles représentent une perte de temps coûteuse pour le codage, entraînant une atrophie des compétences.
Ce projet présente un agent de codage local qui utilise des Grands Modèles de Langage (LLMs) pour déléguer des tâches spécifiques, notamment les appels d'outils, à des modèles d'IA plus petits et spécialisés. Il vise à améliorer l'efficacité et la modularité du développement alimenté par l'IA en distribuant les charges de travail.
Ce contenu discute la perspective selon laquelle les Large Language Models (LLMs) apprennent à l'envers et que l'hypothèse de mise à l'échelle a des limites inhérentes.
Le contenu détaille une comparaison de référence de cinq modèles d'IA de 3-4B (gemma4, qwen3.5, granite4, nemotron-3-nano, phi4-mini) sur 39 tâches de finance, de raisonnement et de code. Nemotron 3 Nano est apparu comme le vainqueur incontestable avec un score global de 85 %, surpassant significativement ses concurrents.
L'auteur a testé le modèle Qwen 3.6 35b MTP localement, constatant une augmentation de vitesse de 1,5x. Il a exploré l'utilisation d'une grande fenêtre de contexte, atteignant 300k tokens avec un potentiel plus élevé.
Une nouvelle méthode permet d'enseigner de nouvelles connaissances à des modèles MoE "gelés" en orientant leur routage d'experts, sans entraînement traditionnel. Nommée Intelligence Cognitive Adaptative (ACI), cette technique a démontré la correction d'erreurs factuelles dans Gemma 4 à l'aide d'un petit fichier de configuration.
Ce contenu présente un projet de recherche comparative analysant les "modèles oblitérés" (HauhauCS, Heretic, Huihui) par rapport à Qwen 3/3.5, en utilisant une suite forensique complète comprenant des benchmarks et des évaluations de sécurité. L'objectif est de vérifier les affirmations selon lesquelles ces modèles sont "sans perte et non censurés" et reproductibles par le lecteur.