← heapsort-ai

Docker

21 items

DOC↑ trendingReddit r/LocalLLaMA·11/04/2026

Run Qwen3.5-397B-A13B with vLLM and 8xR9700

Ce document détaille l'exécution optimisée du modèle Qwen3.5-397B-A17B-MXFP4 à l'aide de vLLM sur des GPU RDNA4, tels que 8xR9700. Il fournit un Dockerfile avec des correctifs Triton et des instructions pour télécharger le modèle et lancer le conteneur d'inférence.

42
DOC↑ trendingReddit r/LocalLLaMA·il y a 27j

llama.cpp docker images to run MTP models

Ce contenu décrit la création d'images Docker pour `llama.cpp` afin de simplifier l'exécution des modèles MTP, suite à de nombreuses améliorations et corrections de bugs. Il mentionne également qu'Unsloth a publié de nouveaux modèles MTP pour Qwen 3.6, rendant les versions précédentes obsolètes.

41
ARTICLEDEV.to AI·il y a 23j

How I Built a Completely Free Local AI Stack — Inspired by a 60-Second YouTube Short

Inspiré par un YouTube Short, l'auteur s'est lancé dans la construction d'une pile d'IA locale entièrement gratuite, connectant un modèle d'IA local à Claude Code sans clés API ni abonnements. Cet article documente le processus d'apprentissage, y compris des outils comme Ollama, Gemma4, Docker et Open WebUI, pour exécuter l'IA entièrement sur du matériel personnel.

28
ARTICLEDEV.to AI·18/04/2026

I let Claude AI decide whether to patch my Docker vulnerabilities — here's what it found

L'auteur a intégré Claude AI dans une plateforme de gestion Docker pour automatiser le raisonnement concernant le patching des vulnérabilités, allant au-delà de ce qu'offrent les scanners traditionnels. Cette couche d'IA aide à contextualiser les rapports CVE, évaluant l'exploitabilité, la sécurité du correctif et les effets secondaires potentiels.

28
ARTICLEDEV.to AI·03/05/2026

CLAUDE.md for Docker: 8 Rules That Stop AI From Creating Insecure Containers

Cet article explique comment les modèles d'IA, tels que Claude, peuvent générer des conteneurs Docker insécurisés par défaut, en utilisant des images comme `node:latest` ou en exposant des clés API. Il propose la création d'un fichier `CLAUDE.md` avec des règles, telles que l'épinglage des versions d'image pour assurer la sécurité et la reproductibilité, que les assistants d'IA respecteront.

27
CASEDEV.to AI·15/04/2026

How We Ran 28 AI Agents on a Single Server (And What Broke)

Cet article décrit une expérience où 28 agents d'IA, chacun isolé dans des conteneurs Docker, ont été déployés sur un seul serveur pour assister les employés d'une entreprise. L'architecture comprenait un agent Contrôleur et une base de connaissances partagée, mais le projet a rapidement rencontré des problèmes comme le débordement de mémoire dû au stockage redondant.

27
ARTICLEDEV.to AI·07/05/2026

Stop Burning API Credits While Building AI Apps: Run Local LLMs with Docker Model Runner

La création d'applications d'IA entraîne souvent des coûts d'API élevés pendant le développement et soulève des préoccupations en matière de confidentialité des données lors de l'utilisation de LLM cloud. Docker Model Runner offre aux développeurs JavaScript une solution pour exécuter des modèles d'IA localement via Docker, fournissant des API familières de style OpenAI et atténuant ces problèmes.

27
ARTICLEDEV.to AI·10/04/2026

Docker for TypeScript Developers Building AI Agents in 2026

Engenheiros de frontend estão construindo sistemas de orquestração de IA complexos com TypeScript, que integram LLMs, bancos de dados vetoriais e outros serviços, mas enfrentam desafios de ambiente e dependências. Docker emerge como uma ferramenta crucial para gerenciar essas complexidades, assegurando a consistência na execução dos agentes de IA.

24
ARTICLEDEV.to AI·14/04/2026

How to Use OpenClaw MCP Servers With Docker

Ce guide explique comment utiliser les serveurs MCP (Model Context Protocol) avec Docker pour étendre les agents de codage IA avec des outils et des sources de données externes. Il aborde les configurations de serveurs MCP conteneurisés, docker-compose, la mise en réseau et les meilleures pratiques de sécurité pour résoudre les problèmes de conflits de dépendances et d'incohérence d'environnement.

23
ARTICLEDEV.to AI·15/04/2026

Repo Truth Production Truth: A Container-First Troubleshooting Pattern for Runtime Drift

Ce contenu décrit un problème opérationnel courant de "dérive d'exécution", où les fonctionnalités déployées ne correspondent pas au code du dépôt, entraînant une perte de temps en dépannage. Il propose une approche de dépannage axée sur les conteneurs pour vérifier la vérité d'exécution en direct, illustrée par un problème dans un pack de bureau IA.

19
DOCDEV.to AI·21/04/2026

Building Scalable Microservices with Node.js and Docker - A Practical Implementa

Ce guide pratique détaille la création de microservices évolutifs avec Node.js et Docker, couvrant la conception de services légers, la gestion des erreurs et la journalisation structurée. Il aborde l'optimisation des images Docker avec des builds multi-étapes et l'implémentation de contrôles de santé, ainsi que des stratégies de mise à l'échelle avec Docker Swarm ou Kubernetes.

6