← heapsort-ai

Docker

21 items

DOC↑ trendingReddit r/LocalLLaMA·11/4/2026

Run Qwen3.5-397B-A13B with vLLM and 8xR9700

Este documento detalla la ejecución optimizada del modelo Qwen3.5-397B-A17B-MXFP4 utilizando vLLM en GPUs RDNA4, como 8xR9700. Incluye un Dockerfile con parches de Triton e instrucciones para descargar el modelo y lanzar el contenedor de inferencia.

42
DOC↑ trendingReddit r/LocalLLaMA·hace 27d

llama.cpp docker images to run MTP models

Este contenido describe la creación de imágenes Docker para `llama.cpp` con el fin de simplificar la ejecución de modelos MTP, tras numerosas mejoras y correcciones de errores. También señala que Unsloth ha lanzado nuevos modelos MTP para Qwen 3.6, lo que hace que las versiones anteriores queden obsoletas.

41
ARTICLEDEV.to AI·hace 23d

How I Built a Completely Free Local AI Stack — Inspired by a 60-Second YouTube Short

Inspirado por un YouTube Short, el autor se sumergió en la construcción de una pila de IA local completamente gratuita, conectando un modelo de IA local a Claude Code sin claves API ni suscripciones. Esta publicación documenta el proceso de aprendizaje, incluyendo herramientas como Ollama, Gemma4, Docker y Open WebUI, para ejecutar IA completamente en hardware personal.

28
ARTICLEDEV.to AI·18/4/2026

I let Claude AI decide whether to patch my Docker vulnerabilities — here's what it found

El autor integró Claude AI en una plataforma de gestión de Docker para automatizar el razonamiento detrás de la aplicación de parches de vulnerabilidad, un paso más allá de lo que ofrecen los escáneres tradicionales. Esta capa de IA ayuda a contextualizar los informes de CVE, evaluando la explotabilidad, la seguridad de la corrección y los posibles efectos secundarios.

28
CASEDEV.to AI·15/4/2026

How We Ran 28 AI Agents on a Single Server (And What Broke)

Este artículo detalla un experimento donde 28 agentes de IA, cada uno aislado en contenedores Docker, fueron implementados en un solo servidor para asistir a los empleados de una empresa. La configuración incluía un agente Controlador y una base de conocimiento compartida, pero el experimento pronto enfrentó desafíos como el desbordamiento de memoria debido al almacenamiento redundante a largo plazo.

27
ARTICLEDEV.to AI·7/5/2026

Stop Burning API Credits While Building AI Apps: Run Local LLMs with Docker Model Runner

La creación de aplicaciones de IA a menudo conlleva altos costos de API durante el desarrollo y genera preocupaciones sobre la privacidad de los datos al usar LLMs en la nube. Docker Model Runner ofrece a los desarrolladores de JavaScript una solución para ejecutar modelos de IA localmente utilizando Docker, proporcionando APIs al estilo OpenAI familiar y mitigando estos problemas.

27
ARTICLEDEV.to AI·10/4/2026

Docker for TypeScript Developers Building AI Agents in 2026

Engenheiros de frontend estão construindo sistemas de orquestração de IA complexos com TypeScript, que integram LLMs, bancos de dados vetoriais e outros serviços, mas enfrentam desafios de ambiente e dependências. Docker emerge como uma ferramenta crucial para gerenciar essas complexidades, assegurando a consistência na execução dos agentes de IA.

24
ARTICLEDEV.to AI·14/4/2026

How to Use OpenClaw MCP Servers With Docker

Esta guía explica cómo usar servidores MCP (Model Context Protocol) con Docker para extender agentes de codificación de IA con herramientas y fuentes de datos externas. Cubre configuraciones de servidores MCP en contenedores, docker-compose, redes y mejores prácticas de seguridad para resolver problemas como conflictos de dependencia e inconsistencia del entorno.

23
ARTICLEDEV.to AI·15/4/2026

Repo Truth Production Truth: A Container-First Troubleshooting Pattern for Runtime Drift

Este contenido describe un problema operativo común de "runtime drift", donde las funciones implementadas no coinciden con el código del repositorio, lo que lleva a una pérdida de tiempo en la resolución de problemas. Propone un enfoque de solución centrado en contenedores para verificar la verdad en tiempo de ejecución en vivo, ejemplificado por un problema en un paquete de oficina de IA.

19
DOCDEV.to AI·21/4/2026

Building Scalable Microservices with Node.js and Docker - A Practical Implementa

Esta guía práctica detalla la construcción de microservicios escalables utilizando Node.js y Docker, cubriendo la creación de servicios ligeros, manejo de errores y logging estructurado. Aborda la optimización de imágenes Docker con builds multi-stage e implementación de health checks, junto con estrategias de escalado con Docker Swarm o Kubernetes.

6