← heapsort-ai

bug fix

6 items

DOC↑ trendingReddit r/LocalLLaMA·hace 19d

Latest b9274 Addresses MTP VRAM leak

La actualización b9274 aborda un problema de fuga de VRAM en los modelos MTP (Multi-Token Prediction), donde los recursos asignados a la GPU no se liberaban en los ciclos de suspensión/reanudación. La solución implica restablecer explícitamente los recursos del decodificador especulativo, el contexto de borrador y el modelo de borrador en la función destroy() para evitar errores de falta de memoria.

47
ARTICLEDEV.to AI·hace 18d

The Magento multi-store bug every AI description generator has — and how we fixed it

Un cliente tuvo problemas con 8.000 SKUs en múltiples vistas de tienda Magento que requerían descripciones generadas por IA. Los módulos de IA existentes presentaban un error que sobrescribía todas las vistas de tienda, el cual el autor solucionó desarrollando un nuevo módulo de código abierto con una abstracción de cuatro proveedores.

27
ARTICLEDEV.to AI·hace 12d

An MCP server can vanish from your AI agent mid-conversation. Here's the 30-second timeout that did it to me.

Un servidor MCP puede desaparecer de un agente de IA en medio de una conversación debido a un tiempo de espera de 30 segundos, lo que provoca que el agente reimplemente funcionalidades con Bash y curl sin darse cuenta de la pérdida de la herramienta. Este artículo detalla el diagnóstico y una solución de una línea para este modo de fallo crucial en stdio MCP.

27