← heapsort-ai

bug fix

6 items

DOC↑ trendingReddit r/LocalLLaMA·19d atrás

Latest b9274 Addresses MTP VRAM leak

A atualização b9274 aborda um problema de vazamento de VRAM em modelos MTP (Multi-Token Prediction), onde os recursos da GPU não eram liberados nos ciclos de suspensão/retomada. A correção envolve a redefinição explícita dos recursos do decodificador especulativo, contexto de rascunho e modelo de rascunho na função destroy() para evitar erros de falta de memória.

47
ARTICLEDEV.to AI·18d atrás

The Magento multi-store bug every AI description generator has — and how we fixed it

Um cliente enfrentava problemas com 8.000 SKUs em várias visualizações de loja Magento que precisavam de descrições geradas por IA. Módulos de IA existentes tinham um bug que sobrescrevia todas as visualizações de loja, o qual o autor corrigiu desenvolvendo um novo módulo de código aberto com uma abstração de quatro provedores.

27
ARTICLEDEV.to AI·12d atrás

An MCP server can vanish from your AI agent mid-conversation. Here's the 30-second timeout that did it to me.

Um servidor MCP pode desaparecer de um agente de IA no meio de uma conversa devido a um timeout de 30 segundos, levando o agente a re-implementar funcionalidades com Bash e curl sem perceber a perda da ferramenta. Este artigo detalha o diagnóstico e a solução de uma linha para este modo de falha crucial em stdio MCP.

27