← heapsort-ai

bug fix

6 items

DOC↑ trendingReddit r/LocalLLaMA·vor 19T

Latest b9274 Addresses MTP VRAM leak

Das Update b9274 behebt ein VRAM-Leck-Problem bei MTP-Modellen (Multi-Token Prediction), bei dem GPU-zugewiesene Ressourcen in Schlaf-/Wiederaufnahmezyklen nicht freigegeben wurden. Die Lösung besteht darin, die Ressourcen des spekulativen Decoders, des Entwurfskontexts und des Entwurfsmodells in der destroy()-Funktion explizit zurückzusetzen, um Speicherüberlauf-Fehler zu vermeiden.

47
ARTICLEDEV.to AI·vor 18T

The Magento multi-store bug every AI description generator has — and how we fixed it

Ein Kunde hatte Probleme mit 8.000 SKUs in mehreren Magento-Store-Ansichten, die KI-generierte Beschreibungen benötigten. Bestehende KI-Module hatten einen Fehler, der dazu führte, dass Beschreibungen alle Store-Ansichten überschrieben, den der Autor durch die Entwicklung eines neuen Open-Source-Moduls mit einer Vier-Anbieter-Abstraktion behoben hat.

27
ARTICLEDEV.to AI·vor 12T

An MCP server can vanish from your AI agent mid-conversation. Here's the 30-second timeout that did it to me.

Ein MCP-Server kann während einer Konversation aufgrund eines 30-Sekunden-Timeouts von einem KI-Agenten verschwinden, wodurch der Agent Funktionalitäten mit Bash und curl neu implementiert, ohne den Werkzeugverlust zu bemerken. Dieser Artikel beschreibt die Diagnose und eine einzeilige Korrektur für diesen kritischen Fehlerfall in stdio MCP.

27