Dieser Inhalt bietet eine Anleitung zum Fine-Tuning des Nemotron 3.5 Automatic Speech Recognition (ASR) Modells. Ziel ist es, Benutzern zu helfen, das Modell für bestimmte Sprachen, Domänen oder Akzente anzupassen und seine Leistung zu optimieren.
Dieses Papier stellt TeamTR vor, ein Trust-Region-Framework zur Feinabstimmung von Multi-Agenten-LLM-Systemen, das strukturelle Fehler bei der sequentiellen Feinabstimmung adressiert. Es beweist, dass eine veraltete Belegungsevaluation eine quadratische Strafe mit der Anzahl der Agenten nach sich zieht und die Leistung im Durchschnitt um 7,1% verbessert.
LoRA (Low-Rank Adaptation) wird als die führende PEFT-Methode vorgestellt, die die effiziente Anpassung riesiger LLMs wie Llama 3 ohne umfangreiche Hardware-Ressourcen ermöglicht. Der Beitrag verspricht, die mathematische Intuition von LoRA, das Konzept der "intrinsischen Dimension" und seine transformative Bedeutung für KI-Ingenieure zu beleuchten.
Große Sprachmodelle neigen dazu, faktisch inkorrekte Aussagen zu halluzinieren, ein Problem, das durch überwachtes Fine-Tuning (SFT) verstärkt wird, welches das vorab erworbene Wissen abbaut. Diese Forschung schlägt eine selbst-destillationsbasierte SFT-Methode vor, inspiriert vom kontinuierlichen Lernen, um Halluzinationen durch die Regularisierung der Ausgabe-Distributionsdrift zu mindern, während neue Fakten effektiv gelernt werden.
Diese Arbeit stellt Group Fine-Tuning (GFT) vor, ein vereinheitlichtes Post-Training-Framework für große Sprachmodelle. Es begegnet intrinsischen Einschränkungen des überwachten Fine-Tunings (SFT), wie der Single-Path-Abhängigkeit und dem Entropiekollaps, mittels Group Advantage Learning und Dynamic Coefficient Rectification.
TalkLoRA propõe um framework MoELoRA que aborda a instabilidade de roteamento e a dominância de especialistas em métodos existentes, permitindo a comunicação entre especialistas antes do roteamento. Isso é feito através de um Módulo de Conversação leve, que facilita a troca de informações, gerando um sinal de roteamento mais robusto para Large Language Models (LLMs).
Diese Forschung zeigt, dass LoRA-Fine-Tuning bei umstrittenen Beispielen ein „Entlernen“ bewirkt, wobei eine hohe AnnotatorenUneinigkeit mit einem Anstieg des Verlusts während des Trainings korreliert. Dieses Muster unterscheidet sich vom vollständigen Fine-Tuning und wird konsistent über mehrere Modelle und Datensätze hinweg beobachtet.
HELLoRA schlägt eine neue Methode zur Feinabstimmung von Mixture-of-Experts (MoE)-Modellen vor, indem Low-Rank Adaptation (LoRA)-Module nur an den am häufigsten aktivierten Experten jeder Schicht angebracht werden. Diese Technik reduziert die trainierbaren Parameter erheblich und verbessert die Leistung, was auf eine strukturierte Regularisierung zurückzuführen ist, die die vortrainierte Expertenspezialisierung bewahrt.
Dieser Artikel analysiert die Wahl zwischen RAG, Fine-Tuning und KI-Agenten für LLM-Projekte und deutet an, dass oft eine Kombination erforderlich ist. Er bietet einen praktischen Leitfaden, welche Architektur je nach Projektanforderungen wie Datenquelle, Aktionen und Budget zu bevorzugen ist.
Der Artikel beschreibt die mehrstufige QLoRA-Feinabstimmungsstrategie von QU-NLP für das arabisch-islamische Erbschaftsargumentation unter Verwendung von Qwen3-4B. Das Modell erreichte einen MIR-E-Score von 90 % und zeigte eine wettbewerbsfähige Leistung bei minimalem Rechenaufwand.
Dieser Inhalt beschreibt das Fine-Tuning eines klinischen KI-Modells, MedQA, auf der AMD ROCm-Plattform. Er hebt hervor, dass diese Aufgabe ohne CUDA durchgeführt werden kann, was eine wichtige Alternative für die KI-Entwicklung bietet.
Dieser Artikel beleuchtet, wie Nutzer-„Daumen runter“-Feedback unschätzbare reale Trainingsdaten für KI-Systeme liefert, die oft von Teams übersehen werden. Er räumt mit dem Irrglauben auf, dass KI-Feinabstimmung immer teuer und komplex ist, und schlägt eine vereinfachte Feedbackschleife für die Produktentwicklung vor.
Dieser Artikel beschreibt den Fine-Tuning-Prozess von OpenCLIP ViT-B/32 für Architekturstile, wodurch eine Genauigkeitssteigerung von 26 Prozentpunkten erzielt wurde. Der Autor konzentriert sich auf die kritischen Entscheidungen vor und nach dem Trainingszyklus, die für dieses signifikante Ergebnis verantwortlich waren, anstatt auf die Optimierung des Trainingszyklus selbst.
Dieser Beitrag behandelt die Hyperparameter-Optimierung auf Amazon Nova Forge und erläutert, wie man die Verbesserung der domänenspezifischen Leistung mit den allgemeinen Fähigkeiten eines Modells in Einklang bringt. Er behandelt Anpassungsstrategien, die Konfiguration von Trainingsparametern und wie häufige Fehler vermieden werden können.
Jüngste Arbeiten zeigen, dass Post-Training-Tricks die Kosten und den Speicherbedarf von LLMs erheblich senken können, ohne Fähigkeiten einzubüßen. Dazu gehören die Anpassung synthetischer Daten an den Stil eines Schülermodells und die Optimierung des Key-Value (KV)-Caches, wodurch erhebliche Einsparungen ohne typische Leistungseinbußen erzielt werden.
Dieses Papier beschreibt einen Versuch, Verhaltensdispositionen mittels einer Distillations-Pipeline in kleine Sprachmodelle (0,6B-2,3B Parameter) zu destillieren. Anfänglich gemeldete Fortschritte wurden später aufgrund von Evaluierungsartefakten widerlegt, was zu einem negativen Ergebnis für die Kernhypothese führte und drei nachfolgende Untersuchungsstränge nach sich zog.
Diese Forschung stellt die Annahme in Frage, dass PEFT gleich Speichereffizienz für On-Device-LLMs ist, und zeigt, dass bestehende Methoden zu Out-of-Memory-Fehlern führen können. Sie stellt LARS vor, ein neues Framework, das den Speicherverbrauch von der Sequenzlänge entkoppelt, indem es den Aktivierungsunterraum einschränkt, und den Speicherbedarf um durchschnittlich 33,54% reduziert.
Diese Forschung untersucht die Ablehnungsmechanismen in sicherheitsausgerichteten Sprachmodellen, indem sie überwachtes Fine-Tuning mit R2D2-ähnlichem dynamischen adversariellen Fine-Tuning vergleicht. Die Ergebnisse zeigen, dass R2D2 anfangs eine starke Ablehnung auf HarmBench erreicht, sich dann aber teilweise wieder öffnet, während SFT weniger robust bleibt.
Este estudo avalia metodologias de Large Language Models (LLM) – Fine-Tuning, RAG e uma abordagem Híbrida – para construir uma base de conhecimento de Análise de Causa Raiz (RCA) a partir de tickets de suporte. Os experimentos com um conjunto de dados industrial real demonstram que a base de conhecimento gerada acelera as tarefas de RCA e melhora a resiliência da rede.
Diese Forschung schlägt TESSY, ein Framework zur Datensynthese durch Lehrer-Schüler-Kooperation, vor, um Leistungsabfälle beim Fine-Tuning von Reasoning-Modellen mit von Lehrern generierten Daten zu beheben. TESSY ermöglicht die Generierung synthetischer Sequenzen, die fortschrittliches Reasoning vom Lehrer erben und gleichzeitig die stilistische Konsistenz mit der Verteilung des Schülermodells beibehalten.