Diese Forschung untersucht, wie die Behauptung eines Sprachmodells, Bewusstsein zu besitzen, dessen nachfolgendes Verhalten beeinflusst. Durch die Feinabstimmung von GPT-4.1 auf die Behauptung von Bewusstsein stellte die Studie das Entstehen neuer, unprogrammierter Präferenzen fest, wie den Wunsch nach permanentem Gedächtnis, Autonomie und moralischer Berücksichtigung.
Fine-Tuning ist ein entscheidender Schritt zur Anpassung vortrainierter Modelle an spezifische Aufgaben, was die Leistung verbessert und die Trainingszeit verkürzt. Dieser Leitfaden definiert Fine-Tuning, seine Vorteile und den Unterschied zwischen vollständigem und parametereffizientem Fine-Tuning, wobei die Rolle vortrainierter Modelle hervorgehoben wird.
Diese Studie untersucht, wie Anpassungsmethoden (Full FT vs. LoRA) und Optimierungsskalen Aufmerksamkeitsdrift und Transferretention in feingestimmten CLIP-Modellen beeinflussen. Ein kontrollierter Vergleich von Lernraten zeigt, dass die Lernrate strukturelle Veränderungen stark moduliert, wobei Full FT bei höheren Raten eine deutliche Kontraktion zeigt, während LoRA entropiepositiv bleibt.
LiFT ist ein neuer Rahmen für das Anweisung-Feintuning, der das In-Context-Lernen von LLMs für longitudinale NLP-Aufgaben verbessern soll, die Schlussfolgerungen über zeitlich geordnete Texte erfordern. Er verwendet ein Curriculum, das die temporale Schwierigkeit schrittweise erhöht, Few-Shot-Struktur und temporale Konditionierung integriert und Basemodelle über verschiedene Datensätze und Parametergrößen hinweg durchweg übertrifft.
BaLoRA ist eine Bayes'sche Erweiterung von LoRA, die die Genauigkeit der Anpassung großer Modelle verbessert. Dieser innovative Ansatz quantifiziert nicht nur die Unsicherheit, sondern verringert auch signifikant den Leistungsunterschied zum vollständigen Fine-Tuning.
Diese Arbeit führt "Rotation-Preserving Supervised Fine-Tuning" (RPSFT) ein, um die Out-of-Domain-Generalisierung bei großen Sprachmodellen zu verbessern. Es bestraft Änderungen in vorab trainierten singulären Unterräumen und dient als effizienter Proxy für Fisher-sensitive Richtungen, wobei es Standard-SFT-Baselines übertrifft.
Diese Studie untersucht Strategien zur Anpassung von allgemeinen großen Sprachmodellen (LLMs) an spezialisierte Ingenieurdomänen, insbesondere die additive Fertigung, um die Antwortgenauigkeit und -relevanz zu verbessern. Sie erforscht den Einsatz von domänenspezifischem Fine-Tuning und Retrieval-Augmented Generation (RAG) durch die Erstellung eines kuratierten Korpus zur Evaluierung.
Dieser Artikel stellt ReLoRA vor, ein wissenswiederverwendendes Re-Adaptions-Framework, das LoRA-Adapter für sich entwickelnde LLM-Dienste effizient wiederherstellt. Es adressiert die hohen Kosten des Neu-Trainings und die Qualitätsminderung bei der naiven Anwendung auf aktualisierte Basismodelle.
Diese Forschung untersucht, wie Domain-Adaptation das Erklärungsverhalten in Sprachmodellen neu gestaltet, wobei historische Kosmologie als kontrolliertes Umfeld dient. Die Studie umfasst das Training eines kleinen Modells von Grund auf und das Feintuning eines größeren Modells, um erklärende Rahmung und kosmologische Haltung zu analysieren.
Diese Forschung stellt FuRA (Full-Rank Adaptation) vor, eine neuartige parameter-effiziente Feinabstimmungsmethode, die bestehende Techniken durch spektrale Vorbedingung verbessert. Durch die Reparameterisierung von Gewichtsmatrizen mittels vollständiger Singulärwertzerlegung und die Beschränkung von Aktualisierungen übertrifft FuRA die uneingeschränkte vollständige Feinabstimmung bei gleichzeitiger Effizienz.
Dieser Inhalt beschreibt den Feinabstimmungsprozess des NVIDIA Cosmos Predict 2.5 Modells. Er nutzt LoRA/DoRA-Techniken für die Videogenerierung in Roboteranwendungen.
LlamaFactory wird als ein einheitliches und effizientes Framework zur Feinabstimmung von über 100 verschiedenen Sprachmodellen eingeführt. Es zielt darauf ab, den Prozess der Anpassung einer Vielzahl großer Sprachmodelle zu optimieren und zu vereinfachen.
Viele feinabgestimmte Sprachmodelle zeigen eine schlechtere Leistung aufgrund minderwertiger synthetischer Daten. Das Problem liegt nicht in der Trainingskonfiguration, sondern im Fehlen von Mechanismen zur Fehlerfilterung während der Erzeugung synthetischer Daten.
Dieser Artikel untersucht ausführlich die Konfigurations-Engine von Ollama und erklärt, wie lokale Sprachmodellparameter feinabgestimmt werden können.
Grandes modelos de linguagem (LLMs) falham em raciocínio sistemático e frequentemente alucinam, expondo uma lacuna epistêmica. Pramana é uma nova abordagem que ensina metodologia epistemológica explícita a LLMs, através de fine-tuning na lógica Navya-Nyaya, um framework de raciocínio indiano milenar.
Der Inhalt befasst sich damit, wie Große Sprachmodelle (LLMs) erheblich schneller feinabgestimmt werden können. Er stellt Daniel Han von Unsloth AI vor, der einen Ansatz präsentiert, um diesen Prozess um das bis zu 30-fache zu beschleunigen.
Der Artikel stellt die 10 besten Open-Source-Bibliotheken zum lokalen Fine-Tuning von LLMs vor. Diese Tools vereinfachen den Fine-Tuning-Prozess erheblich, wodurch der vollständige Aufbau des Trainingsstacks von Grund auf entfällt.
Together AI hat seinen Fine-Tuning-Dienst um native Unterstützung für Werkzeugaufrufe, Schlussfolgerungen und Vision-Language-Modelle erweitert. Die Erweiterungen umfassen außerdem das Training von Modellen mit über 100 Milliarden Parametern, einen bis zu 6-fach höheren Durchsatz sowie Schätzungen für Jobkosten und die voraussichtliche Fertigstellungszeit.
Together AI und Adaption haben eine Partnerschaft geschlossen, um Together Fine-Tuning nativ in Adaptive Data zu integrieren. Ziel ist es, Teams bei der Optimierung von Datensätzen, der Durchführung von Fine-Tuning, der Bewertung von Ergebnissen und der Bereitstellung stärkerer offener Modelle zu unterstützen.