Dieses Papier schlägt SENSE (Semantic Embedding Navigation with Soft-gated Evaluation) vor, um Retrieval-basierte Spekulative Dekodierung (RSD) für LLMs zu verbessern. SENSE adressiert die starren lexikalischen Abhängigkeiten von RSD, indem es robuste semantische Ausrichtung und ein Soft-gated Evaluationsmodul verwendet, um semantische Äquivalenz zu validieren.
Dieses Papier stellt GEM (Geometric Entropy Mixing) vor, ein neuartiges Framework für die LLM-Datenkuratierung, das das Problem als Variationsproblem auf der Hypersphäre neu formuliert. GEM optimiert die Datenzusammensetzung für das LLM-Vortraining, überwindet Kategorisierungsfehler und entdeckt ausgewogene semantische Strukturen.
Nach der Einreichung ihres Papiers bei CVPRW verspürt ein Benutzer eine „camera-ready Paranoia“ und befürchtet trotz der Verwendung eines PDF-Validierungstools und der korrekten Vorlage eine Ablehnung aufgrund möglicher Fehler. Sie suchen Bestätigung, wann das Papier in die Tagungsband aufgenommen wird, und weisen auf den aktuellen Status „In Produktion“ hin.
PolyJarvis é um agente LLM que automatiza simulações de dinâmica molecular de polímeros para prever propriedades a partir de linguagem natural, utilizando a plataforma RadonPy. O sistema executa tarefas desde a construção do monômero até o cálculo de propriedades, mostrando previsões precisas de densidade e módulos de elasticidade para polímeros como aPS e PMMA.
Hugging Face veröffentlichte am 22. Mai 2026 eine Studie von Dharma AI, die zeigt, dass spezialisierte KI-Modelle größere, allgemeine Modelle bei bestimmten Aufgaben übertreffen können. Die Studie schlägt eine strategische Verschiebung in der KI-Beschaffung vor, die aufgabenspezifische Leistung und Effizienz betont.
Diese Studie untersucht den Einfluss von Diskursrollen-Etiketten wie "Referenz" oder "Anweisung" auf das Verhalten von Sprachmodellen. Es zeigt sich, dass sich die Adoptionsrate irreführender Informationen je nach Etikett erheblich verschieben kann (56-84 Prozentpunkte), wobei Etiketten wie "Anweisung" die Adoption erhöhen und "Beispiel" sie konstant unterdrückt.
Logische Neuronale Netze sind ein Forschungsgebiet, das die Integration von symbolischem Denken mit der Mustererkennung neuronaler Netze anstrebt. Dieses Feld untersucht, wie explizite Wissensrepräsentation und logische Inferenz mit den Lernfähigkeiten konnektionistischer Modelle kombiniert werden können.
Diese Forschung untersucht die Ähnlichkeit zwischen der Verarbeitung von Sprachmodellen und menschlicher Sprachverarbeitung mithilfe des Brain Score-Frameworks. Die Ergebnisse deuten darauf hin, dass LMs, die auf verschiedenen natürlichen Sprachen und sogar auf strukturierten Daten (menschliches Genom, Python) trainiert wurden, ähnliche Brain Score-Leistungen zeigen, was darauf hindeutet, dass die Metrik die Fähigkeit zur Extraktion gemeinsamer Strukturen erfasst.
Diese Forschung schlägt den Dual Prediction Violation (DPV)-Rahmen vor, um Humor zu erklären, wobei die Wechselwirkung zwischen Inhalt und Timing betont wird. Durch die Analyse von 828 chinesischen Stand-up-Darbietungen zeigt sie, dass zeitliche Merkmale, insbesondere Spitzen semantischer Verletzungen und systematische Pausen, die Publikumsreaktion wesentlich stärker vorhersagen als alleinige semantische Inkongruenz.
Diese Arbeit zeigt, dass eine Schwelle in der Entscheidungskapazität den Kollaps von Self-Play-Reinforcement-Learning-Agenten unter asymmetrischen Regelstörungen steuert. Die Eliminierung aller positive-reach kontingenten Entscheidungen führt zu einem schnellen Kollaps, während das Beibehalten einer einzigen solchen Entscheidung dies verhindert.
Eine groß angelegte Studie evaluiert die Retrieval-Augmented Generation (RAG) im Bereich der medizinischen Fragenbeantwortung neu und findet nur geringe und inkonsistente Verbesserungen gegenüber Baselines ohne Retrieval. Sie deutet darauf hin, dass die Wahl des Backbone-Modells entscheidender ist als die Retrieval-Methoden und der Hauptengpass in der Fähigkeit des Modells liegt, abgerufene Evidenz effektiv zu nutzen.
SALIMORY ist ein Framework, das ein einziges Sprachmodell trainiert, um kognitiv strukturierte Speicher für Konversationsagenten zu verwalten, und adressiert Probleme bestehender Methoden. Es nutzt eine hierarchische stufenweise Prozessbelohnung und kontrastive Verfeinerung, was zu erheblichen Verbesserungen bei Genauigkeit und Personalisierung führt und speicherbedingte Fehler reduziert.
Große Sprachmodelle zeigen trotz Unterstützung umfangreicher Eingaben schlechte Leistungen bei komplexen Langkontext-Argumentationsaufgaben. ProxyCoT ist ein neuer Trainingsansatz, der Argumentationsfähigkeiten von kurzen Proxy-Kontexten auf vollständige lange Kontexte überträgt und starke Baselines übertrifft.
Diese Forschungsarbeit untersucht einen produktionszentrierten Mechanismus in Sprachmodellen und offenbart eine Asymmetrie zwischen Sprachverarbeitung und -produktion. Sie zeigt, dass Anweisungen die Informationen in Ausgabetoken, aber nicht in Eingabetoken, erheblich formen und stark mit dem Modellverhalten korrelieren.
Diese Arbeit untersucht die Einschränkungen gleichmäßiger Interventionen in diskreten Diffusions-Sprachmodellen (DLMs) und zeigt, dass diese die Qualität der gesteuerten Generierung verschlechtern. Die Autoren stellen fest, dass verschiedene Attribute zu unterschiedlichen Zeitpunkten im Denoising-Prozess fixiert werden, und schlagen einen adaptiven Planer vor, um Interventionen effizient zu konzentrieren.
FLUID ist ein neues Framework, das autoregressive (AR) Backbones effizient an das Diffusionsparadigma zur parallelen Textgenerierung anpasst. Es ermöglicht die Initialisierung von GPT-Modellen und führt einen dynamischen Entrauschungsmechanismus ein, wodurch Spitzenleistungen bei erheblich reduzierten Trainingskosten erzielt werden.
Dieses Papier stellt TeamTR vor, ein Trust-Region-Framework zur Feinabstimmung von Multi-Agenten-LLM-Systemen, das strukturelle Fehler bei der sequentiellen Feinabstimmung adressiert. Es beweist, dass eine veraltete Belegungsevaluation eine quadratische Strafe mit der Anzahl der Agenten nach sich zieht und die Leistung im Durchschnitt um 7,1% verbessert.
Diese Forschungsarbeit schlägt eine neue Methode zur Quantifizierung der Unsicherheit in Sprachmodellen vor, indem sie den kumulativen Pfad von MLP-Updates pro Schicht verfolgt. Durch die Extraktion von elf skaleninvarianten geometrischen Merkmalen übertrifft eine dünne lineare Sonde die maximale Softmax-Wahrscheinlichkeit bei der Bewertung der Unsicherheit.
Die Studie stellt Reflection-Augmented Scaling (RAS) für die Generierung ausführbarer Cypher-Abfragen vor, das Ausführungsfeedback durch In-Context Learning nutzt. RAS reduziert die Fehlerquote bei der Abfrageausführung um 41-50 % und übertrifft unabhängige Skalierungsmethoden.
DALM (Domain-Algebraic Language Model) wird vorgeschlagen, um Wissensinterferenzen in LLMs zu beheben, indem die unbeschränkte Token-Generierung durch strukturiertes Denoising über ein Domänen-Gitter ersetzt wird. Es folgt einem dreiphasigen Generierungspfad (Domänen-, Relations-, Konzeptunsicherheit) unter algebraischen Einschränkungen, wodurch eine domänenübergreifende Kontamination strukturell verhindert wird.