Das Papier schlägt eine zweidimensionale Klassifikation für KI-Agenten-Designmuster vor, die kognitive Funktion und Ausführungstopologie kombiniert. Dieser neue Rahmen zielt darauf ab, die Einschränkungen bestehender Systeme zu überwinden, die LLM-basierte Agentenarchitekturen aus einer einzigen Perspektive beschreiben.
Dieses Papier stellt TRACES vor, ein leichtgewichtiges Framework zur Optimierung von Sprachbegründungsmodellen (LRMs) durch das Echtzeit-Tagging von Begründungsschritten. Es ermöglicht ein adaptives, kosteneffizientes vorzeitiges Beenden von LRM-Inferenzen und adressiert deren derzeitige Ineffizienz und die Überproduktion von Verifizierungsschritten.
Diese Arbeit untersucht minimale, lokale und kausale Erklärungen für den Erfolg von Jailbreak-Angriffen in großen Sprachmodellen (LLMs). Die Forschung befasst sich mit dem mangelnden Verständnis der Anfälligkeit von LLMs für solche Angriffe, die trotz Sicherheitstrainings schädliche Antworten ermöglichen.
Dieses Papier stellt AFRILANGDICT, eine Sammlung afrikanisch-englischer Wörterbucheinträge, und AFRILANGEDU, einen Datensatz, vor. Diese Ressourcen werden verwendet, um KI-Modelle namens AFRILANGTUTOR für den Spracherwerb in ressourcenarmen afrikanischen Sprachen zu trainieren und die Lücke bei KI-Systemen für lokale Sprachen auf dem afrikanischen Kontinent zu schließen.
Eine neue Forschung befasst sich mit der Lücke in der Bewertung des kulturellen Denkens in LLMs und stellt ArabCulture-Dialogue vor, einen kulturell fundierten Konversationsdatensatz, der 13 arabischsprachige Länder abdeckt. Experimente zeigen, dass Modelle bei Aufgaben zum kulturellen Denken, zur Übersetzung und zur Generierung in dialektalen Einstellungen schlechter abschneiden als im modernen Standardarabisch.
MindLoom ist ein Framework zur Synthese von Reasoning-Daten auf Frontier-Ebene, das die begrenzte Diversität und instabile Schwierigkeitskontrolle bestehender Methoden angeht. Es zerlegt Problemlösungen in „Thought Mode Chains“ und trainiert ein Retrieval-Modell, um den Reasoning-Prozess zu leiten.
Diese Forschung untersucht Harness Engineering als Inferenzzeit-Technik für große Sprachmodell-Agenten (LLM), um die Langzeit-Performance durch Aufgabenzerlegung und geführte Ausführung zu verbessern. Sie quantifiziert, wie Designelemente wie Workflow-Granularität und Führung die Leistung beeinflussen, und deckt gängige Fehlerursachen wie Überzerlegung und halluzinierte Ausführung auf.
Diese Arbeit stellt den ersten Benchmark für die multimodale Anspruchsextraktion aus Social-Media-Beiträgen vor, der für die automatisierte Faktenprüfung unerlässlich ist. Sie bewertet hochmoderne MLLMs und schlägt MICE vor, ein absichtsbewusstes Framework, um Herausforderungen bei der Modellierung rhetorischer Absicht und kontextueller Hinweise zu bewältigen.
LiFT ist ein neuer Rahmen für das Anweisung-Feintuning, der das In-Context-Lernen von LLMs für longitudinale NLP-Aufgaben verbessern soll, die Schlussfolgerungen über zeitlich geordnete Texte erfordern. Er verwendet ein Curriculum, das die temporale Schwierigkeit schrittweise erhöht, Few-Shot-Struktur und temporale Konditionierung integriert und Basemodelle über verschiedene Datensätze und Parametergrößen hinweg durchweg übertrifft.
Dieser Artikel stellt PEML vor, eine Methode für parameter-effizientes Multi-Task-Lernen mit optimierten kontinuierlichen Prompts für große Sprachmodelle. Sie zielt darauf ab, die Einschränkungen bestehender PEFT-Methoden wie LoRA und Prefix Tuning zu überwinden, indem sie ein effizienteres Fine-Tuning für mehrere Aufgaben ermöglicht und die Ressourcennutzung konsolidiert.
Dieses Papier stellt Derivation Prompting vor, eine neuartige Prompting-Technik für das Retrieval-Augmented Generation (RAG)-Framework. Die Methode zielt darauf ab, Halluzinationen und fehlerhaftes Denken in großen Sprachmodellen (LLMs) durch die systematische Anwendung vordefinierter Regeln zur Ableitung von Schlussfolgerungen zu reduzieren. Eine Fallstudie zeigte eine signifikante Reduzierung inakzeptabler Antworten im Vergleich zu herkömmlichen RAG-Methoden.
Dieses Papier schlägt eine neuartige Methode zur Verbesserung des Datenschutz-Reasonings in LLMs vor, indem normative Simulakren aus fiktiven Romanen extrahiert werden. Der Ansatz beinhaltet das Fine-Tuning von LLMs durch überwachtes Lernen gefolgt von GRPO-Reinforcement-Learning, wobei eine zusammengesetzte Belohnungsfunktion verwendet wird, um die Informationshandhabung an die Datenschutz-Erwartungen der Nutzer anzupassen.
Diese Forschung stellt Adaptive Power-Mean Policy Optimization (APMPO) vor, um die Schlussfolgerungsfähigkeiten von Großen Sprachmodellen (LLMs) mittels RLVR zu verbessern. APMPO kombiniert ein verallgemeinertes Potenzmittel-Ziel und adaptives Clipping, um die Lerndynamik und Leistung zu optimieren.
Die Langkontext-Dekodierung in Large Language Models (LLMs) wird stark durch die Speicherbandbreite des Key-Value (KV)-Caches eingeschränkt. Dieses Papier schlägt Attention Run-time Termination (ART) vor, einen leichtgewichtigen Mechanismus, der den KV-Cache-Zugriff optimiert und einen um 20% höheren Generierungsdurchsatz erzielt.
Dieser Artikel bewertet die Fähigkeit großer Sprachmodelle (LLMs), ihre Antworten an die Sicherheit der abgerufenen Informationen anzupassen, und deckt systematische Einschränkungen auf. Er schlägt eine Interaktionsstrategie vor, die frühere Erinnerungen, Sicherheitsskalibrierung und Kontextvereinfachung kombiniert, um die Zuverlässigkeit von LLMs zu verbessern. Dieser Ansatz reduziert Gehorsamsfehler um 25%, ohne Modellgewichte zu ändern.
Diese Forschung schlägt einen auf der Diskreten Wavelet-Transformation (DWT) basierenden Rahmen zur Verbesserung der Dokumentenzusammenfassung vor, insbesondere für lange, domänenspezifische Texte, bei denen LLMs Schwierigkeiten haben. Die Methode erzeugt kompakte Repräsentationen, die die semantische Ähnlichkeit, die Verankerung und die faktische Konsistenz im Vergleich zu einem GPT-4o-Baseline verbessern.
Diese Arbeit stellt ein Framework für die Entwicklung von Human-Centered Large Language Models (HCLLMs) vor, das Perspektiven aus NLP, HCI und verantwortungsvoller KI integriert. Es wird argumentiert, dass menschliche Anliegen, Präferenzen und Werte in jeder Phase der LLM-Entwicklung rigoros berücksichtigt werden müssen, anstatt nur als eine nachgeschaltete Überlegung.
Das Papier befasst sich mit der Herausforderung, große Sprachmodelle (LLMs) auf privaten, verteilten Daten zu trainieren, insbesondere in regulierten Sektoren wie dem Gesundheitswesen und dem Finanzwesen. Es schlägt einen praktischen Ansatz vor, um diese wertvollen, aber nicht teilbaren und nicht-IID-Daten zu nutzen, um LLMs mit tieferer Domänenexpertise zu ermöglichen.
MultiSoc-4D ist ein neuer Benchmark für bengalische Social-Media-Daten, der das Verhalten von LLMs bei der Closed-Set-Annotation diagnostizieren soll. Die Untersuchung zeigt ein Phänomen namens „anweisungsinduzierter Label-Kollaps“, bei dem LLMs Standard-Labels bevorzugen und Minderheitskategorien untererfassen.
Dieser Artikel bewertet Open-Weight- und domänenangepasste große Sprachmodelle (LLMs) für die Klassifizierung von Konfliktereignissen in Westafrika. Die Studie zeigt, dass Open-Weight-Modelle eine "Falsche Illegitimations"-Voreingenommenheit aufweisen, während domänenangepasste Modelle eine nahezu direktionale Neutralität erreichen, aber eine akteurbezogene Auswahlvoreingenommenheit beibehalten.