Language Acquisition

2 items

RESEARCHarXiv CS.CL·vor 21T

Language Acquisition Device in Large Language Models

Dieser Artikel schlägt ein vom Spracherwerbsgerät (LAD) inspiriertes Vortraining mit MP-STRUCT vor, einer formalen Sprache, die natürliche Sprachstrukturen widerspiegelt, um die Dateneffizienz großer Sprachmodelle zu verbessern. Ein kurzes Vortraining mit MP-STRUCT erreicht die Token-Effizienz starker formaler Sprach-Baselines und verleiht eine menschenähnliche Resistenz gegenüber strukturell unplausiblen Sprachen.

Formal Languages Pre-pretraining Language Acquisition MP-STRUCT

RESEARCHarXiv CS.CL·vor 21T

A Scalable Tool for Measuring Manner and Result Verbs in Developmental Language Research

Diese Forschung stellt einen skalierbaren computergestützten Ansatz zur Messung von Verben des Manier und des Ergebnisses vor, eine entscheidende Unterscheidung für die entwicklungsbezogene Sprachforschung. Es werden große Sprachmodelle für Satzannotationen verwendet und ein RoBERTa-basierter Klassifikator trainiert, der vielversprechende Leistungen auf Evaluierungsdatensätzen zeigt.

Language Acquisition machine learning Natural Language Processing linguistics