Language Acquisition

2 items

RESEARCHarXiv CS.CL·21d atrás

Language Acquisition Device in Large Language Models

Este artigo propõe um pré-treinamento inspirado no Dispositivo de Aquisição da Linguagem (LAD) usando MP-STRUCT, uma linguagem formal que reflete estruturas de linguagem natural, para melhorar a eficiência de dados de Modelos de Linguagem Grandes. Um breve pré-treinamento com MP-STRUCT atinge a eficiência de token de fortes linhas de base de linguagem formal e confere uma resistência humana a linguagens estruturalmente implausíveis.

Formal Languages Pre-pretraining Language Acquisition MP-STRUCT

RESEARCHarXiv CS.CL·21d atrás

A Scalable Tool for Measuring Manner and Result Verbs in Developmental Language Research

Esta pesquisa apresenta uma abordagem computacional escalável para medir verbos de maneira e resultado, distinção importante para estudos de desenvolvimento da linguagem. Utiliza grandes modelos de linguagem para anotações de frases e treina um classificador baseado em RoBERTa, demonstrando desempenho promissor em conjuntos de dados de avaliação.

Language Acquisition machine learning Natural Language Processing linguistics