Language Acquisition

2 items

RESEARCHarXiv CS.CL·hace 22d

Language Acquisition Device in Large Language Models

Este artículo propone un preentrenamiento inspirado en el Dispositivo de Adquisición del Lenguaje (LAD) utilizando MP-STRUCT, un lenguaje formal que refleja estructuras del lenguaje natural, para mejorar la eficiencia de datos de los Grandes Modelos de Lenguaje. Un breve preentrenamiento con MP-STRUCT iguala la eficiencia de tokens de sólidas bases de lenguajes formales y confiere una resistencia similar a la humana a lenguajes estructuralmente implausibles.

Formal Languages Pre-pretraining Language Acquisition MP-STRUCT

RESEARCHarXiv CS.CL·hace 22d

A Scalable Tool for Measuring Manner and Result Verbs in Developmental Language Research

Esta investigación presenta un enfoque computacional escalable para medir verbos de manera y resultado, una distinción crucial para los estudios de desarrollo del lenguaje. Utiliza grandes modelos de lenguaje para anotaciones de oraciones y entrena un clasificador basado en RoBERTa, mostrando un rendimiento prometedor en conjuntos de datos de evaluación.

Language Acquisition Machine Learning Natural Language Processing linguistics