← heapsort-ai

curriculum learning

2 items

RESEARCHarXiv CS.CL·vor 25T

VectraYX-Nano: A 42M-Parameter Spanish Cybersecurity Language Model with Curriculum Learning and Native Tool Use

VectraYX-Nano ist ein 42-Millionen-Parameter-Sprachmodell in Spanisch, das von Grund auf für Cybersicherheit trainiert wurde, mit lateinamerikanischem Fokus und nativer Werkzeugaufruf-Funktionalität. Die Forschung beschreibt seinen kundenspezifischen Korpus, die Transformer-Architektur und die Curriculum-Lernmethodik mit Replay.

27
RESEARCHarXiv CS.CL·4/7/2026

Vocabulary Dropout for Curriculum Diversity in LLM Co-Evolution

A pesquisa aborda a queda de diversidade em sistemas de co-evolução de LLMs, onde um modelo gera problemas e outro os resolve, comprometendo o aprendizado de currículo autônomo. Para resolver isso, introduz o 'vocabulary dropout', uma máscara aleatória para manter a diversidade, resultando em melhorias no desempenho de solvers em raciocínio matemático.

27