← heapsort-ai

Small Language Models

6 items

RESEARCHarXiv CS.LG·13d atrás

The Constraint Tax: Measuring Validity-Correctness Tradeoffs in Structured Outputs for Small Language Models

Este artigo introduz o "imposto de restrição", um protocolo para medir a perda de precisão da resposta em Pequenos Modelos de Linguagem (SLMs) causada por restrições de saída estruturadas. A pesquisa mostra que, para SLMs, impor estas restrições melhora a validade do esquema mas pode comprometer a correção da resposta subjacente.

29
RESEARCHarXiv CS.CL·07/05/2026

Self-Prompting Small Language Models for Privacy-Sensitive Clinical Information Extraction

Esta pesquisa apresenta uma estrutura implementável localmente que permite a pequenos modelos de linguagem extrair entidades clínicas sensíveis à privacidade de notas odontológicas não estruturadas, através de prompts auto-gerados e refinados. O estudo avaliou modelos de peso aberto, alcançando altas pontuações F1 com Qwen2.5-14B-Instruct e Llama-3.1-8B-Instruct após ajuste fino supervisionado e otimização direta de preferência.

27