← heapsort-ai

Small Language Models

6 items

RESEARCHarXiv CS.LG·hace 13d

The Constraint Tax: Measuring Validity-Correctness Tradeoffs in Structured Outputs for Small Language Models

Este artículo presenta el "impuesto de restricción", un protocolo de medición para cuantificar la pérdida de precisión de la respuesta causada por las restricciones de salida estructuradas en Pequeños Modelos de Lenguaje (SLMs). Demuestra que para los SLMs, imponer tales restricciones mejora la validez del esquema pero puede comprometer la corrección de la respuesta subyacente.

29
RESEARCHarXiv CS.CL·7/5/2026

Self-Prompting Small Language Models for Privacy-Sensitive Clinical Information Extraction

Esta investigación presenta un marco implementable localmente que permite a modelos de lenguaje pequeños extraer entidades clínicas sensibles a la privacidad de notas dentales no estructuradas mediante indicaciones auto-generadas y refinadas. El estudio evaluó modelos de código abierto, logrando altas puntuaciones F1 con Qwen2.5-14B-Instruct y Llama-3.1-8B-Instruct después de un ajuste fino supervisado y optimización directa de preferencias.

27