Structured Outputs

The Constraint Tax: Measuring Validity-Correctness Tradeoffs in Structured Outputs for Small Language Models

Este artículo presenta el "impuesto de restricción", un protocolo de medición para cuantificar la pérdida de precisión de la respuesta causada por las restricciones de salida estructuradas en Pequeños Modelos de Lenguaje (SLMs). Demuestra que para los SLMs, imponer tales restricciones mejora la validez del esquema pero puede comprometer la corrección de la respuesta subyacente.