The Constraint Tax: Measuring Validity-Correctness Tradeoffs in Structured Outputs for Small Language Models

Dieses Papier führt die "Constraint Tax" ein, ein Messprotokoll zur Quantifizierung des Verlusts an Antwortgenauigkeit, der durch strukturierte Ausgabebeschränkungen bei Kleinen Sprachmodellen (SLMs) verursacht wird. Es zeigt, dass bei SLMs solche Beschränkungen die Schema-Validität verbessern, aber die Korrektheit der zugrunde liegenden Antwort beeinträchtigen können.