Disposition Distillation at Small Scale: A Three-Arc Negative Result

Este artículo describe un intento de destilar disposiciones conductuales en pequeños modelos de lenguaje (0.6B-2.3B parámetros) a través de una tubería de destilación. Las ganancias iniciales reportadas fueron posteriormente falsificadas debido a artefactos de evaluación, lo que resultó en un resultado negativo para la hipótesis central y dio lugar a tres arcos de investigación posteriores.