Post‑training tricks cut LLM cost without losing ability

Des travaux récents montrent que des astuces post-entraînement peuvent réduire considérablement le coût et la mémoire des LLM sans perte de capacité. Cela inclut l'alignement des données synthétiques avec le style d'un modèle étudiant et l'utilisation d'optimisations du cache clé-valeur (KV), réalisant des économies substantielles sans les baisses de performances typiques.