Monitoring Neural Training with Topology: A Footprint-Predictable Collapse Index

Un nouveau moniteur topologique, le Collapse Index (CI), est proposé pour détecter précocement le collapse représentationnel lors de l'entraînement neural. Il utilise des mises à jour rapides et incrémentales pour fournir un signal d'alerte précoce à faible latence pour des interventions dans le fine-tuning des LLM et l'entraînement KGE.