A Unified Geometric Framework for Weighted Contrastive Learning

L'apprentissage contrastif vise à préserver la structure relationnelle entre les échantillons en apprenant des représentations qui reflètent un graphe de similarité. Cet article interprète les objectifs InfoNCE pondérés comme des problèmes de géométrie de distance, offrant un cadre géométrique unifié et des caractérisations exactes des embeddings optimaux, révélant comment le déséquilibre des classes affecte les similarités inter-classes dans SupCon.