Vertex-Softmax: Tight Transformer Verification via Exact Softmax Optimization

L'article présente Vertex-Softmax, une nouvelle méthode pour la vérification certifiée de l'attention des transformateurs via l'optimisation exacte de la fonction softmax. Il prouve que l'optimum exact est atteint à un sommet de la boîte de contrainte, fournissant une borne plus stricte.