Needle: Distilling Gemini Tool Calling into a 26M Model

Needle ist ein 26-Millionen-Parameter-Modell, das Geminis Tool-Calling-Fähigkeiten erfolgreich destilliert hat und eine nahezu gleiche Genauigkeit zu einem Bruchteil der Rechenkosten erzielt. Dieser Durchbruch ist entscheidend für die Entwicklung von KI-Agenten und Edge-Implementierungen.