The Local LLM Revolution: Kiwi-chan Breaks Free from the Cloud!

Cet article retrace le parcours de "Kiwi-chan", un LLM qui fonctionne désormais entièrement en local, éliminant la dépendance au cloud. Bien qu'il rencontre toujours des défis tels que les hallucinations et les échecs d'analyse, l'exécution locale de Qwen 35B sur la machine de l'auteur a amélioré le processus de "réflexion" de l'IA, avec un taux de réussite de 46,1% dans ses actions.