Nanochat vs Llama for training from scratch? [P]

Der Benutzer trainiert ein KI-Modell von Grund auf neu und bittet um Rat zur besten Architektur, wobei er überlegt, von Nanochat (das keine Transformers-Kompatibilität bietet) zur Llama-Architektur zu wechseln. Ziel ist ein Open-Source-Projekt mit einem neuen, größeren Datensatz, trotz der Vorteile von Nanochat.