micro LMs

Micro LM delivers large‑model quality on device

Um novo estudo apresenta os Micro Language Models (μLMs), modelos ultracompactos (8M–30M parâmetros) que entregam a qualidade de grandes modelos em dispositivos. Esta abordagem resolve o dilema entre respostas rápidas e completas em assistentes de borda, ao iniciar as respostas localmente e reduzir a latência de modelos na nuvem.