Este artigo ensina como realizar uma tarefa de linguagem, como classificação de texto, integrando modelos de linguagem grandes (LLMs) de código aberto hospedados localmente. Ele mostra como usar Ollama e a biblioteca Python Scikit-LLM com modelos como Mistral, Gemma e Llama 3 gratuitamente.
O conteúdo discute a ascensão de modelos de IA generativa, como LLMs, na classificação de texto, superando métodos tradicionais de machine learning. Ele explora quando é apropriado utilizar um LLM para essas tarefas.
Este tutorial demonstra tarefas práticas de Processamento de Linguagem Natural, como classificação de texto e resposta a perguntas, diretamente no navegador usando a API pipeline() da biblioteca Transformers.js.
A classificação de texto zero-shot permite rotular textos sem a necessidade de treinar previamente um classificador em um conjunto de dados específico da sua tarefa. É uma abordagem eficiente para categorizar informações textuais.
Este projeto aborda a limitação de modelos de IA tradicionais com dados não vistos, propondo uma solução para sistemas ERP universitários. Utiliza Zero-Shot Learning para classificar texto dinâmico e imprevisível, incorporando também a memória de interações passadas para melhorar o desempenho.