Este conteúdo apresenta PrismML e um novo conceito de IA chamado Ternary Bonsai, que alega atingir inteligência superior com notável eficiência em 1.58 bits. Provavelmente discute avanços na compressão de modelos de IA ou desempenho otimizado.
Este artigo propõe um pipeline ordenado (poda, quantização INT8 e destilação de conhecimento) para otimizar a compressão de redes neurais, visando a latência de inferência medida em vez de métricas indiretas. A pesquisa revela que a quantização INT8 oferece o principal benefício de tempo de execução, enquanto a poda atua como um pré-condicionador e a destilação de conhecimento recupera a precisão.
OlmoEarth v1.1 é uma nova versão de uma família de modelos, focada em maior eficiência. Esta atualização visa otimizar o desempenho e o uso de recursos.
AutoCompress é um método de compressão de transformadores que isola a Camada 0, considerada crucial, mantendo-a em dimensão total. Aplicado ao GPT-2 Medium, ele alcança uma redução de 59,5% nos parâmetros com um desempenho significativamente superior a um baseline uniforme.
O LiME (Lightweight Mixture of Experts) propõe uma nova abordagem para MoE-PEFT, utilizando modulação leve de um único módulo PEFT compartilhado em vez de adaptadores separados por especialista. Isso reduz significativamente os parâmetros, introduz roteamento de parâmetros zero e generaliza para qualquer método PEFT, superando as limitações de escalabilidade e aplicabilidade.
Esta pesquisa aponta a ineficiência dos agentes atuais de uso de computador, que utilizam modelos multimodais grandes para cada interação de interface gráfica. Argumenta que as tarefas são heterogêneas, com passos rotineiros exigindo menos processamento, enquanto erros se concentram em momentos de alto risco como travamentos ou desvio semântico, necessitando otimização direcionada.
Este artigo apresenta o Gist Sparse Attention (GSA), um método de aprendizado de ponta a ponta para escalar grandes modelos de linguagem para contextos longos sem modificações arquitetônicas. O GSA comprime o contexto em 'tokens de essência' para resumo e, em seguida, restaura seletivamente blocos brutos relevantes para atenção detalhada, combinando representações globais compactas com acesso segmentado e detalhado.
Este artigo propõe um método eficiente e baseado em princípios para aprimorar o raciocínio em Grandes Modelos de Linguagem, abordando a falta atual de confiança no conteúdo gerado. O método inclui uma fase de pré-processamento com um Integracode Relacional Unário, seguida por um processo de aprendizado de máquina otimizado.
Esta pesquisa apresenta o MP-ISMoE, um framework de Mixture-of-Experts Lateral Interativo de Precisão Mista, para aprimorar o aprendizado por transferência eficiente em parâmetros, mitigando o consumo de memória. Ele utiliza um esquema de Quantização Iterativa Perturbada por Ruído Gaussiano (GNP-IQ) para quantização de pesos em bits mais baixos, liberando memória para melhorar a capacidade de aprendizado e o desempenho da rede lateral.