Una investigación sobre MiniMax-M2.7 GGUF encontró que los NaNs en la perplejidad afectan al 21-38% de los GGUF en Hugging Face. El problema se atribuyó a desbordamientos en llama.cpp, específicamente en `blk.61.ffn_down_exps` para cuantificaciones Q5_K y Q4_K, y el equipo corrigió los suyos.
O autor critica a ineficácia dos detectores de IA existentes e descreve a construção de uma ferramenta própria, baseada em métricas estatísticas e sinais de nível de frase. Ele argumenta que, embora citadas, perplexidade e burstiness são insuficientes, pois LLMs modernos como GPT-4 produzem textos com altos valores para essas métricas.
El artículo aclara que varias herramientas de investigación de IA, como NotebookLM, Elicit, Consensus y Perplexity, no compiten por el mismo trabajo, sino que sirven a diferentes etapas de un flujo de trabajo de investigación. Perplexity es útil para el mapeo inicial de temas, mientras que Elicit es más adecuada para encontrar y filtrar artículos académicos.
Este artigo explica como os detectores de texto de IA funcionam, analisando a previsibilidade do texto gerado por modelos de linguagem. Ele detalha que textos humanos são estatisticamente mais imprevisíveis e que os detectores exploram essa diferença usando sinais como perplexidade e 'burstiness'.
Este artículo propone un método basado en la perplejidad para descubrir los objetivos de ajuste fino en grandes modelos de lenguaje, especialmente en "organismos modelo". El método aprovecha la sobregeneralización de los modelos para identificar sus comportamientos de ajuste fino sin necesidad de suposiciones previas.
Este artigo apresenta o Focus, um método inovador que aprende quais pares de tokens são relevantes em mecanismos de atenção, em vez de aproximar todos. Ele melhora a perplexidade do domínio e oferece até 2x de aceleração na inferência, superando a atenção completa em diversas escalas e arquiteturas.
El texto aclara que Perplexity y ChatGPT no son competidores, sino herramientas complementarias usadas por usuarios avanzados. Perplexity es un motor de respuestas para investigación y hechos verificables, mientras que ChatGPT es un modelo de lenguaje para razonamiento, codificación y generación creativa.
Samsung está fazendo um movimento estratégico ao integrar inteligência artificial agêntica, em parceria com a Perplexity, diretamente em seus navegadores. Isso sugere uma evolução significativa na forma como os usuários interagem com a tecnologia de IA no dia a dia.