hallucinations

16 items

ARTICLE↑ trendingHacker News (AI)·8h atrás

Trump's new AI order – hallucinations aren't just for LLMs

O artigo discute a nova ordem executiva de Trump sobre IA, traçando um paralelo entre as "alucinações" de modelos de linguagem grandes (LLMs) e certas declarações políticas. Ele explora as implicações da política governamental na IA e a percepção pública da verdade na era digital. A publicação questiona a consistência e a veracidade das informações emanadas de diferentes fontes, sejam elas tecnológicas ou políticas.

regulation AI policy hallucinations politics

RESEARCHarXiv CS.CL·20h atrás

Evaluating Hallucinations in Domain-Adapted Large Language Models

Este estudo investiga alucinações em Grandes Modelos de Linguagem adaptados a domínios específicos, focando no Llama-2 ajustado com o dataset Lamini. Verificou-se que a capacidade do modelo de raciocinar e recordar novas informações específicas do domínio é limitada, levando a alucinações e uma tendência à sobregeração.

Llama-2 hallucinations Domain Adaptation large language models

ARTICLE↑ trendingHacker News (AI)·14d atrás

OpenAI admits AI hallucinations are mathematically inevitable (Sept. 2025)

A OpenAI admitiu que as alucinações da IA não são apenas falhas de engenharia, mas são matematicamente inevitáveis, representando uma limitação fundamental dos modelos de IA atuais. Esta revelação desafia a percepção de que esses problemas podem ser totalmente eliminados com mais desenvolvimento.

limitations hallucinations mathematics AI

ARTICLE↑ trendingReddit r/MachineLearning·06/05/2026

Stop letting LLMs edit your .bib [D]

O autor expressa choque com a frequência de citações alucinadas por LLMs em artigos acadêmicos, resultando em listas de autores incorretas. Ele questiona a falta de respeito pela pesquisa e a necessidade de punições mais severas, perguntando se outros vivenciam o mesmo problema.

LLMs citations hallucinations AI ethics

RESEARCHarXiv CS.CL·07/05/2026

Not All That Is Fluent Is Factual: Investigating Hallucinations of Large Language Models in Academic Writing

Este estudo investiga as alucinações de LLMs (ChatGPT, Grok, Gemini, Copilot) na escrita acadêmica, utilizando 80 prompts em quatro categorias. Uma nova métrica ponderada, o Hallucination Index (HI), foi introduzida para medir a precisão factual e a validade das referências.

academic writing AI quality Model Evaluation hallucinations

RESEARCHarXiv CS.CL·19d atrás

Improving Quantized Model Performance in Qualitative Analysis with Multi-Pass Prompt Verification

Este estudo investiga como diferentes níveis de quantização afetam o desempenho do LLaMA-3.1 na análise qualitativa, observando que modelos de baixo bit frequentemente produzem alucinações. Propõe um método de verificação de prompt multipasse para reduzir alucinações e melhorar a precisão ao filtrar conteúdo não confiável.

model performance Qualitative Analysis LLMs hallucinations

RESEARCHarXiv CS.CL·20/04/2026

Why Fine-Tuning Encourages Hallucinations and How to Fix It

Modelos de linguagem grandes frequentemente alucinam fatos, um problema agravado pelo fine-tuning supervisionado (SFT) que degrada o conhecimento pré-treinado. Esta pesquisa propõe um método SFT baseado em autodestilação, inspirado na aprendizagem contínua, para mitigar alucinações regulando o desvio da distribuição de saída, enquanto adquire efetivamente novas informações factuais.

hallucinations large language models Fine-tuning Continual Learning

ARTICLEDEV.to AI·24d atrás

Your AI Agent Hallucinates Tailwind Classes. Here's the Fix

Agentes de IA frequentemente geram classes Tailwind CSS inexistentes por falta de contexto de configuração específico do projeto, resultando em "alucinações". A ferramenta tailwind-context-resolver-mcp é apresentada como uma solução para fornecer aos agentes conhecimento do sistema de design resolvido do projeto.

Tailwind CSS code generation hallucinations AI development

DOCDEV.to AI·06/05/2026

The "Logic Span": Using OpenTelemetry to Trace Hallucinations

Este conteúdo apresenta o método "Logic Span", que utiliza OpenTelemetry para rastrear e depurar alucinações em Grandes Modelos de Linguagem (LLMs). Ao encapsular cada "Pensamento" ou "Etapa de Raciocínio" em um Span OTel dedicado, os desenvolvedores podem identificar onde a lógica de um LLM se desvia do seu plano pretendido, tratando as alucinações como um rastreamento de pilha.

hallucinations observability Debugging OpenTelemetry

ARTICLEDEV.to AI·29d atrás

Prompt AI Coding Assistants to Build Production-Ready Agents: 8 Essential Patterns

Este artigo discute a importância de usar padrões essenciais ao solicitar que assistentes de codificação de IA criem agentes prontos para produção. Ao especificar decisões arquitetônicas, pode-se evitar falhas como alucinações e desperdício de tokens, que muitas vezes ocorrem silenciosamente até a produção.

prompt engineering code generation hallucinations AI development

RESEARCHarXiv CS.LG·28/04/2026

KARL: Mitigating Hallucinations in LLMs via Knowledge-Boundary-Aware Reinforcement Learning

KARL é um novo framework projetado para mitigar alucinações em grandes modelos de linguagem, permitindo-lhes abster-se apropriadamente de perguntas além de seu conhecimento. Ele faz isso através de uma Recompensa Sensível aos Limites do Conhecimento que estima dinamicamente o saber do modelo e uma Estratégia de Treinamento RL em Duas Etapas que previne a cautela excessiva.

reinforcement learning hallucinations AI safety LLM

RESEARCHarXiv CS.CL·20d atrás

Position: Uncertainty Quantification in LLMs is Just Unsupervised Clustering

Este artigo argumenta que os métodos atuais de Quantificação de Incerteza (UQ) para LLMs são, na verdade, algoritmos de agrupamento não supervisionado, medindo a consistência interna das gerações do modelo em vez da correção externa. Consequentemente, esses métodos falham em detectar "alucinações confiantes" e podem criar uma falsa sensação de segurança na implantação de LLMs em domínios de alto risco.

LLMs Uncertainty Quantification hallucinations AI safety

ARTICLEDEV.to AI·02/05/2026

RAG Series (1): Why LLMs Need External Memory

Este artigo explica que as alucinações e a limitação de conhecimento dos LLMs derivam de sua memória ser congelada no momento do treinamento. Isso impede o acesso a dados recentes ou internos, forçando-os a inventar respostas ou admitir ignorância.

LLMs AI limitations RAG hallucinations

ARTICLEDEV.to AI·24d atrás

Day 27: What GPT-4 Hallucinating 'Amritavati' Taught Me About Building Health AI for India

A experiência com o GPT-4 alucinando um medicamento fictício, "Amritavati", ressalta os perigos de simplesmente traduzir IA para a saúde na Índia. O projeto GoDavaii busca desenvolver uma IA de saúde que compreenda as nuances culturais e linguísticas indianas, verificando remédios caseiros e adaptando-se a diversas expressões de sintomas.

India Healthcare language hallucinations

ARTICLEDEV.to AI·10/04/2026

Citation Needed: Structured data extraction workflows

Este artigo explora a construção de um fluxo de trabalho utilizando modelos de linguagem generativos para verificar se um texto fornece evidências para suas afirmações, útil para auto-crítica ou detecção de alucinações. A tarefa exige um grau de compreensão de leitura e rigor que apenas modelos de linguagem maiores e de fronteira podem abordar, superando as capacidades de pipelines de PNL tradicionais.

structured data LLMs Workflow hallucinations

ARTICLEDeepLearning.AI (YouTube)·27d atrás

Why AI keeps lying to you

O artigo explora por que os modelos de IA, especialmente os grandes modelos de linguagem, frequentemente produzem informações imprecisas ou fabricadas. Explica que este fenômeno, muitas vezes chamado de "alucinação" ou "mentira", decorre da sua natureza probabilística e dos dados de treinamento, e não de um engano deliberado.

AI accuracy AI limitations hallucinations