InícioGlossário › Alucinação de IA (AI Hallucination)
Glossário

O que é Alucinação de IA (AI Hallucination)?

Alucinação de IA é quando um modelo de linguagem produz uma resposta factualmente incorreta com tom confiante — inventando dados, referências, datas ou pessoas que não existem. O termo vem do comportamento humano de perceber coisas que não estão lá. Em IA, o modelo não 'sabe' que está errando: ele prediz a sequência de palavras mais estatisticamente plausível, mesmo quando essa sequência não corresponde à realidade.

O que é alucinação de IA: definição técnica

Alucinação de IA (do inglês AI hallucination) é uma falha de modelos de linguagem em que o sistema gera informação incorreta, inexistente ou distorcida com aparência de veracidade. O modelo não sinaliza dúvida — entrega a informação errada com a mesma confiança que entregaria uma correta.

A causa técnica está na arquitetura dos LLMs: eles funcionam por predição estatística. Quando confrontados com uma pergunta para a qual não têm resposta segura nos dados de treinamento, tendem a completar a resposta com o que estatisticamente 'soa mais verdadeiro' — mesmo que seja falso.

Exemplos reais de alucinação documentados

O caso mais famoso aconteceu em 2023 em Nova York. Um advogado usou ChatGPT para pesquisar precedentes jurídicos e apresentou ao juiz casos que o modelo simplesmente havia inventado — nomes de processos, números, datas e até trechos de decisões inexistentes. O juiz percebeu. O advogado foi penalizado. O episódio se tornou referência sobre os riscos de usar IA sem verificação.

Outros exemplos comuns: chatbot que inventa receita ou número de funcionários de uma empresa, IA que cita artigo científico que não existe, modelo que descreve com detalhes um produto que nunca foi lançado.

Tipo de alucinaçãoExemploRisco
Referência jurídica inventadaCitar caso de tribunal que não existeAlto — pode comprometer peça processual
Dado numérico falsoInventar receita ou estatística de empresaAlto — decisões de negócio baseadas em dado errado
Artigo científico inexistenteCitar pesquisa com título e DOI inventadosAlto — uso em trabalho acadêmico ou relatório médico
Fato histórico distorcidoData ou nome errado em contexto históricoMédio — desinformação
Recurso de produto inexistenteDescrever funcionalidade que o app não temMédio — frustração de usuário

Por que os LLMs alucinam

LLMs não 'sabem' o que é verdade — eles sabem o que é estatisticamente plausível dado o texto de treinamento. Quando a pergunta está fora do que foi bem coberto no treinamento, o modelo pode completar a resposta com padrões que soam certos mas não correspondem à realidade.

Outro fator: a pressão para 'responder'. Modelos treinados com RLHF (feedback humano) aprendem que respostas completas e confiantes recebem melhor avaliação. Isso pode criar incentivo para completar lacunas com informações inventadas em vez de admitir incerteza.

Como identificar e reduzir alucinações

Modelos diferentes têm perfis de alucinação diferentes. Claude tende a sinalizar incerteza mais explicitamente ('não tenho certeza', 'isso pode ter mudado'). ChatGPT às vezes entrega informação incorreta com tom mais confiante. Perplexity cita fontes em cada resposta, o que facilita verificação.

Práticas para reduzir o risco: pedir ao modelo para citar fontes e verificar as citações manualmente; nunca usar IA como única fonte para fatos críticos; fazer perguntas de verificação ('você tem certeza disso?') — modelos bem alinhados vão recuar quando pressionados sobre dados incertos; preferir modelos com acesso à web para perguntas que exigem dados em tempo real.

Perguntas frequentes

Todos os modelos de IA alucinam?
Sim — em graus diferentes. É uma limitação da arquitetura atual dos LLMs, não de uma marca específica. ChatGPT, Claude, Gemini e outros todos podem alucinar. O que varia é a frequência, o tipo de tarefa em que acontece mais e a tendência do modelo de sinalizar incerteza antes de errar.
Como saber se o ChatGPT está inventando?
Peça para citar as fontes específicas e verifique manualmente. Faça perguntas de verificação: 'Você tem certeza? Pode confirmar a fonte?'. Para dados críticos (jurídico, médico, financeiro), nunca confie só na resposta da IA — verifique nas fontes primárias.
Alucinação é o mesmo que mentira?
Não. Mentira implica intenção — o LLM não 'sabe' que está errando. O modelo está fazendo o que foi treinado para fazer: produzir texto plausível. O problema é que 'plausível' e 'verdadeiro' são conceitos diferentes, e o modelo não distingue um do outro da forma que um humano distinguiria.
Alucinação vai ser resolvida no futuro?
Reduzida, não eliminada — pelo menos com as arquiteturas atuais. Técnicas como RAG (Retrieval-Augmented Generation) ajudam a ancorar respostas em fontes verificadas. Acesso à web em tempo real reduz alucinações sobre fatos recentes. Mas a tendência de preencher lacunas com padrões estatísticos é estrutural nos LLMs atuais.

Termos relacionados

← Ver glossário completo