Por que a IA tem alucinações?

É uma resposta errada confiante, não um erro que o modelo consiga sinalizar

O modelo não tem um modo separado de "não sei" para o qual recorrer. Toda resposta, certa ou errada, vem do mesmo processo de prever o próximo token, então uma citação inventada ou um método de API que não existe soam com a mesma confiança fluida de uma resposta correta. É isso que diferencia a alucinação de um bug de software comum — nenhuma exceção é lançada, nenhum sinal é acionado, não há nada para capturar. O resultado parece igualmente confiável, esteja certo ou errado.

Por que acontece: previsão, não consulta

Um modelo de linguagem é treinado para prever continuações plausíveis de texto, aprendidas a partir de padrões nos seus dados de treinamento. Ele não guarda fatos numa forma recuperável e verificável como faria um banco de dados — guarda a forma estatística da linguagem, incluindo os fatos comuns o bastante no treinamento para moldar essa forma. Quando um prompt pede algo que o modelo viu raramente, de forma inconsistente, ou nunca viu, o modelo não deixa de responder; produz a continuação mais plausível mesmo assim, porque é a única coisa que sabe fazer.

Isso também explica por que a alucinação piora com detalhes específicos, raros ou recentes — um caso judicial que soa real mas é inventado, um número de versão plausível mas errado, uma citação que soa como o título de um artigo de verdade. Quanto mais específica a afirmação, maior a chance de o modelo estar preenchendo uma lacuna com algo apenas plausível, não algo conhecido.

O grounding estreita a lacuna; não a fecha

Colocar um texto-fonte real diante do modelo antes de ele responder — a recuperação, veja o que é RAG — reduz de forma mensurável a alucinação em perguntas que essas fontes realmente cobrem, porque o modelo consegue reformular o que acabou de ler em vez de prever só a partir dos dados de treinamento. Mas é uma tendência forte, não uma garantia: se a recuperação não retornar nada útil, ou as fontes estiverem incompletas, o modelo ainda pode responder com fluidez a partir da memória em vez de admitir que as fontes não ajudaram.

Cruzar modelos é um filtro, não uma cura

Fazer a mesma pergunta a vários modelos e comparar as respostas captura alucinações específicas do treinamento ou das particularidades de um modelo — se só um entre três modelos inventa um detalhe, esse desacordo é um sinal. Não captura uma alucinação que a maioria dos modelos compartilha, porque os dados de treinamento se sobrepõem entre provedores. O mesmo limite vale para usar um modelo à parte como juiz para pontuar uma resposta: um modelo juiz pode ser enganado pelo mesmo tipo de texto fluido, confiante e errado que deveria checar.

O que realmente reduz a alucinação, na prática

Nenhuma técnica sozinha elimina a alucinação, porque é uma propriedade de como esses modelos geram texto, não um defeito específico de um modelo ou provedor. O que ajuda de forma mensurável é restringir a tarefa do modelo: ancorar as respostas em texto-fonte recuperado para perguntas que essas fontes cobrem, manter as solicitações específicas em vez de abertas, e tratar as citações, números e detalhes específicos do próprio modelo como afirmações a verificar, não como fatos já checados. Combinar técnicas — grounding, cruzamento de modelos e verificação contra uma fonte — reduz mais a margem de erro do que qualquer uma delas isolada.

Por que baixar a aleatoriedade não resolve

É comum supor que baixar a temperatura (veja temperatura e top-p) torna um modelo mais fiel à verdade, porque o resultado parece mais cauteloso e determinístico. A temperatura controla como o modelo amostra entre os próximos tokens prováveis — não muda o que o modelo sabe nem adiciona uma etapa de checagem de fatos. Um modelo pode ter alucinações na temperatura zero com a mesma confiança que na temperatura um; um ajuste mais baixo só faz com que ele alucine a mesma resposta errada com mais constância.

Perguntas frequentes

Dá para corrigir a alucinação por completo?

Não, não com as arquiteturas atuais de modelos de linguagem. Ela vem de como esses modelos geram texto — prever continuações plausíveis em vez de checar fatos —, então pode ser reduzida com grounding, cruzamento de modelos e verificação, mas não eliminada como categoria.

Um modelo maior ou mais novo tem menos alucinações?

Geralmente menos em conhecimento comum, porque uma parte maior dele estava bem representada no treinamento. Isso não elimina o mecanismo de base — um modelo mais novo ainda pode ter alucinações confiantes em detalhes raros, específicos ou recentes para os quais não foi bem treinado.

Alucinação é o mesmo que o modelo mentir?

Não. Mentir pressupõe conhecer a verdade e afirmar o contrário. O modelo não tem um canal separado para "a verdade" com o qual comparar sua saída — ele gera a continuação estatisticamente mais plausível, seja ela precisa ou não.

Dar os próprios documentos ao modelo interrompe a alucinação?

Reduz bastante em perguntas que esses documentos realmente respondem, porque o modelo consegue reformular texto recuperado em vez de prever só a partir dos dados de treinamento. Não impede o modelo de responder com fluidez a partir da memória quando a recuperação não encontra nada relevante.