Perguntas a um chatbot uma data, um nome, uma referência bibliográfica. A resposta chega em segundos, bem escrita, cheia de detalhes concretos e sem qualquer hesitação.
E está completamente errada.
Este fenómeno tem nome: alucinação. E, ao contrário do que a palavra sugere, não é um erro aleatório nem um defeito técnico que vai desaparecer com a próxima atualização.
Porque é que a inteligência artificial continua a inventar respostas com tanta confiança?
Não é um erro técnico. É um exame mal desenhado
Um estudo publicado pela própria OpenAI em 2025 mudou a forma como se entende este problema.
Os investigadores compararam os modelos de linguagem a um aluno perante um teste de escolha múltipla.
Quando não sabe a resposta, um aluno esperto arrisca uma opção. Uma resposta errada e uma resposta em branco valem exatamente o mesmo: zero pontos. Arriscar nunca custa mais do que admitir que não sabe.
É exatamente assim que a maioria dos sistemas de avaliação de IA funciona.
Os modelos aprendem a apostar, não a ser honestos
Segundo a OpenAI, nove em cada dez dos principais testes usados para avaliar modelos de linguagem recompensam uma resposta errada da mesma forma que recompensam um “não sei”: com zero pontos.
O resultado é previsível. Um modelo treinado para maximizar a pontuação aprende que arriscar compensa sempre, mesmo quando a probabilidade de acertar é baixa.
Dizer “não sei” deixou de ser uma opção racional para o sistema, mesmo quando seria a resposta mais honesta.
Quando a fantasia tem consequências reais
Em 2024, um tribunal canadiano condenou a Air Canada a reembolsar um passageiro depois de o chatbot da empresa ter inventado uma política de tarifas de luto que nunca existiu.
A companhia tentou argumentar que não podia ser responsabilizada pelas palavras do próprio chatbot. O tribunal discordou: um sistema automático continua a ser parte do site da empresa, informação inventada incluída.
O caso tornou-se uma referência sobre um problema que já não é apenas académico.
Algumas alucinações talvez nunca desapareçam
A investigação da OpenAI aponta ainda para um limite estrutural. Há factos que aparecem uma única vez nos dados de treino, como a data de nascimento de uma pessoa pouco conhecida.
Para esse tipo de informação rara, sem padrão que o modelo possa generalizar, algum nível de erro é praticamente inevitável, por melhor que seja o modelo.
Como te podes proteger
- confirma sempre datas, nomes e números concretos numa segunda fonte;
- pede ao modelo para explicar o raciocínio por trás da resposta, o que muitas vezes revela a fragilidade da informação;
- desconfia especialmente de respostas muito específicas sobre temas pouco divulgados;
- lembra-te de que a fluência do texto não é garantia de rigor.
Porque isto vai continuar a ser relevante
A confiança com que um sistema de IA responde não diz nada sobre se a resposta está certa.
Perceber isto não é motivo para deixar de usar estas ferramentas. É motivo para as usar com o mesmo espírito crítico que aplicarias a qualquer fonte que nunca admite não saber.
