Descubra quando a inteligência artificial 'inventa' e engana até os mais atentos

Alucinação é quando a IA responde com confiança algo que parece certo, mas está totalmente errado (Adobe Stock)

Sabe aquela conversa fiada tão bem contada que quase convence? A inteligência artificial (IA) também sabe fazer isso e faz com estilo. Com vocabulário técnico e pose de especialista, ela solta respostas que parecem verdades absolutas. Mas, às vezes, está só... inventando.

Clique aqui para seguir o canal de A Tribuna no WhatsApp!

Esse truque tem nome: alucinação. É quando a IA responde com confiança algo que parece certo, mas está totalmente errado. E não é qualquer erro. São respostas redondinhas, cheias de dados e até citações que soam legítimas, mas tudo saiu da cabeça dela.

A OpenAI, dona do ChatGPT, ao lançar o GPT-4.5, no mês de fevereiro, reportou que sua taxa de alucinação foi de 37,1% em questões factuais simples. Como isso acontece? Simples. Esses sistemas foram treinados para prever a próxima palavra mais provável com base em um modelo matemático. Eles apenas repetem padrões. Quando pressionados por perguntas difíceis, inventam. E fazem isso com uma confiança que pode enganar qualquer um.

No fim, a IA é como um GPS confuso: quando não sabe o caminho, ela te leva para um lugar qualquer com convicção. Você até acredita que está no rumo certo... Até dar de cara com um muro.

Enquanto o uso da IA só cresce, a prática de checar o que ela diz ainda está engatinhando. E o segredo para evitar essas derrapadas começa antes mesmo da resposta: no jeito de perguntar. Um prompt claro, direto e bem construído aumenta (e muito) a chance de vir algo certeiro. Prompt é o termo usado para descrever o comando, pergunta ou instrução que você envia para a IA. E ele funciona como um mapa: quanto mais claro, direto e bem estruturado for, menor a chance de a IA se perder pelo caminho.

Prompts vagos ou ambíguos abrem espaço para que a IA “complete” com base em suposições. E é aí que mora o perigo: ela pode preencher essas lacunas com informações falsas, mas apresentadas com convicção.

Mas não adianta parar por aí. O conteúdo que a IA entrega precisa ser revisado com cuidado. Não basta só “dar uma lida”. Tem que checar datas, nomes, fontes, coerência e ver se aquilo realmente responde ao que foi pedido. A IA fala bonito, mas não tem bússola moral nem detector de mentira embutido. Ela acerta ou erra com o mesmo charme.

É por isso que especialistas defendem o tal do “human-in-the-loop” que nada mais é que a revisão feita por gente de carne e osso antes de qualquer uso sério. Empresas já adotam isso, e na educação, virou exercício de pensamento crítico.

Resumindo? Revisar o que a IA produz não é luxo, é necessidade. Publicar sem revisar é como soltar um rascunho na imprensa arriscado e pouco profissional. Num mundo onde até as mentiras vêm bem embaladas, a revisão é o filtro que separa o fato da ficção.

E você, já está afiado o suficiente para reconhecer quando uma informação só parece certa, mas na verdade está completamente errada?