O que é alucinação de IA?
Alucinação de IA é uma afirmação produzida por um sistema de IA que soa segura e fluente, mas não é sustentada pela fonte que ele deveria seguir. Pode ser um número errado, um detalhe inventado ou uma conclusão que o documento nunca declara. A resposta lê bem, e é justamente por isso que pode ser aceita com facilidade demais.
Como funciona
Os modelos de linguagem geram texto prevendo o que provavelmente vem a seguir, e não consultando factos numa tabela. Quando o documento contém a resposta, a previsão costuma ser boa. Quando o texto é confuso, longo, mal digitalizado ou silencia sobre a pergunta, o sistema pode preencher a lacuna com algo plausível em vez de dizer que não sabe. As alucinações são mais prováveis com perguntas que vão além do ficheiro, com números que precisam ser combinados e com documentos cujo texto foi mal reconhecido, já que um erro de OCR pode ser repetido como se fosse facto. Elas não indicam que a ferramenta esteja com defeito. São uma propriedade conhecida desse tipo de tecnologia, e por isso a boa prática é manter a resposta ligada à sua fonte.
Por que importa
Um resumo ou uma resposta costuma servir para decidir se vale ler, assinar ou agir. Se contiver uma cláusula inventada ou uma data errada, o erro pode seguir para um correio eletrónico, um relatório ou uma decisão sem que ninguém perceba. O risco é maior onde a precisão importa: contratos, processos clínicos, contabilidade e documentos de conformidade. Um bom hábito é tratar a saída como um guia de onde olhar, pedir a página ou o trecho de onde veio cada afirmação e abrir essa página antes de citar qualquer coisa. Perguntas específicas, com resposta verificável, dão resultados melhores do que pedidos abertos de opinião.
Como o AuraDoc ajuda
O Resumir PDF e o Conversar com PDF trabalham a partir do ficheiro carregado por si e entregam um resultado novo, sem alterar o original. Utilize-os para se orientar num documento longo e depois abra as páginas apontadas para confirmar os detalhes. O Comparar PDF ajuda a conferir duas versões de um texto, e as respostas devem sempre ser lidas ao lado da fonte antes de confiar nelas.
Ferramentas que usam este termo
Guias que põem o termo em prática
Perguntas frequentes
- É possível impedir que uma IA erre?
- Não. É possível reduzir o risco com perguntas claras e específicas e uma camada de texto limpa, mas toda afirmação importante deve ser conferida no documento.
- Um ficheiro digitalizado piora o quadro?
- Pode piorar. Se o texto foi mal lido pelo OCR, o erro pode ser repetido na resposta. Melhore o digitalização ou corrija o texto antes.
- Como verifique uma resposta rapidamente?
- Pergunte de onde no documento vem a afirmação, vá até essa página e leia o próprio a redação original.