Hallucination

O que é

No contexto da Inteligência Artificial Generativa, uma alucinação ocorre quando o modelo produz uma resposta que parece coerente e gramaticalmente correta, mas que é pura ficção. Não se trata de uma opinião ou de um erro de ortografia; é uma falha de base factual. O modelo "inventa" nomes de leis, datas históricas, características técnicas de produtos ou até referências bibliográficas que nunca existiram.

Para uma PME, este é o risco número um na implementação de IA voltada para o cliente. Diferente de um erro de cálculo num software tradicional (onde 2+2 pode dar 5 por erro de lógica), na IA a alucinação é uma consequência da natureza probabilística dos modelos: eles tentam prever a próxima palavra mais provável, e não consultar uma base de dados da verdade absoluta.

Como funciona

Os Large Language Models (LLMs) são treinados para serem excelentes imitadores da linguagem humana, não enciclopédias verificadas. Quando um modelo alucina, ele está a seguir padrões estatísticos. Se perguntar algo para o qual o modelo não tem dados específicos no seu treino, ou se a janela de contexto for confusa, o sistema prefere dar uma resposta plausível (estatisticamente provável) do que admitir que não sabe.

Existem dois tipos principais de alucinações:

1. Intrínsecas: A resposta contradiz as instruções fornecidas pelo utilizador.
2. Extrínsecas: A resposta introduz factos externos falsos que não podem ser verificados pelos dados de treino.

A temperatura (parâmetro de criatividade) do modelo influencia a frequência destas ocorrências. Temperaturas elevadas aumentam a probabilidade de alucinações, pois o modelo é incentivado a ser menos previsível.

Quando usar

Apesar de ser um termo negativo, entender a alucinação é fundamental quando desenhamos sistemas de IA. Devemos ter este conceito em mente sempre que a precisão factual é crítica. O foco não é "usar" a alucinação, mas sim implementar estratégias para a mitigar.

A melhor forma de combater este fenómeno em ambiente empresarial é através de RAG (Retrieval-Augmented Generation). Em vez de deixar a IA responder com base no que "sabe" do seu treino público, o sistema é obrigado a consultar documentos específicos da empresa (PDFs de produtos, manuais de RH, histórico de vendas) antes de gerar a resposta. Isto ancora o modelo à realidade factual da organização.

Erros comuns

O erro mais frequente em empresas portuguesas é o excesso de confiança. Um gestor testa a ferramenta três vezes, obtém respostas certas e assume que o sistema é infalível. Isto leva à automatização de processos sem supervisão humana (Human-in-the-loop).

Outro erro é o vácuo de contexto. Pedir à IA para analisar os resultados trimestrais sem fornecer os ficheiros de suporte é um convite direto à alucinação. O modelo tentará projetar números baseados em tendências genéricas do mercado, e não na realidade financeira da empresa.

Por fim, confundir criatividade com verdade. Se pedir à IA para escrever um slogan de marketing, a "alucinação" (inventar cenários) é desejável. Se lhe pedir para ler um contrato jurídico, a mesma característica torna-se um risco operacional inaceitável.

Exemplo prático para uma PME

Imagine uma imobiliária no Algarve que implementa um chatbot para responder a dúvidas de clientes estrangeiros sobre legislação fiscal e licenciamento. Sem as devidas salvaguardas, um cliente pergunta: "Posso construir um anexo neste terreno em zona protegida?".

O modelo de IA, querendo ser útil e prestativo, pode responder: "Sim, de acordo com o Artigo 45-B do Regime de Urbanização, anexos até 20m² não precisam de licença". O problema? O Artigo 45-B não existe com esse teor ou aplica-se a outra região. A imobiliária acaba de prestar um aconselhamento falso que pode resultar em multas pesadas para o cliente e danos reputacionais irreversíveis para a agência.

Solução: Limitar o chatbot a responder apenas com base numa base de dados legal curada e configurar a instrução de sistema (system prompt) para dizer: "Se não encontrares a resposta nos documentos fornecidos, diz apenas que deves consultar o nosso departamento jurídico".

Perguntas frequentes

Q: Posso eliminar 100% das alucinações? R: Não totalmente. Pode reduzi-las significativamente (para valores próximos de zero) usando técnicas como RAG e Guardrails, mas a natureza probabilística da IA mantém sempre um risco residual mínimo.

Q: Alucinar é o mesmo que mentir? R: Não. Mentir pressupõe intenção de enganar. A IA não tem consciência nem intenção; ela apenas gera a sequência de palavras que estatisticamente parece correta após a sua pergunta.

Q: Usar modelos mais caros (como GPT-4) resolve o problema? R: Modelos mais robustos tendem a alucinar menos porque têm melhor capacidade de raciocínio, mas ainda assim cometem erros. A inteligência do modelo não substitui a necessidade de boas fontes de dados.

Q: Como posso detetar uma alucinação automaticamente? R: Através de ferramentas de observabilidade e frameworks de avaliação (evals) que comparam a resposta gerada com a fonte original para verificar a fidelidade dos dados.

• 01IA inventa um código de cupão de 50% de desconto que nunca existiu no sistema da loja.
• 02Um assistente jurídico cita um acórdão do Supremo Tribunal que tem um número de processo falso.
• 03O chatbot de apoio técnico inventa uma funcionalidade num software que a empresa ainda não desenvolveu.
• 04A IA gera uma biografia de um sócio da empresa atribuindo-lhe prémios que ele nunca recebeu.

Quer usar Hallucination na sua empresa?

30 minutos, gratuito, sem compromisso. Dizemos onde encaixa.

Diagnóstico IA gratuito