Alucinação em IA

Fenômeno observado em grandes modelos de linguagem onde a IA gera dados, referências ou informações inventadas com fluidez linguística convincente, criando uma ilusão de precisão factual. Isso ocorre porque a confiança sintática (coerência gramatical e estilística derivada do treinamento em padrões linguísticos massivos) não equivale à confiança semântica (aderência à verdade empírica ou evidências clínicas). No contexto médico, esse risco compromete a integridade de outputs como diagnósticos diferenciais, interpretações de exames ou revisões bibliográficas, demandando letramento em IA rigoroso e o papel central do médico curador. Verifique sempre: o julgamento clínico final e a responsabilidade ética residem exclusivamente no profissional humano, conforme enfatizado no ecossistema de LLMs, que não possui uma "melhor IA" universal, mas especializações funcionais integradas em fluxos colaborativos.

Mecanismos Técnicos Subjacentes

A alucinação não é defeito de fabricação: é consequência direta de como o modelo funciona. Um grande modelo de linguagem gera texto prevendo o próximo token mais provável a partir de distribuições aprendidas em corpora não verificados — nunca consultando um banco de fatos. Três limitações concretas alimentam o fenômeno:

• Treinamento em dados não curados: LLMs mimetizam funções cognitivas humanas (aprendizado e resolução de problemas), mas baseiam-se em padrões estatísticos de vastos datasets, propensos a vieses, lacunas ou contradições, levando a generalizações espúrias.
• Janela de contexto limitada: Quando o prompt excede a capacidade de retenção (ex.: Claude® com janelas maiores vs. modelos iniciais), a IA "preenche lacunas" com padrões aprendidos, gerando conteúdo plausível mas fictício.
• Ausência de raciocínio verificável: Diferente da computação tradicional (regras fixas), as LLMs priorizam fluidez sobre validação interna, exacerbando discrepâncias semânticas.

Esses mecanismos reforçam a necessidade de arquitetura colaborativa: a IA entra como ferramenta especializada, com o médico como curador da informação.

Riscos na Prática Médica

Na medicina, alucinações representam ameaça direta à segurança do paciente, especialmente em tarefas de alto risco, pois a IA gera dados inventados ou incorretos que não constavam no contexto fornecido. Prompts mal estruturados ou vagos resultam em respostas superficiais, alucinações ou decisões clínicas inadequadas, conforme a lei GIGO ("lixo entra, lixo sai"). A IA opera por modelagem probabilística da linguagem, não por validação clínica empírica, podendo gerar hipóteses incorretas com alta plausibilidade discursiva ou inferência causal inadequada.

• Diagnósticos: Geração de hipóteses diferenciais com referências bibliográficas falsas (ex.: citação de estudos inexistentes sobre terapias), como em prompts ruins: "Quais as causas de dor no peito?" viola o GIGO e gera lista irrelevante ou inventada.
• Interpretação de dados clínicos: Sugestões terapêuticas baseadas em correlações espúrias, ignorando a multimodalidade de imagens ou exames laboratoriais; alucinação visual pode identificar padrões inexistentes em imagens.
• Fluxo de dados: Risco amplificado em ecossistemas integrados (ex.: Google® com Gemini®), onde outputs não verificados propagam erros, especialmente sem anonimização sob LGPD ou HIPAA.

Não existe uma "melhor IA" universal: há especializações funcionais que se integram a fluxos de trabalho clínicos como uma arquitetura colaborativa, com o médico atuando como curador da informação. O julgamento clínico final e a responsabilidade ética dependem exclusivamente do profissional humano.

Exemplos em Modelos Comerciais

Todos os quatro grandes modelos comerciais exibem risco de alucinação, variando por especialização funcional. Mitigue com cadeia de pensamento (quebra em passos lógicos para expor inconsistências) e médico curador. Veja tabela comparativa detalhada em comparação Claude × ChatGPT® × Gemini × Grok®.

Exemplo prático: um prompt simples como "Diagnóstico para dor torácica em idoso" pode gerar "Infarto agudo do miocárdio, ref. estudo X" — onde "estudo X" simplesmente não existe. Mitigação: Aplique cadeia de pensamento ("Liste sintomas → Diferenciais → Evidências → Referências reais").

Estratégias de Mitigação Práticas

Adote o paradigma do médico curador, com checklist adaptado. A engenharia de prompts combate alucinações por estrutura lógica, reduzindo o efeito GIGO e a síndrome da bola de cristal. Combinar cadeia de pensamento com role prompting reduz bastante a taxa de invenção em temas complexos — mas nenhuma combinação a zera.

1. Pré-prompt: Defina "Responda apenas com fatos verificáveis; cite fontes reais." ou "Use apenas o texto colado abaixo; não invente referências". Configure memória do modelo: "Se não souber, escreva [carece de fontes] ou [provável especulação]".
2. Cadeia de pensamento: Estruture prompts em etapas (ex.: "Pense passo a passo: 1. Analise dados; 2. Liste evidências; 3. Conclua."), induzindo rastreabilidade, reduzindo alucinações drasticamente ao expor etapas intermediárias.
3. Protocolo PCTR: Persona (ex.: "Atue como cardiologista sênior"), Contexto (dados clínicos), Tarefa (verbos imperativos), Restrição (ex.: "Proibido inventar referências; formato tabela").
4. Few-shot e zero-shot: forneça exemplos como "gabarito temporário" para formatos rígidos, evitando invenções em laudos.
5. Pós-output: Verifique referências em PubMed/bases clínicas; teste multimodalidade se aplicável; checklist: a rastreabilidade está visível? A precisão foi conferida? Sobrou alguma alucinação?
6. Higiene de contexto: Novo chat por paciente para evitar mistura e alucinações.
7. Infraestrutura: rodar o modelo localmente em hardware NVIDIA® (ascensão da NVIDIA) mantém o dado do paciente dentro da instituição — vantagem de privacidade, não de precisão. A alucinação é do modelo, e acompanha ele para onde for.
8. Integração ética: Monitore perfis médicos (cinco perfis médicos); evite os "deslumbrados" sem curadoria.

Checklist de segurança e ética médica:

• Anonimização: Substitua nomes/CPFs por rótulos.
• Rastreabilidade: CoT presente? Siga o fio da meada lógico.
• Validação: Verifique alucinações (dados inventados).

Limitações reais: Nenhuma estratégia elimina 100% o risco, pois LLMs são probabilísticas. Foque em Aula 2: Modelos Comerciais para escolhas estratégicas e na Aula 1: Introdução à IA para Médicos para o letramento basal.

Causas e Prevenção

Prompts vagos violam GIGO, gerando alucinações por preenchimento de lacunas ou falta de contexto. Prevenção: Protocolo PCTR, cadeia de pensamento para rastreabilidade, higiene de contexto. Exemplos em diagnósticos e laudos de Aula 3: Prompts.

Mitigação: "use apenas o texto colado", "[carece de fontes]" em prompts; revisão obrigatória em documentos clínicos. O role prompting limita o domínio da resposta, reduzindo invenções.

Referências

• Ji Z, Lee N, Frieske R, et al. Survey of hallucination in natural language generation. ACM Computing Surveys 2023; 55: 1–38.
• Sinsky C, Colligan L, Li L, et al. Allocation of physician time in ambulatory practice. Annals of Internal Medicine 2016; 165: 753–760.
• Curso Medicina com IA — Instituto Carlos Stéfano / Xdiag Tecnologias, 2026.

Relacionadas

• Grandes Modelos de Linguagem — onde o fenômeno aparece.
• Médico Curador — quem audita a saída antes de assiná-la.
• GIGO — a entrada ruim que multiplica a invenção.
• Cadeia de Pensamento — expõe o raciocínio para auditoria.
• Síndrome da Bola de Cristal — delegar ao modelo o que ele não pode saber.
• Human-in-the-Loop — o princípio que torna o uso clínico defensável.