GIGO (Garbage In, Garbage Out)
GIGO (Garbage In, Garbage Out) é a lei fundamental da computação aplicada à IA, afirmando que 'lixo entra, lixo sai': a qualidade do output reflete diretamente a qualidade do prompt de input. Prompts vagos ou mal estruturados geram respostas superficiais, alucinações ou irrelevantes, essencial para evitar decisões clínicas inadequadas.
Lei fundamental da computação aplicada à inteligência artificial: "lixo entra, lixo sai". O output da IA reflete diretamente a qualidade do prompt fornecido. Prompts vagos ou mal estruturados geram respostas superficiais, genéricas ou com alucinações (dados inventados), o que pode resultar em decisões clínicas inadequadas (Fonte 4). Essencial para a medicina segura, pois a IA não possui "bola de cristal" nem lê a mente do médico; ela processa estritamente o input dado (Fonte 4). Citado em Aula 3: prompts — a nova habilidade.
Definição Técnica e Fundamentação
O acrônimo GIGO (Garbage In, Garbage Out) designa a lei clássica da computação que estabelece: a qualidade do resultado (output) é diretamente proporcional à qualidade da entrada (input). Na prática com grandes modelos de linguagem (LLMs), um prompt mal formulado — vago, incompleto ou sem estrutura lógica — induz respostas imprecisas, alucinações ou irrelevantes para o contexto clínico (Fonte 4).
Cientificamente, os prompts atuam como sinais de condicionamento que modulam o comportamento da rede neural, injetando conhecimento prévio e restringindo o espaço de busca do modelo para focar em características relevantes e suprimir ruído (Fonte 4). Sem essa modulação, o modelo opera em modo probabilístico genérico, ampliando riscos em aplicações médicas como diagnósticos diferenciais ou elaboração de laudos.
No glossário técnico do curso: GIGO: Garbage In, Garbage Out (Lixo entra, lixo sai). Lei fundamental da computação aplicada à IA (Fonte 4).
Mecanismos de Impacto na Prática Clínica
A aplicação do GIGO na medicina decorre da natureza estatística dos LLMs: eles calculam probabilidades baseadas exclusivamente no prompt, sem consciência ou inferência autônoma além do fornecido (Fonte 4). Prompts ruins violam essa lei, gerando:
- Respostas superficiais: listas genéricas sem personalização ao paciente.
- Alucinações: invenção de dados ou referências ausentes no contexto.
- Falta de rastreabilidade: impossibilidade de auditar o raciocínio lógico da IA.
Exemplo ilustrativo do quadro comparativo (adaptado de demonstração prática):
| Pergunta Genérica (Ruim - GIGO Violado) | Pergunta Específica (Bom - GIGO Respeitado) |
|---|---|
| "O que pode ser massa hepática hipoecoica?"<br>(Input vago → Output irrelevante ou alucinado) | "Sou ultrassonografista (Persona). Paciente masculino, 58 anos, etilista há 30 anos. Achados: massa hipoecoica segmento VII, 3,5 x 3,2 cm, bordas irregulares, sem realce vascular (Contexto). Liste 10–15 diagnósticos diferenciais em ordem de probabilidade (Tarefa). Para cada: (1) Nome; (2) Características US; (3) Achados confirmatórios; (4) Próximo exame; (5) Urgência. Sem pediátricos (Restrição)"<br>(Input estruturado → Output clinicamente acionável) (Fonte 4) |
Essa estrutura segue o protocolo PCTR, combatendo o GIGO ao fornecer persona, contexto, tarefa e restrição/resultado (Fonte 4).
Aplicações Práticas e Limitações Reais
Cenários Clínicos Onde GIGO é Crítico
- Diagnóstico Diferencial: prompt vago ("quais as causas de dor no peito?") gera lista genérica; prompt PCTR + cadeia de pensamento assegura rastreabilidade e reduz alucinações em até 100% de eficácia em tarefas complexas (Fonte 4).
- Elaboração de Laudos: "escreva um laudo de RM de joelho" induz alucinações; few-shot com exemplos como "gabarito temporário" replica padrões institucionais (Fonte 4).
- Educação do Paciente: "explique diabetes" resulta em texto técnico; prompt com restrições (linguagem simples, 150 palavras) alinha ao letramento em saúde (Fonte 4).
Limitações e Riscos
- Fragilidade do Prompt: pequenas variações (voz ou texto) amplificam o GIGO, especialmente em prompts por voz com ruído ambiental ou transcrição imprecisa de termos técnicos (Fonte 4).
- Síndrome da Bola de Cristal: a expectativa de que a IA adivinhe intenções sem input detalhado agrava o problema (síndrome da bola de cristal) (Fonte 4).
- Dependência Humana: mesmo prompts ótimos exigem curadoria; a IA opera por probabilidade, não validação empírica (Fonte 4).
| Técnica Anti-GIGO | Descrição | Evidência Clínica | Limitação |
|---|---|---|---|
| Protocolo PCTR | Persona-Contexto-Tarefa-Restrição | Estrutura lógica para prompts médicos | Requer prática inicial |
| Cadeia de pensamento | Raciocínio passo a passo com rastreabilidade | Reduz alucinações em diagnósticos | Aumenta comprimento da resposta |
| Few-shot | Exemplos como gabarito | Precisão em laudos padronizados | Consome tokens na janela de contexto |
| Zero-shot | Comando direto | Tarefas simples | Falha em formatos personalizados (Fonte 4) |
Checklist para Mitigar GIGO na Rotina Médica
Antes de enviar prompt:
- Persona definida? (Ex.: "atue como radiologista sênior")
- Contexto clínico completo e anonimizado?
- Tarefa com verbo imperativo específico?
- Restrições de formato/output? (Fonte 4)
Após resposta:
- Rastreabilidade via CoT verificada?
- Alucinações ausentes? (Comparar com input original)
- Precisão clínica validada? (Fonte 4)
Integração com Conceitos Relacionados
GIGO interage com higiene de contexto (limpar histórico para evitar confusões) e metaprompting reflexivo (a IA constrói o prompt ideal). Em prompts por voz, combine com prompt por voz para agilidade, mas priorize texto para precisão (Fonte 4). Essencial no Médico Curador, onde o profissional audita outputs para soberania ética.
Para aprofundamento: comparação de prompts ruins, bons e ótimos demonstra GIGO em ação (Fonte 4).
Exemplos Aula 10: estudo Omar (2025) aceita 83% dados falsos; caso linfonodo (3 imagens alteram hipóteses); IA espelho da prática (Goh 2024: +2% acurácia). Disciplina prévia essencial.