Protocolo de Resposta ao Erro

Em uma frase

O Protocolo de Resposta ao Erro é o procedimento padronizado de 5 passos para tratar erros da IA como dados clínicos — registrando, analisando causa, reformulando prompt, documentando aprendizado e impedindo sobregeneralização (Carneiro MS, Carvalho PHC e Massucatti Neto A, 2026). É a ferramenta operacional que impede a sobregeneralização ("se a IA errou uma vez, não serve para nada") de matar a adoção da Aula 5.

A tese — erro detectado é prova de sucesso do sistema

A apostila inverte a lógica intuitiva: quando o médico detecta um erro da IA, isso não é falha do sistema — é prova de que ele está funcionando:

"Na verdade, o erro detectado é prova de sucesso do sistema, ou seja, o médico identificou a falha, confirmando que seu julgamento clínico permanece soberano."

Algoritmos com 98% de acurácia ainda geram erros clinicamente relevantes em larga escala. O diferencial do médico não está em evitar esses erros — está em detectá-los sistematicamente, transformando falhas em melhorias iterativas. Este é o ponto de partida do conceito de Médico Curador aplicado à gestão de erros.

Os 5 passos do Protocolo

O protocolo é deliberadamente simples — pra ser executável no calor do laudo, não em sessão de revisão:

1. Registre o erro

• Qual foi a resposta incorreta?
• Em que contexto?
• O registro pode ser numa nota rápida, planilha simples, ou comentário no próprio prompt salvo.

A ausência de registro é o motivo número 1 pelo qual erros viram impressão difusa ("essa IA não funciona") em vez de dado ("essa IA errou no contexto X com o prompt Y").

2. Analise a causa

Três causas típicas:

• Erro de prompt (GIGO) — o input foi insuficiente, ambíguo ou mal contextualizado.
• Limitação do modelo — a tarefa está fora do domínio onde o modelo é confiável (ex.: pedir Gemini Notebook pra analisar imagem médica).
• Dado clínico insuficiente — o contexto fornecido omitiu informação necessária.

Diagnosticar a causa determina o ajuste. Erros diferentes têm correções diferentes.

3. Reformule o prompt

Aqui entra a técnica do Prompt Refinador (Aula 03, Seção 6): pedir à IA para criticar o próprio prompt e sugerir como reformular.

Exemplos de refinamento típicos:

• Adicionar restrição: "Considere apenas pacientes pediátricos."
• Especificar formato: "Liste em 3 tópicos numerados."
• Adicionar persona: "Atue como radiologista pediátrico com 20+ anos."
• Adicionar contraexemplo: "Não considere achados acima de 8 mm."

4. Documente o aprendizado

Adicione ao banco pessoal de prompts o que funcionou melhor. Esse banco vira referência para reuso e para colegas.

O que registrar:

• Prompt anterior (que errou).
• Prompt refinado (que acertou).
• Contexto onde o refinamento funciona.
• O que NÃO usar (limitações descobertas).

Sem este passo, o aprendizado é volátil. Repetimos o mesmo erro de prompt em situações similares porque nunca consolidamos a correção.

5. Não generalize

Um erro em contexto X não invalida o uso em contexto Y. Esta é a armadilha cognitiva mais comum entre médicos experientes — a sobregeneralização (Croskerry, 2013).

Exemplo:

• IA erra em diagnóstico de doença rara genética → médico conclui "IA é inútil pra genética" → médico abandona uso em toda análise genética, mesmo onde a IA é boa (ex.: classificação de variantes comum).

O passo 5 é vacina contra abandono prematuro. Sem ele, o protocolo inteiro falha.

Por que o protocolo é skinneriano (não cognitivo)

Esta é a contribuição original de Pedro Carvalho na Aula 5. Do ponto de vista comportamental:

"Aprender apenas por tentativa e erro (modelado pelas contingências) é lento: o médico acumula frustrações até que o acerto apareça por acaso. O Protocolo de Resposta ao Erro muda essa lógica, pois transforma a correção do prompt em comportamento governado por regras, não pelas contingências."

Tradução: sem o protocolo, o médico aprende por sorte. Com o protocolo, ele aprende por regra explícita. A diferença em tempo até a fluência é dramática:

A regra que substitui a contingência é o que acelera o aprendizado.

A Pílula de Ouro

"A IA não precisa ser perfeita para ser útil. Você também não precisa ser perfeito para ser um excelente radiologista. A parceria funciona exatamente por isso."

A premissa do protocolo é: dois sistemas imperfeitos em diálogo iterativo são mais robustos que qualquer um dos dois sozinho. O médico identifica o que a IA erra. A IA identifica o que o médico esqueceu. Cada erro detectado é dado para refinar o sistema combinado.

Aplicação no Pacto Semanal

O protocolo está embutido na Checklist Semanal do P15 como item específico:

"Item 5: Se a IA errou, apliquei o Protocolo de Resposta ao Erro em vez de simplesmente abandonar?"

A meta operacional: nenhum erro vira pretexto para abandono sem antes passar pelos 5 passos. Erro que não passou pelo protocolo é dado perdido — e potencialmente o início de um padrão de evitação que sedimenta tecnoestresse crônico.

O caso oposto — quando NÃO seguir adiante

Há erros que não podem ser refinados porque o modelo está fora do escopo:

• Pedir diagnóstico médico definitivo a um modelo geral (não treinado em medicina específica).
• Pedir análise de imagem a modelo sem multimodalidade adequada.
• Pedir informação muito recente (após data de corte do treinamento).

Nesses casos, o passo 2 (analisar causa) revela: o problema não é o prompt, é o modelo errado para a tarefa. A ação correta é trocar de ferramenta, não refinar. O protocolo tem essa elasticidade.

Conexões

• GIGO — princípio que sustenta a análise de causa no passo 2.
• Engenharia de prompts — disciplina que sustenta o passo 3 (reformular).
• Metaprompting reflexivo — técnica avançada de refinamento de prompt.
• Protocolo PCTR — estrutura recomendada para o prompt reformulado.
• Alucinação — fenômeno frequente que dispara o protocolo.
• Médico Curador — perfil que opera o protocolo com naturalidade.
• Protocolo P15 — método onde o protocolo de erro é item de checklist semanal.
• Curva J — fase 1 onde o protocolo é mais crítico (impede desistência).
• Tecnoestresse — fenômeno que o protocolo previne quando bem aplicado.
• Checklist para prompts — material complementar.
• Pedro Carvalho — coautor que articula a base skinneriana.
• Aula 5 — apostila onde o protocolo é apresentado.

Referência

Croskerry P. From mindless to mindful practice: cognitive bias and clinical decision making. N Engl J Med. 2013;368(26):2445–8.