Pílula 20 · Módulo 1
Viés de automação
Viés de automação: aceitar a sugestão de um sistema de IA sem checagem crítica, mesmo quando ela está errada.
Xdiag® Tecnologias
Módulo 1 · 2026
Pílula de Conhecimento
Viés de automação
automation bias
Confiar demais numa sugestão de IA não é preguiça: é um efeito psicológico documentado desde os anos 1990.
Definição
Viés de automação é a tendência de aceitar a saída de um sistema automatizado como atalho para não verificar a informação por conta própria, mesmo quando ela está errada.
A experiência clínica sozinha não protege contra ele.
IA na Medicina — ICS & Xdiag®xdiag.com.br
Xdiag® Tecnologias
Pílula de Conhecimento — Módulo 1
Viés de automação:
não é preguiça, é um efeito documentado
não é preguiça, é um efeito documentado
Oito sugestões da IA
Oito casos fictícios. Em cada um, a IA faz uma sugestão. A fonte (ficha, receita, laudo ou transcrição) está atrás do botão conferir: abra se quiser, antes de responder.
Caso 1 de 8Resumo de alta
Sugestão da IA
Alergias: penicilina.Com a fonte à vista, o erro é óbvio. O viés acontece justamente quando ninguém abre a fonte.
Por que importa na clínica
Em 1998, Mosier, Skitka, Heers e Burdick, estudando pilotos em simulador, descreveram o viés de automação como o uso de uma pista automatizada como atalho no lugar de buscar e processar informação com atenção — um fenômeno que os próprios autores já chamavam de “recentemente documentado”.
A revisão de Goddard, Roudsari e Wyatt mostra que o efeito nasceu e segue mais estudado no campo da aviação, mas aparece em vários outros campos, inclusive na saúde — toda vez que um sistema sugere uma categoria de exame, um risco ou uma conduta, e o profissional aceita sem reavaliar. Essa mesma revisão, de 74 estudos, mostra que o efeito é robusto e afeta tanto quem está começando quanto quem já tem anos de prática.
Autonomia
O médico tem o direito de preservar sua autonomia profissional, “não podendo ser obrigado a seguir, de forma automática ou acrítica, recomendações geradas por sistemas de IA”.
art. 3º, IV
Responsabilidade e registro
É dever do médico permanecer responsável final pelas decisões clínicas e registrar em prontuário o uso da IA como apoio.
art. 4º, I e V
Responsabilidade ético-profissional
O médico segue integralmente responsável, no campo ético-profissional, pelos atos praticados com apoio de IA.
art. 7º
Resolução CFM nº 2.454/2026, que nomeia esse risco.
Como funciona
Pense num radiologista lendo uma mamografia com um sistema de IA sugerindo a categoria BI-RADS ao lado da imagem. Se ele olha a sugestão antes de formar sua própria opinião, a sugestão vira uma âncora: o cérebro usa menos esforço para conferir um número que “já está ali” do que para reavaliar a imagem do zero.
Esse atalho tem dois efeitos opostos, na definição de Parasuraman e Manzey:
Erro de comissão
Quando o profissional segue uma sugestão errada, em qualquer direção.
Erro de omissão
Quando ele deixa de agir porque o sistema não alertou para um problema.
Um estudo com 27 radiologistas testou o efeito de uma sugestão de categoria de mamografia errada. O acerto quando a IA sugeria certo, e quando sugeria errado:
79,7% → 19,8%
radiologistas menos experientes
82,3% → 45,5%
radiologistas muito experientes
Dratsch et al., Radiology, 2023.
Em um estudo piloto, com 92 radiologistas e 2.760 decisões, a acurácia foi de 78% quando a IA sugeria certo para 28% quando ela sugeria errado.
Esses percentuais vêm de estudos controlados de leitura de mamografia, com erro deliberadamente inserido pelos pesquisadores, e não de uso real. Não valem para qualquer tipo de IA ou tarefa clínica.
Na prática: cenários
1. A IA superestima o risco
Um sistema de apoio a laudo de imagem sugere uma categoria mais grave do que a lesão realmente é. O plantonista, sem reler a imagem com calma, aceita a categoria sugerida e encaminha a paciente para uma biópsia desnecessária.
O que fazer: Formar a própria impressão antes de olhar a sugestão do sistema, não depois. Se a ordem se inverte, a sugestão vira âncora antes que o próprio julgamento comece.
2. A IA subestima o risco
Um sistema de triagem classifica um achado sutil como “sem alteração relevante”. Cansado, o médico aceita e não pede exame complementar. É um erro de omissão: nada avisou que havia algo a checar.
O que fazer: Tratar toda saída de IA como uma segunda opinião, não como veredito. Achados sutis pedem exame próprio, mesmo quando o sistema não sinaliza nada.
3. Plantão longo, decisão em série
No fim de um plantão de 24 horas, o médico já aceitou a sugestão do sistema em dezenas de casos seguidos, quase sempre correta. No caso 41, a sugestão está errada, mas ele já não está mais conferindo — só confirmando.
O que fazer: Reconhecer que carga cognitiva alta (cansaço, múltiplas tarefas) aumenta o viés de automação. Nesses momentos, vale desacelerar de propósito, não confiar no piloto automático.
4. “Essa ferramenta quase nunca erra”
Depois de meses usando um sistema com bom histórico, a equipe para de questionar as sugestões dele, mesmo em casos atípicos onde o sistema tem menos dado de treino para se basear.
O que fazer: Lembrar que confiabilidade alta no geral não garante acerto no caso individual, principalmente fora do perfil de paciente mais comum na base de treino.
O que ainda não se sabe
Explicar como a IA chegou à sugestão não elimina o viés. A revisão de Goddard cita um estudo em que mostrar ao usuário o raciocínio do sistema reduziu o viés, mas o estudo piloto da Scientific Reports não achou diferença significativa nos erros de diagnóstico entre grupos com e sem explicação. O efeito prático dessa explicação ainda é incerto, e não uma solução comprovada.
Checklist
Para continuar checando
1Formar a própria hipótese antes de ver a sugestão da IA, sempre que o fluxo permitir.
2Tratar toda saída de IA como insumo a conferir, não como conclusão.
3Prestar atenção redobrada em plantões longos ou com múltiplas tarefas simultâneas: é quando o viés mais aparece.
4Desconfiar mais, não menos, de casos atípicos ou fora do padrão mais comum.
5Registrar em prontuário o uso da IA como apoio à decisão, como pede o art. 4º, V da Resolução CFM nº 2.454/2026.
O espelho deste tema é a Pílula 18, Bajulação: a IA concordando com o médico em vez de discordar quando deveria. E o dever de registro em prontuário é o assunto da Pílula 19, Shadow AI.
“A IA erra de forma diferente do médico — por isso ela ajuda; mas só ajuda se alguém continuar checando.”
— ICS & Xdiag® · IA na Medicina · Módulo 1 · 2026
Material educativo, não parecer jurídico: não substitui orientação jurídica sobre um caso concreto.
Referências
1. Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias: decision making and performance in high-tech cockpits. International Journal of Aviation Psychology. 1998.
2. Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association. 2012.
3. Dratsch T, Chen X, Rezazade Mehrizi M, et al. Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance. Radiology. 2023. doi:10.1148/radiol.222176.
4. Rezazade Mehrizi MH, et al. The impact of AI suggestions on radiologists’ decisions: a pilot study of explainability and attitudinal priming interventions in mammography examination. Scientific Reports. 2023.
5. Parasuraman R, Manzey DH. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors. 2010. doi:10.1177/0018720810376055.
6. Conselho Federal de Medicina. Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Diário Oficial da União, 27 fev. 2026.
IA na Medicina — ICS & Xdiag®xdiag.com.br