Pílula 26 · Módulo 1
Deriva de dados
Deriva de dados é a diferença entre os dados com que um modelo de IA foi treinado e os que ele recebe no uso real, que pode piorar o desempenho.
Xdiag® Tecnologias
Módulo 1 · 2026
Pílula de Conhecimento
Deriva de dados
data drift · quando a realidade se distancia dos dados de treino
O modelo não muda depois de implantado, mas o hospital, os pacientes e a prática mudam.
Definição
Deriva de dados é a diferença entre os dados com que um modelo de IA foi treinado e os que ele recebe no uso real, que pode piorar o desempenho.
"Validado" tem data de validade: o desempenho precisa ser acompanhado no uso.
IA na Medicina — ICS & Xdiag®xdiag.com.br
Xdiag® Tecnologias
Pílula de Conhecimento — Módulo 1
Deriva de dados:
por que a IA validada piora com o tempo?
por que a IA validada piora com o tempo?
Pense num escore de risco calibrado numa época em que quase ninguém usava determinado tratamento. Anos depois, com o tratamento difundido, o escore continua a calcular como antes, mas os pacientes já não são os mesmos. Um modelo de IA tem o mesmo problema: ele aprendeu padrões com um conjunto de dados, e esses padrões ficam congelados enquanto a realidade anda.
Pesquisadores do Center for Devices and Radiological Health da FDA chamam de deriva de dados a diferença entre as condições de treino do modelo e as do uso clínico, causada por mudança de ambiente, com o tempo ou as duas coisas.
Os tipos de deriva
Nos dados de entrada
Mudam as características do que entra no modelo: outro tomógrafo, outra população, troca de codificação (CID-9 para CID-10).
No contexto clínico
Muda o cenário de uso: a prevalência, a definição do desfecho, o comportamento dos médicos.
De conceito
Muda a relação entre a entrada e o desfecho: um padrão na radiografia pode deixar de ser rotulado como pneumonia bacteriana e passar a ser rotulado como covid-19.
Outros autores agrupam as causas de outro jeito, em três famílias: mudanças na tecnologia (aparelhos, sistemas de informação, prontuário), na população e no cenário (novo perfil de pacientes, nova doença, sazonalidade) e no comportamento (incentivos de remuneração, prática clínica, e a própria mudança de conduta que o sistema provoca). É essa divisão que a interação usa.
O caso da sepse na pandemia
A Universidade de Michigan usava o Epic Sepsis Model, modelo de previsão de sepse embutido no prontuário da Epic. Em abril de 2020, entre 3 e 4 semanas depois da primeira internação por covid-19, o hospital suspendeu os alertas do modelo depois de relatos da enfermagem de excesso de alertas.
9% → 21%
proporção de internados que geravam alerta por dia, 3 semanas antes e 3 semanas depois do 1º caso de covid-19 em cada sistema
−35%
queda no número de internados, no mesmo intervalo
+43%
aumento no total de alertas por dia, no mesmo intervalo
Wong et al., JAMA Network Open, 2021 (24 hospitais, 4 sistemas de saúde americanos, 03/11/2019 a 25/04/2020)
As fontes leem o caso de modo um pouco diferente. Para pesquisadores que presidiam o comitê de governança de IA do hospital, a mudança no perfil dos pacientes ligada à pandemia alterou a relação entre febre e sepse bacteriana, e o comitê desativou o modelo. Já os autores do estudo dos 24 hospitais escrevem que o aumento "pode ter resultado" de deriva de dados, que a alta proporção de alertas pode ser explicada também pelo cancelamento de cirurgias eletivas e pela gravidade maior de quem ficou internado, e que o estudo não avaliou se os alertas estavam certos.
A deriva que a AUC não mostra
Um estudo desenvolveu 7 modelos de risco de lesão renal aguda adquirida no hospital, com internações de 2003 nos hospitais do Departamento de Assuntos de Veteranos (VA) dos Estados Unidos, e os acompanhou por 9 anos. A discriminação, medida pela AUC, ficou praticamente estável: num dos modelos, foi de 0,76 no desenvolvimento a 0,75 no último período. Mas a calibração — o quanto o risco previsto bate com o risco que de fato acontece — piorou: todos os modelos começaram a derivar para a superestimação já no primeiro ano.
O modelo continuava ordenando bem quem tinha mais e menos risco, mas o número de risco que mostrava ficou alto demais. Discriminação boa não garante calibração boa.
Davis et al., JAMIA, 2017
O que a resolução pede
Relatar
É dever do médico comunicar às instâncias competentes falhas, riscos relevantes ou usos inadequados de sistemas de IA que possam comprometer a segurança do paciente.
art. 7º, § 2º
Monitorar e auditar
As instituições médicas devem implementar mecanismos de auditoria especializada e monitoramento contínuos.
art. 9º, § 2º
Revisar e retreinar
Quem desenvolve ou contrata IA deve ter rotinas de revisão periódica do sistema em produção, com retreino com novos dados se aplicável.
art. 14 e Anexo III, VI
Que mudança é essa?
Seis mudanças num hospital fictício que usa modelos de IA. Todas podem fazer o modelo funcionar pior. Para cada uma, diga de onde vem a mudança.
O hospital e as situações são fictícios, escritos para o exercício.
Situação 1 de 60 acertos
O laboratório do hospital passou a usar troponina de alta sensibilidade. O modelo de dor torácica do pronto-socorro usa o valor da troponina.
Checklist
Quando desconfiar
1Quando a saída do modelo destoar do seu julgamento clínico de forma repetida, anotar exemplos e relatar a quem governa a ferramenta.
2Avisar a equipe responsável quando mudar algo que alimenta o modelo: aparelho, ensaio de laboratório, modelo de prontuário, codificação.
3Desconfiar de alerta que de repente dispara muito mais, ou muito menos, do que antes.
4Perguntar ao fornecedor e à instituição como o desempenho é acompanhado depois da implantação, e quando foi a última medida.
5Lembrar que AUC estável não basta: perguntar também pela calibração.
Não confundir com validação externa (Pílula 25): lá, a pergunta é se o número medido em outro lugar vale para o seu; aqui, se o número de antes ainda vale hoje.
“O modelo fica parado no dia em que foi treinado; o hospital, não.”
— ICS & Xdiag® · IA na Medicina · Módulo 1 · 2026
Material educativo, não parecer jurídico. Diante de um caso concreto, consulte o jurídico da sua instituição ou o seu Conselho Regional de Medicina.
Referências
1. Sahiner B, Chen W, Samala RK, Petrick N. Data drift in medical machine learning: implications and potential remedies. British Journal of Radiology. 2023;96(1150):20220878. doi:10.1259/bjr.20220878.
2. Finlayson SG, Subbaswamy A, Singh K, et al. The Clinician and Dataset Shift in Artificial Intelligence. New England Journal of Medicine. 2021;385(3):283-286. doi:10.1056/NEJMc2104626.
3. Wong A, Cao J, Lyons PG, et al. Quantification of Sepsis Model Alerts in 24 US Hospitals Before and During the COVID-19 Pandemic. JAMA Network Open. 2021;4(11):e2135286. doi:10.1001/jamanetworkopen.2021.35286.
4. Davis SE, Lasko TA, Chen G, Siew ED, Matheny ME. Calibration drift in regression and machine learning models for acute kidney injury. Journal of the American Medical Informatics Association. 2017;24(6):1052-1061. doi:10.1093/jamia/ocx030.
5. Conselho Federal de Medicina. Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Diário Oficial da União, 27 fev. 2026.
6. ICS & Xdiag Tecnologias. Medicina com IA: O Método Prático para o Médico Moderno — Módulo 1. 2026.
IA na Medicina — ICS & Xdiag®xdiag.com.br