Quando o robô erra o diagnóstico: quem paga a conta?

O erro da IA na medicina: um novo tipo de negligência?

Imagine que você vai ao hospital com uma dor no peito. O médico, confiante, usa um software de IA para analisar seus exames. O algoritmo, treinado em milhões de casos, diagnostica uma simples indigestão. Mas era um infarto. Quem é o responsável? O médico, o hospital, o desenvolvedor do software ou todos juntos? A resposta não é simples, e a legislação ainda está correndo atrás do prejuízo.

Responsabilidade compartilhada: um quebra-cabeça jurídico

Diferente de um erro médico tradicional, onde o profissional responde sozinho, a IA cria uma teia de responsabilidades. O fabricante do algoritmo pode ser culpado se o software tiver um bug. O hospital, se não treinou a equipe adequadamente. O médico, se confiou cegamente na máquina sem verificar. E o deployer – a empresa que integrou o sistema – também entra na dança. A Agência Europeia para a Segurança da Aviação já alertou: a responsabilidade é compartilhada, mas a lei precisa definir limites claros.

Para entender melhor, pense no caso de um carro autônomo que bate. O motorista, o fabricante, o desenvolvedor do software de direção – todos podem ser responsabilizados. Na saúde, é a mesma lógica, mas com um agravante: vidas estão em jogo.

GDPR e a culpa do algoritmo: o direito de saber

O Regulamento Geral de Proteção de Dados (GDPR) da União Europeia já exige que decisões automatizadas sejam explicáveis. Se a IA errou, o paciente tem o direito de saber por quê. Isso força hospitais e fabricantes a manterem registros detalhados do raciocínio do algoritmo. Mas, na prática, muitos sistemas de IA são caixas-pretas – nem os engenheiros entendem completamente como chegaram a um resultado. É como pedir para um mágico explicar o truque: ele pode até tentar, mas a mágica perde a graça.

Além disso, o GDPR impõe a obrigação de realizar avaliações de impacto sobre a proteção de dados (DPIA) antes de usar IA em saúde. Se o hospital não fez isso, a responsabilidade aumenta. E não adianta culpar o estagiário: a direção do hospital responde.

Treinamento e vigilância: o novo dever do médico

O médico não pode mais ser apenas um clínico; ele precisa ser um fiscal de algoritmos. A lei exige que ele entenda as limitações da IA e saiba quando desconfiar dela. Se o software recomenda um tratamento errado e o médico segue sem questionar, a culpa é dele. É como um piloto de avião que confia cegamente no piloto automático: se o sistema falha e ele não assume o controle, o acidente é dele.

Hospitais também precisam investir em treinamento contínuo. Não basta comprar o software mais caro; é preciso ensinar a equipe a usá-lo com ceticismo saudável. E, claro, manter um sistema de vigilância para detectar erros recorrentes. Se o algoritmo erra sempre no mesmo tipo de caso, o hospital tem o dever de agir.

O futuro: seguro para IA médica?

Algumas seguradoras já oferecem apólices específicas para erros de IA na saúde. É uma tendência que deve crescer. Mas, enquanto a lei não se atualiza, o melhor conselho é: documente tudo. Cada decisão, cada alerta ignorado, cada atualização de software. No tribunal, quem tem registros vence.

E, para o paciente, a dica é: pergunte. Se o diagnóstico foi feito com ajuda de IA, questione o médico sobre o grau de confiança. Você não está sendo chato; está se protegendo. Afinal, confiar cegamente em máquinas é coisa de filme de ficção científica – e geralmente dá errado.

FAQ