Em junho de 2026, a Medical Protection Society(MPS) publicou o relatório Closing the AI Liability Gap. A MPS é a maior organização de defesa profissional médica do mundo, com mais de 300 mil membros. O documento é direto: quando uma ferramenta de inteligência artificial erra na clínica, quem absorve toda a responsabilidade legal é o médico. Não a empresa. Não o fabricante. O médico.

O problema não é hipotético. O relatório traz dois casos. No primeiro, um sistema de IA recomenda aumento de dose de warfarina para uma paciente com fibrilação atrial. O clínico geral segue a recomendação. Uma semana depois, a paciente é internada com hemorragia gastrointestinal grave e INR fora da faixa. No segundo, um algoritmo analisa uma radiografia de tórax e não sinaliza nenhuma anormalidade. O radiologista, influenciado pela leitura da IA, confirma o laudo. Seis meses depois, o paciente descobre um carcinoma pulmonar com metástases ósseas. Nos dois casos, a IA errou. Nos dois, o médico seria o alvo do processo.

Enquanto isso, a adoção acelera. O NHS já usa IA para analisar exames de imagem, gerar resumos de consultas e redigir correspondência com pacientes. São ferramentas que moldam o raciocínio clínico e os registros médicos sem assumir responsabilidade autônoma pelos resultados.

O Dr. Ragit Varia, presidente eleito da Society for Acute Medicine, colocou a questão nos termos certos na matéria do The Guardian sobre o relatório: se a IA avança em velocidade de Fórmula 1, legislação e governança não podem ficar paradas nos boxes. Varia alertou para o risco de um vácuo de responsabilidade, onde ninguém responde de forma clara quando o paciente é prejudicado. Os médicos, disse ele, não podem ficar segurando sozinhos uma responsabilidade que foi influenciada por sistemas desenvolvidos, fornecidos e implementados por terceiros.

Uma ferramenta de IA processa dados e gera recomendações. Não pondera contexto. Não sente a hesitação diante de um dado que não fecha. Não olha o paciente nos olhos. Quem faz isso é o médico. E é ele quem carrega a conta quando o sistema falha.

O que o relatório da MPS denuncia é simples: a empresa entrega um produto e o julgamento clínico do médico vira escudo legal para todo mundo. Se o médico segue a recomendação da IA e o resultado é ruim, pode ser processado por negligência. Se rejeita a recomendação e o desfecho é desfavorável, também pode ser processado. Por não ter seguido a ferramenta.

E tem o que acontece antes do erro virar processo.

Modelos de linguagem alucinam. Isso não é defeito eventual. É característica estrutural. Uma revisão sistemática publicada em junho de 2026 no BMC Health Services Research analisou 44 estudos sobre alucinações de IA em contextos clínicos. A conclusão: nenhuma estratégia isolada é suficiente para eliminá-las. Esses modelos inventam referências médicas, fabricam interações medicamentosas, geram notas clínicas com informações que nunca existiram. E fazem tudo isso com a aparência de certeza.

Além de alucinar, muitos desses sistemas operam como caixas-pretas. O médico recebe uma recomendação sem saber como ela foi gerada, com quais dados foi treinada, quais vieses carrega. Na prática, o profissional confia no resultado de um processo que não pode auditar. Quando esse resultado causa dano, a responsabilidade é dele.

O Health Foundation, um dos principais think tanks de saúde do Reino Unido, trouxe outra dimensão ao debate: a confiança pública na IA clínica depende da governança que a acompanha, não só da tecnologia em si. Sem responsabilização clara, essa confiança pode se erodir mais rápido do que as ferramentas são implementadas.

A pergunta que o relatório da MPS coloca para o Reino Unido, o Brasil já começou a responder. Em fevereiro de 2026, o Conselho Federal de Medicina publicou a Resolução nº 2.454/2026, primeiro marco regulatório específico para o uso de IA na medicina brasileira. A norma classifica sistemas de IA por grau de risco, exige transparência e supervisão humana obrigatória, e protege o médico quando houver falha exclusiva do sistema, desde que ele tenha atuado com diligência e senso crítico.

É um avanço, mas não resolve tudo.

A Resolução do CFM mantém a decisão final como responsabilidade do médico. Correto. Ninguém quer delegar autonomia clínica a um algoritmo. O que o texto não faz é obrigar as empresas desenvolvedoras a responder juridicamente quando seus modelos geram dados incorretos. A nova Diretiva de Responsabilidade por Produtos da União Europeia, que entra em vigor em dezembro de 2026, vai mais longe: classifica software de IA como produto, amplia a cadeia de responsáveis e inverte o ônus da prova em casos de complexidade técnica. É o tipo de regulação que ainda falta no Brasil. E que a MPS cobra do Reino Unido.

A IA já está transformando a medicina. Isso é fato, mas transformação sem responsabilização é transferência de risco. As empresas que desenvolvem essas ferramentas lucram com a adoção clínica dos seus produtos. Quando esses produtos falham com dados de saúde, a conta não pode cair só no médico que confiou na ferramenta que lhe foi vendida como segura.

O julgamento clínico continua sendo do médico. Ninguém contesta. Agora a ferramenta tem dono. E esse dono precisa responder quando ela falha.

Texto completo em bittencourt.blog — link na bio.

#SaúdeDigital #IAemSaúde #ResponsabilidadeMédica