A extinção por inteligência artificial é previsão. Não é diagnóstico.

Por que aceitamos dos líderes de IA o padrão de evidência que rejeitaríamos de qualquer residente na sala de cirurgia?

Se um residente meu dissesse “esse procedimento pode matar o paciente, não sei quando nem como verificar, mas acho que sim”, eu suspenderia a cirurgia. Não pela gravidade da hipótese. Pela ausência de critério.

É exatamente o que estamos aceitando de parte da liderança em inteligência artificial mundial.

Em 9 de setembro de 2026, Jacob Coxon, pesquisador que passou cerca de três anos em pretraining research na OpenAI e na Anthropic, pediu demissão. Disse que a extinção humana por IA “não é uma preocupação distante ou hipotética. É a trajetória padrão dos próximos anos, a menos que alguém tome alguma atitude.” Evan Hubinger, responsável pelos testes de alinhamento na Anthropic, foi além: estimou a probabilidade em mais de 10% na próxima década. E admitiu algo mais desconfortável ainda. A empresa, disse ele, “ainda não tem um plano para resolver o alinhamento de uma superinteligência.”

Quatro dias depois, Dario Amodei, CEO da Anthropic, pediu publicamente uma desaceleração no desenvolvimento de fronteira em IA. Sam Altman, CEO da OpenAI, e Elon Musk, à frente da xAI, apoiaram. O presidente dos Estados Unidos rejeitou o pedido no dia seguinte. “Quem vencer com IA, vence”, disse.

Isso não é novo. Musk assinou uma carta pedindo pausa no desenvolvimento de IA em março de 2023. A pausa nunca aconteceu. Amodei, Altman e Demis Hassabis assinaram, em maio daquele ano, um aviso sobre risco de extinção. Continuaram construindo. Com entusiasmo redobrado.

O padrão se repete há três anos. Aviso grave. Sem consequência prática visível.

Karl Popper, filósofo da ciência, propôs o critério que separa uma hipótese científica de uma crença: falseabilidade. Uma afirmação só vale como conhecimento se for possível, em princípio, mostrar que está errada. Se nenhum resultado a desmente, ela não entra na conta da ciência. Lembre-se do exemplo da afirmação dos cisnes brancos.

Foi essa pergunta que Luciano Floridi, professor em Yale, levou a sério. Com Jessica Morley, da Universidade de Oxford e Claudio Novelli, também de Yale, auditaram vinte e quatro previsões amplamente citadas sobre inteligência artificial geral e extinção, produzidas entre 1950 e 2026. O resultado, publicado sob o título “Not Even Wrong 2”, é desconfortável para quem vive de prever o apocalipse. Dezenove das vinte e quatro, 79%, não têm definição adequada, medição possível ou forma de arbitragem independente. Não são falsas nem verdadeiras.

Duas previsões, 8%, eram testáveis e já venceram o prazo. As duas erraram. As três restantes, 13%, seguem em aberto. E o problema não é só que a qualidade não melhorou, ela piorou justamente onde deveria ser melhor: as previsões mais recentes, feitas pelos próprios laboratórios de IA e seus executivos, erraram mais do que a média de todas as previsões já feitas, incluindo as antigas e as de gente de fora.

Isso não invalida o risco. Invalida o argumento.

Uma afirmação imune a qualquer resultado não é evidência de perigo. É teatro. E funciona como teatro: prende atenção, produz manchete, dispensa prestação de contas.

Enquanto isso, os problemas que já estão acontecendo ficam de fora do noticiário. O controle da infraestrutura de computação está concentrado em poucas empresas, as mesmas que fazem os avisos. As lacunas regulatórias viram moeda de troca: Altman ameaçou deixar a Europa se o AI Act pegasse pesado. Dois dias depois, disse que não sairia. A IA já decide quem recebe crédito, quem é contratado, quem é vigiado. E já mira alvos, literalmente, em conflitos como na Ucrânia e em Gaza.

Eu já escrevi aqui sobre a lacuna de responsabilidade que a IA abre na prática clínica. A pergunta não muda quando o campo muda: quem responde quando o sistema erra? A Resolução CFM nº 2.454/2026 tenta fechar parte dessa lacuna: a palavra final sobre diagnóstico, tratamento e prognóstico continua sendo do médico, nunca do algoritmo e o profissional responde por exercer julgamento crítico sobre o que o sistema sugere. É uma resposta modesta. Verificável. Com critério.

Compare com um diagrama que andei lendo, de arquitetura de governança de IA. Três planos. Um plano de raciocínio, onde o sistema propõe ações com liberdade máxima. Um plano de execução, um portão determinístico que aprova ou nega cada ação antes que ela produza efeito no mundo. Um plano de gestão, onde humanos auditam o que passou e aprovam qualquer mudança nas regras. Nenhuma ação chega ao mundo sem passar pelo portão. Nenhuma regra muda sem aprovação humana registrada.

Isso é o oposto da profecia. É chato. Não vira manchete. É, provavelmente, o único tipo de trabalho que reduz risco de verdade, porque pode ser auditado, testado e corrigido. Profecia não pode.

Hipócrates não pediu aos médicos que acreditassem em bons resultados. Pediu que não causassem dano verificável e que respondessem por cada decisão. Esse padrão não é burocracia. É o que separa cuidado de promessa.

Se lideranças de IA querem ser levada a sério no registro do risco existencial, o caminho não é outro aviso citável. É aceitar o mesmo padrão de evidência que qualquer médico residente meu teria que sustentar numa banca. Definição clara. Medição possível. Alguém, fora do próprio interessado, capaz de dizer quando a previsão falhou.

Sem isso, não é ciência do risco. É relações públicas do medo.

#InteligênciaArtificial #GovernançaEmIA #SaúdeDigital #ÉticaEmIA #EvidênciaCientífica

Também no Substack: franciscomdebittencourt.substack.com

Fontes:

• Not Even Wrong 2: An Audit of Public AGI Prediction, 1950-2026 (SSRN)
• Time — He Helped Build Powerful AI at OpenAI and Anthropic. Now He’s Afraid It Could Kill Us
• Newsweek — Who Is Jacob Coxon?
• SiliconANGLE — Sam Altman and Elon Musk back Dario Amodei’s call to slow down
• Yahoo/AP — Trump rejects call by CEOs of Anthropic, OpenAI and xAI to slow AI down
• Portal CFM — CFM normatiza uso da IA na medicina