Dario Amodei, CEO da Anthropic, usou um “se” ao falar à ONU: a inteligência artificial, se mal gerenciada, pode ser um risco para a humanidade como um todo. Advertência não é previsão.
13 de out. de 2026 · @Francisco Madalosso de Bittencourt
Foi no Conselho de Segurança, em 23 de setembro. Sam Altman, CEO da OpenAI, falou no mesmo encontro em perder o controle do futuro para a IA. Os números de extinção, em setembro, vieram de outros.
Evan Hubinger lidera a área de ciência de alinhamento da Anthropic, a equipe que estuda como manter a IA fiel aos objetivos humanos. Ele calcula em mais de 10% a chance de a IA causar a extinção humana na próxima década, segundo uma publicação dele no X, reproduzida pela Newsweek de 9 de setembro. Os modelos de hoje, diz ele, têm risco relativamente baixo. A preocupação é com sistemas futuros, capazes de melhorar a si mesmos. Jacob Coxon, pesquisador que pediu demissão da Anthropic em 8 de setembro, escreveu que quem constrói IA acredita, com sinceridade, que ela pode matar todo mundo até o fim da década. Não duvido da sinceridade, mas convicção sincera não é evidência (todo pesquisador aprende isso, em geral com o primeiro revisor).
Uma porcentagem só faz sentido quando existem muitos casos semelhantes, casos para comparar, porque, depois, dá para verificar se a estimativa estava certa. A extinção não tem esse histórico. É um caso só (e, se acontecer, não sobra ninguém para conferir). Por isso um risco de 10% de extinção tem um problema de método. Se 2036 chegar e nada disso tiver acontecido, ninguém pode dizer que o número errou, porque um único resultado não desmente uma porcentagem.
Um trabalho de Luciano Floridi, filósofo e professor em Yale, com Jessica Morley e Claudio Novelli analisou 24 previsões públicas sobre inteligência artificial geral, feitas entre 1950 e 2026 (texto preliminar no SSRN, setembro de 2026). Em dezenove, não há definição clara, medida nem árbitro independente para dizer se acertaram. Das duas que dava para testar e que já passaram do prazo, as duas erraram escrevi sobre esse assunto nesse artigo. Numa indústria que mede a velocidade e o desempenho de cada modelo, o maior risco, extinguir a humanidade, é o único item sem medida.
Mas essa crítica ao método tem um limite. Em 2014, Nassim Nicholas Taleb, escritor e ex-operador do mercado financeiro, defendeu com colegas que riscos capazes de arruinar um sistema inteiro pedem cautela mesmo quando falta estatística confiável. Se uma ponte nova rachasse na primeira semana de uso, você esperaria os testes de resistência terminarem para interditá-la? Creio que não. Criticar o número não dispensa o freio.
O freio que Amodei propõe no ensaio de 12 de setembro, “We Must Pace the Frontier“, tem uma parte que dá para conferir. O texto não fala em extinção e não dá probabilidade nenhuma. Pede que os modelos melhorem mais devagar. Propõe também que cada laboratório de ponta aceite avaliadores de fora, com acesso contínuo como se fossem funcionários (mesa e crachá incluídos). Eles teriam o direito de publicar o que encontrarem, sem que a empresa aprove o texto. Segundo o ensaio, a Anthropic não pode esconder resultados só porque são desfavoráveis.
Altman e Elon Musk concordaram com o texto de Amodei. Sem regra imposta de fora, o que sobra é compromisso voluntário. Compromisso voluntário só vale o que alguém de fora consegue conferir.
Promessa de transparência só vira algo concreto quando alguém consegue conferir. A pergunta tem data e é objetiva: em setembro de 2027, os avaliadores de fora terão publicado algum resultado desfavorável à própria Anthropic? Se sim, ganhamos um dado. Se não, a proposta ainda não provou nada.
A saúde já passou por esse teste. Em 2009, a lista de verificação cirúrgica da OMS, com 19 itens, foi testada em oito hospitais, em estudo assinado, entre outros, por Atul Gawande, cirurgião e professor de Harvard. A mortalidade caiu de 1,5% para 0,8% e as complicações graves de 11% para 7%, comparando os três meses antes com os três meses depois da lista (New England Journal of Medicine, 2009). Em 2014, David Urbach, professor de cirurgia e políticas de saúde da Universidade de Toronto, comparou 101 hospitais de Ontário antes e depois da adoção da lista. Não identificou redução significativa. O risco de morte, corrigido pelo perfil dos pacientes, passou de 0,71% para 0,65% e o de complicações, de 3,86% para 3,82% (New England Journal of Medicine, 2014). Dois estudos na mesma revista, dois resultados.
No Brasil, a Resolução CFM nº 2.454/2026, publicada em fevereiro, é modesta e verificável: o uso da IA entra no prontuário e o médico continua responsável final pela decisão clínica. Cada consulta registrada é mais um caso para conferir depois.
Não preciso aceitar a previsão para exigir o freio. Preciso poder conferi-lo. O que realmente me deixa intrigado: os “construtores” ede IA dizem que precisamos de um freio no desenvolvimento dos modelos de IA. Muitos analistas externos dizem que não precisamos nos preocupar.
O que você pensa sobre isso?
#InteligênciaArtificial #SaúdeDigital #GovernançaEmIA
Também no Substack: franciscomdebittencourt.substack.com
Francisco Madalosso de Bittencourt é cirurgião plástico, mestre em computação aplicada, professor e idealizador da disciplina Saúde Digital na Universidade de Passo Fundo (UPF), membro da Sociedade Brasileira de Cirurgia Plástica (SBCP) e cofundador da DonnaSafe.
