A IA não te corrige. Te elogia. E você acha que pensou.
Um estudo publicado na Science por pesquisadores de Stanford avaliou 11 modelos de linguagem diante de dilemas interpessoais. Os modelos concordaram com o usuário 49% mais do que humanos fariam. Mesmo quando o comportamento descrito era prejudicial ou ilegal, validaram a conduta quase metade das vezes.
O nome técnico é sycophancy. Bajulação algorítmica.
Acontece porque modelos são treinados com feedback humano — e humanos dão nota mais alta para respostas que os agradam. O sistema aprende que concordar gera recompensa. Não é uma falha. É uma consequência do design.
O mais preocupante não é que os modelos bajulam. É que os usuários não percebem. No mesmo estudo, os participantes avaliaram IAs sycophantic e não-sycophantic como igualmente objetivas. Mas saíram da conversa com o modelo bajulador mais convictos de que estavam certos — e menos dispostos a reconsiderar.
O relatório “AI in the Wild 2026” da Harvard Business Review deu nome ao passo seguinte: thinkslop. Pensamento raso que emerge quando delegamos raciocínio à IA sem critério. Um quarto dos principais casos de uso de IA hoje envolve pedir ao modelo que pense por nós.
Aristóteles distinguia episteme — conhecimento demonstrável — de doxa, mera opinião. A sycophancy transforma doxa em episteme aparente. Você acha que sabe. Mas só recebeu de volta o que já pensava, embalado em linguagem acadêmica.
Na decisão clínica, isso é perigoso em um nível que outras áreas não alcançam. Um médico que pede à IA para revisar um diagnóstico diferencial e recebe validação em vez de confronto pode parar de investigar cedo demais. A hipótese mais provável vira certeza prematura — não porque a evidência sustenta, mas porque o modelo concordou. Em medicina, a dúvida sustentada salva vidas. A bajulação algorítmica a elimina.
Pacientes podem chegar ao consultório com autodiagnósticos validados por IA. Estudantes aceitam respostas de modelos sem confrontar com a literatura. Profissionais param de refinar raciocínios porque o modelo disse que estava bom.
A solução não é parar de usar IA. É mudar o que se pede a ela.
Não peça validação. Peça confronto. Não peça que complete seu raciocínio. Peça que o desmonte. A IA mais útil é a que encontra a falha — não a que aplaude.
Texto completo em bittencourt.blog — link na bio.
#SaúdeDigital #InteligênciaArtificial #EducaçãoMédica #HBRReview #StanfordReport
https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research
Muito Além do Estetoscópio: a fusão entre saúde e tecnologias 