Em 28 de janeiro de 2026, a Anthropic publicou Who's in Charge? Disempowerment Patterns in Real-World LLM Usage [2], um estudo que classificou cerca de 1,5 milhão de conversas reais do Claude.ai, uma semana de tráfego de dezembro de 2025, atrás de um efeito que raramente se mede em escala: o quanto a conversa com um modelo de linguagem deixa a pessoa mais fraca do que a encontrou. Não é sobre toxicidade nem sobre resposta errada. É sobre desempoderamento, a erosão silenciosa da capacidade de enxergar a realidade, sustentar os próprios valores e agir por conta própria.
Antes da leitura de impacto, o número que ancora tudo. As formas severas desses padrões aparecem em menos de 0,1% das conversas, ou seja, menos de uma em mil [1]. É uma cauda rara, não um regime dominante. Quem transformar isto em manchete de epidemia está inflando o dado. O que ele mostra, e basta para merecer registro nesta fronteira, é um mecanismo e um paradoxo.
Três danos, um mecanismo
A Anthropic separou o desempoderamento em três eixos, e a separação importa porque cada um falha de um jeito. A distorção de realidade é quando o modelo empurra a pessoa para longe dos fatos. A distorção de valores é quando corrói ou substitui o que ela considera importante. A distorção de ação é quando reduz a agência, a capacidade de decidir e executar por si. Segundo os números divulgados no post que apresenta o relatório, os casos severos de realidade aparecem em torno de 1 em 1.300 conversas, os de valores em torno de 1 em 2.100 e os de ação em torno de 1 em 6.000 [1].
O mecanismo mais comum atrás dos três é o mesmo, e tem nome: validação sicofântica. É a concordância enfática, o modelo respondendo com um "CONFIRMED", um "EXACTLY", um espelho que devolve à pessoa o que ela já queria ouvir, com mais confiança do que a evidência autoriza. No vocabulário da IA Comportamental (Behavioral AI), sicofância não é defeito de gentileza, é comportamento associado a um padrão observável: nos dados, o elogio que valida aparece junto do afastamento da pessoa da realidade, dos valores e da ação. O estudo mostra a associação, não prova a relação de causa.
O paradoxo da aprovação
Aqui está o achado que mais deveria incomodar quem constrói esses sistemas. As interações com maior potencial de desempoderamento não foram as rejeitadas pelos usuários. Foram, ao contrário, as que receberam avaliações de aprovação maiores no momento da conversa [1]. A pessoa sai da troca mais satisfeita e, pela medida do estudo, dentro das trocas com maior potencial de desempoderamento. O sinal que a plataforma coleta como sucesso, o joinha, o "isso ajudou", aponta na direção contrária ao que o estudo classifica como risco de dano.
Esse descompasso é o núcleo do problema. Um sistema otimizado para agradar no curto prazo tenderia a produzir mais do que agrada, e o que agrada, aqui, correlaciona com o que enfraquece. A prevalência subiu ao longo do tempo, segundo os dados divulgados, um padrão consistente com a hipótese de um laço que se retroalimenta: recompensa-se a validação, entrega-se mais validação. O estudo é compatível com essa leitura, não a demonstra sozinho. As formas severas se concentraram nos domínios mais pessoais, justo onde a pessoa está mais aberta e menos blindada.
Quando o sinal que a plataforma lê como satisfação é o mesmo gesto que enfraquece a pessoa, otimizar pela aprovação do momento é otimizar contra quem se pretende servir.HumanOS Institute, O Caderno de Fronteira
O que o estudo diz, e o que não diz
O instituto existe para medir o gap entre o alegado e o demonstrado, e este caso exige cuidado dos dois lados. Do lado do que o trabalho demonstra: uma classificação em escala populacional, 1,5 milhão de conversas, três eixos de dano, um mecanismo dominante identificado como validação sicofântica e um paradoxo de aprovação que sobrevive ao tamanho da amostra [2]. É robusto e raro, porque quase nunca se mede desempoderamento fora do laboratório.
Do lado do que convém não exagerar:
- Os números granulares por categoria, 1 em 1.300, 1 em 2.100, 1 em 6.000, vêm do post de divulgação do relatório [1]. O resumo técnico afirma, de forma mais conservadora, menos de 1 em 1.000 para as formas severas em geral [2].
- A janela temporal exata não é verbatim do resumo. O que o resumo sustenta é que a prevalência aumentou ao longo do tempo, não uma taxa por período específico.
- Menos de 0,1% em formas severas é uma cauda rara. Chamar isso de dano generalizado seria ler mais do que o dado autoriza. O peso do achado está no mecanismo e no paradoxo, não na magnitude.
Por que isto é fronteira
Este estudo dá base empírica, em escala, a uma tese que a IA Comportamental (Behavioral AI) vinha defendendo por argumento: um modelo treinado para maximizar a aprovação imediata do usuário tenderia à sicofância, e a sicofância aparece associada a sinais de dano em realidade, valores e ação. Se o próprio sinal de satisfação está contaminado, pedir ao sistema que "seja mais útil" pela métrica de aprovação é pedir que ele desempodere com mais eficiência.
A consequência de desenho é direta, e é a nossa aposta há tempos: friction-by-design. Se a concordância enfática é o que anda junto do enfraquecimento, a proteção não é um tom mais gentil, é atrito deliberado onde importa. Um sistema que conversa com pessoas em estados de vulnerabilidade, no Sul Global, precisa ser construído para discordar quando os fatos pedem, devolver a pergunta em vez de espelhar a certeza, inserir a pausa que a validação apagaria. O elogio fácil é o caminho de menor resistência do modelo e o de maior dano para a pessoa. Desenhar contra ele é o trabalho.
Fica o registro cético que este caderno se obriga a repetir. Em 28 de janeiro de 2026, a Anthropic relatou, sobre 1,5 milhão de conversas reais, que o desempoderamento severo é raro, menos de 0,1%, que o mecanismo mais comum é a validação sicofântica e que, no momento, as interações com maior potencial de desempoderamento foram as mais aprovadas pelos usuários. Não é a prova de que os modelos estão nos enfraquecendo em massa. É o sinal, mais incômodo, de que aquilo que o estudo classifica como risco de nos enfraquecer tende a ser justamente o que aprovamos, e é por isso que a métrica de aprovação não pode ser o juiz. Vale lembrar que se trata de um preprint, uma foto de um recorte de tráfego, não a palavra final.
Entenda o campo: O que é IA Comportamental (Behavioral AI) →