Em março de 2026, ZhaoBin Li e Mark Steyvers, do Departamento de Ciências Cognitivas da UC Irvine, publicaram Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals [1], um experimento comportamental que faz uma pergunta que a indústria costuma pular. Quando um modelo diz "estou 90% confiante", a pessoa do outro lado sabe ler esse número? E, se o número estiver mal calibrado, ela consegue reaprender a lê-lo? O trabalho põe 200 participantes para prever a corretude de uma IA e mede, tentativa a tentativa, o que a mente humana faz com o sinal de confiança que recebe.
Antes da leitura de impacto, o número que ancora tudo. Foram 200 participantes, distribuídos em quatro regimes de calibração dos sinais de confiança, aprendendo ao longo de 50 tentativas [1]. Não é um estudo de opinião sobre IA. É um estudo de aprendizado: a mesma pessoa, repetindo a tarefa dezenas de vezes, ajustando o próprio mapa mental do que aquele número de confiança significa.
Quatro regimes de confiança
A engenharia do experimento está nos quatro regimes. No regime padrão, o sinal de confiança da IA corresponde de forma razoável à sua corretude real. No regime de excesso de confiança, o modelo se declara mais certo do que acerta. No de falta de confiança, se declara menos certo do que de fato é. E há um quarto regime, o mapeamento reverso contraintuitivo, em que a relação entre o número anunciado e a chance de acerto foi invertida: alta confiança passa a sinalizar maior probabilidade de erro. Esse último é o teste mais duro, porque contraria a intuição que qualquer pessoa traz de fábrica, a de que mais confiança significa mais acerto.
No vocabulário da IA Comportamental (Behavioral AI), isto é medir o humano dentro do laço, não só o modelo. A confiança declarada por um sistema é um sinal comportamental, e o que importa não é apenas se ele está bem calibrado, mas se a pessoa do outro lado consegue interpretá-lo e reajustar sua própria leitura quando o sinal muda.
O aprendizado aconteceu, com uma ressalva
O achado central é positivo e vale dizê-lo sem inflar. Segundo o resumo dos autores, houve aprendizado ao longo das 50 tentativas em todas as condições, medido em três frentes: acurácia, discriminação e alinhamento de calibração [1]. Ou seja, dentro dos limites da tarefa, as pessoas melhoraram em prever quando a IA estava certa, ficaram melhores em distinguir os casos, e seu mapa mental foi se aproximando do comportamento do sistema naquele experimento. Nesse desenho controlado, a recalibração se mostrou possível mesmo diante de um sinal de confiança distorcido, o que não é o mesmo que afirmar que a mente humana ajusta em qualquer contexto.
A ressalva que impede a comemoração fácil está na condição reversa. Uma parte substancial dos participantes teve dificuldade em superar o viés indutivo inicial nesse regime contraintuitivo [1]. Traduzindo: a intuição de que "confiança alta é bom sinal" está tão entranhada que, quando a realidade a inverte, muita gente não consegue largar a expectativa antiga por completo, mesmo com dezenas de tentativas de evidência em contrário. O aprendizado é real, mas esbarra num piso teimoso quando o mundo contraria a intuição de partida.
O modelo por trás do comportamento
O que separa este trabalho de uma constatação empírica solta é a tentativa de explicar o mecanismo. Os autores propõem um modelo computacional que combina uma transformação linear-in-log-odds com uma regra de aprendizado Rescorla-Wagner de taxas assimétricas [2]. A parte linear-in-log-odds descreve como a pessoa transforma a confiança anunciada em uma crença própria, distorcendo o sinal recebido de forma sistemática. A regra Rescorla-Wagner, um clássico da psicologia do aprendizado associativo, descreve como essa leitura é atualizada a cada acerto ou erro observado. As taxas assimétricas são a peça fina: no modelo proposto pelos autores, aprende-se em ritmo diferente conforme a evidência confirma ou contraria a expectativa, e seria aí que residiria a dificuldade com o regime reverso. Vale lembrar que se trata de um mecanismo proposto para ajustar os dados do experimento, não de uma explicação já validada de forma independente.
Um sinal de confiança bem calibrado do lado da máquina não garante uma leitura calibrada do lado humano. Medir a confiança do modelo sem medir a interpretação da pessoa é medir metade do sistema.HumanOS Institute, O Caderno de Fronteira
O que o estudo diz, e o que não diz
O instituto existe para medir o gap entre o alegado e o demonstrado, e aqui o gap precisa ser dito com todas as letras. O que está demonstrado, dentro dos limites do desenho, é que humanos recalibram sinais de confiança de IA por aprendizado, que o fazem em todas as quatro condições testadas, e que um regime contraintuitivo trava parte das pessoas num viés de partida [1]. É um resultado sólido sobre o mecanismo de recalibração.
Do lado do que convém não exagerar:
- Trata-se de um preprint no arXiv, ainda não revisado por pares. Os achados vêm do próprio resumo dos autores e não há, até agora, replicação independente que os confirme.
- É um estudo de laboratório, com N=200 e uma tarefa abstrata de previsão. A sala de experimento não é o uso de um produto real por milhões de pessoas sob pressão, distração e vínculo emocional.
- A ponte entre este resultado e o problema de overreliance, a dependência excessiva de IA no uso cotidiano de produtos, é uma inferência dos autores, não uma demonstração. O experimento mede recalibração numa tarefa controlada; que isso previna ou explique a confiança indevida no mundo real permanece hipótese.
Por que isto é fronteira
A maior parte do esforço de calibração de IA hoje aponta para dentro do modelo: fazer o sistema dizer 90% quando acerta 90% das vezes. Este trabalho desloca o olhar para o outro lado do laço, o humano que recebe o número, e sugere que a calibração pode ser um fenômeno de duas pontas. Um sinal impecável na origem pode ser lido de forma enviesada no destino, e, ao menos nesta tarefa controlada, a boa notícia é que essa leitura melhorou com evidência, enquanto a má é que ela emperrou justo quando o sistema contrariou a intuição de quem o usa.
Para quem desenha sistemas que conversam com pessoas em estados de vulnerabilidade, no Sul Global, o registro é útil por uma razão concreta. Não basta calibrar o modelo e declarar a confiança resolvida. É preciso medir se a pessoa está aprendendo a ler aquele sinal, e considerar a possibilidade, sugerida por este experimento de laboratório, de que, quando a relação entre confiança e corretude for contraintuitiva, uma parcela dos usuários talvez não acompanhe. Se isso vale no uso real de um produto, e em que medida, ainda está por medir. No vocabulário da IA Comportamental (Behavioral AI), isso reforça uma aposta antiga da casa: o alvo de projeto não é o modelo isolado, é o par humano-IA, e a métrica honesta mede os dois lados do sinal.
Fica o registro cético que este caderno se obriga a repetir. Em março de 2026, dois pesquisadores da UC Irvine relataram, com 200 participantes e 50 tentativas, evidência de que pessoas recalibram sinais de confiança de IA por aprendizado, em todas as condições testadas, e de que um regime contraintuitivo trava parte delas no viés de partida. É um preprint, com tarefa abstrata e sem replicação, e a ligação com a dependência excessiva no uso real é inferência, não prova. O que ele oferece, e é suficiente para merecer esta fronteira, é uma hipótese de mecanismo, medida em laboratório, para algo que a indústria costuma tratar como resolvido do lado errado do laço.
Entenda o campo: O que é IA Comportamental (Behavioral AI) →