Essa humildade epistêmica é uma habilidade cognitiva importantíssima para descobrir coisas novas e nos adaptarmos mais rapidamente em cenários de incerteza. O problema é que essa é uma capacidade que nunca foi verdadeiramente valorizada. E agora a IA traz mais complicações – e também novas oportunidades – na forma como interagimos com o conhecimento.
Nesta semana, eu li um artigo científico que mostra como a IA pode corroer essa nossa “sabedoria da ignorância”. Para avaliar isso, os pesquisadores montaram um experimento em que as pessoas respondiam perguntas difíceis sobre filmes. Elas também podiam dizer “não sei” sempre que quisessem, sem qualquer tipo de punição.
Os participantes então foram divididos em dois grupos: os que responderiam sozinhos e os que poderiam consultar a IA. A engenhosidade do experimento estava nas perguntas, que traziam de propósito detalhes tão escondidos que a IA não saberia e provavelmente inventaria respostas em boa parte das vezes.
Quando estavam sozinhas, 44% das pessoas admitiam que não sabiam uma resposta. Mas esse número despencou para apenas 3% quando elas tinham acesso à IA. As pessoas simplesmente pararam de dizer ‘não sei’ e passaram a confiar cegamente na resposta da IA. O resultado é que as pessoas respondiam mais, mas acertavam bem menos. E, curiosamente, se sentiam mais confiantes mesmo errando mais.
Esse é um fenômeno mais sutil e perigoso do que o tão discutido debate de “não devemos confiar demais na máquina”. E para me debruçar nisso, vou voltar aos quatro tipos de conhecimento do começo da coluna. Quando a pessoa dizia que não sabia, ela estava navegando pelo quadrante do “o que sabemos que não sabemos”.
No momento em que ela recebeu e confiou em uma resposta pronta da IA, ela mudou rapidamente para o primeiro quadrante do “o que sabemos que sabemos”. Como se agora ela dominasse aquela certeza. Só que isso é uma mentira. Ela passa a agir como se soubesse, sem de fato saber. Ou, pior ainda, confia em uma informação errada.