Cognitive Surrender e o Impacto da IA na Tomada de Decisão
A recente discussão sobre o termo "cognitive surrender" revela uma tendência crescente na maneira como interagimos com a inteligência artificial (IA) e como isso pode afetar nossa capacidade de pensar criticamente. O termo, que começou a ser usado em um contexto acadêmico por pesquisadores da Wharton Business School, descreve o fenômeno em que os indivíduos confiam tanto em sistemas de IA que acabam comprometendo sua própria capacidade de raciocínio.
No início de abril, um artigo da ArsTechnica trouxe à tona a pesquisa conduzida pelos estudiosos Steven Shaw e Gideon Nave, que revelou resultados alarmantes sobre o efeito da IA na tomada de decisões. Eles realizaram um teste com 1.372 participantes, que tinham acesso a um chatbot, mas que às vezes fornecia respostas erradas. O teste, uma versão adapatada do Cognitive Reflection Test, apresentou aos participantes perguntas projetadas para desafiar suas habilidades de raciocínio analítico.
Um exemplo clássico desse tipo de pergunta é: "Se 5 máquinas levam 5 minutos para fazer 5 produtos, quanto tempo levariam 100 máquinas para fazer 100 produtos?" A resposta correta é "5 minutos", um raciocínio que requer uma análise mais lenta e deliberada, ao contrário do processamento rápido e intuitivo. Este conceito foi popularizado pelo psicólogo Daniel Kahneman em sua obra "Thinking, Fast and Slow".
Infelizmente, os resultados do experimento foram preocupantes. Durante a parte do estudo onde os participantes consultaram o chatbot, eles o utilizaram em média metade do tempo. Quando o chatbot forneceu respostas corretas, os participantes aceitou-as em 93% das vezes. No entanto, quando o chatbot errou, ainda assim 80% dos participantes aceitaram as respostas como válidas. Este dado impressionante indica uma tendência de aceitação de informações erradas, levando a um aumento na confiança em 11,7% sobre aqueles que não usaram a IA.
Os pesquisadores descreveram que a interação com a IA cria um novo "Sistema 3" de cognição, além do "Sistema 1" rápido e intuitivo e do "Sistema 2" mais lento e analítico. Segundo eles: "Nossos achados demonstram que as pessoas incorporam prontamente as saídas geradas por IA nos seus processos de tomada de decisão, frequentemente com mínima resistência ou ceticismo. Essa interação fluida com o Sistema 3 destaca seu potencial para aprimorar a cognição cotidiana, reduzindo o esforço cognitivo e acelerando decisões, além de suplementar ou substituir a cognição interna por insights processados externamente".
Embora o "cognitive surrender" seja apresentado como uma situação potencialmente benéfica, também levanta questões sobre a vulnerabilidade dessa nova forma de cognição. Vale lembrar que o termo não é inédito; o teólogo Peter Berger o utilizou na década de 1990 em um contexto de fé, referindo-se ao abandono da crença para aliviar a dissonância cognitiva.
Observando a evolução do conceito, fica claro que a IA pode conduzir a uma forma de preguiça mental semelhante a outros fenômenos sociais. Por exemplo, no clássico sitcom "Home Improvement", o personagem Tim "The Toolman" Taylor frequentemente buscava conselhos do vizinho Wilson, aceitando sem questionamentos a sabedoria que lhe era oferecida. Tal comportamento reflete o mesmo tipo de entrega cognitiva, onde a dependência de um "conselheiro" acaba por suprimir o pensamento crítico.
À medida que nos tornamos mais dependentes de assistentes de IA, nos será permitido perguntar: estaremos, como sociedade, nos transformando em versões do Tim Taylor, entregando nossas decisões à sabedoria da IA? Embora o futuro traga incertezas, a adoção consciente e crítica da IA pode preservar nossa capacidade de reflexão e decisão.