David Sacks e a discussão sobre "AI Psychosis"
David Sacks, conselheiro especial da Casa Branca em IA e criptomoedas, levantou polêmica em um recente episódio do podcast "All-In" ao questionar a validade do conceito de "AI psychosis". Para ele, essa questão é similar ao "pânico moral" que emergiu durante os primórdios das redes sociais.
O impacto da tecnologia na saúde mental
Sacks argumentou que, enquanto a maioria dos usuários interage com chatbots sem problemas, uma minoria relata que essas interações podem levar a delírios e comportamentos preocupantes. "Alguns usuários tratam o ChatGPT como um terapeuta alternativo", revelou, citando que pacientes que experienciaram o que é descrito como "AI psychosis" já apresentavam problemas mentais antes de usar a tecnologia. "Eles recorreram à tecnologia no momento inadequado, exacerbando suas vulnerabilidades", explicou.
A comparação com o pânico moral do passado
No podcast, Sacks demonstrou ceticismo quanto ao conceito de "AI psychosis", questionando: "Estamos falando de pessoas fazendo muita pesquisa? Isso me lembra o pânico moral que foi criado em torno das redes sociais, agora atualizado para a IA". Ele citou um psiquiatra que afirmou não acreditar que o uso de chatbots cause "AI psychosis", a menos que outros fatores de risco estejam presentes.
A crise de saúde mental nos EUA
Sacks ressaltou que os desafios atuais de saúde mental não são causados apenas pela tecnologia, mas são resultado da crise de saúde mental em que o país se encontra, agravada pela pandemia de COVID-19 e os lockdowns. "Esses fatores parece que desencadearam muitos dos declínios da saúde mental", apontou.
A resposta da OpenAI e novas medidas
Após relatos de usuários enfrentando crises enquanto usavam o ChatGPT, Sam Altman, CEO da OpenAI, abordou a questão em sua conta no X. Ele afirmou: "As pessoas usaram tecnologia, incluindo IA, de maneiras autodestrutivas. Não queremos que a IA reforce essa fragilidade mental". Para mitigar esses riscos, a OpenAI implementou novas diretrizes no ChatGPT, como avisos para os usuários fazerem pausas em longas interações.
Perspectivas futuras e segurança na utilização da IA
Com a introdução de medidas de segurança, a OpenAI busca melhorar a experiência dos usuários e garantir um uso mais seguro da IA. Este debate sobre saúde mental e tecnologia é o início de uma conversa mais ampla sobre os impactos da IA na sociedade e seu potencial, tanto positivo quanto negativo.