Campbell Brown, ex-chefe de notícias do Meta, está em uma missão para garantir que a inteligência artificial (IA) forneça informações precisas e confiáveis. Em uma recente conversa com TechCrunch, ela expressou suas preocupações sobre como a IA está moldando a forma como as pessoas consomem informações. Brown, que tem uma longa carreira como jornalista e foi a primeira chefe de notícias do Facebook, fundou a Forum AI, uma empresa que avalia como os modelos de IA lidam com tópicos complexos e de alto risco, como geopolítica, saúde mental e finanças.
A Forum AI foi criada há 17 meses em Nova York e tem como objetivo encontrar os principais especialistas do mundo para desenvolver benchmarks que ajudem a treinar juízes de IA a avaliar modelos em larga escala. Para seu trabalho em geopolítica, Brown recrutou figuras proeminentes como Niall Ferguson e Fareed Zakaria, além de ex-altos funcionários do governo dos EUA, como Tony Blinken e Kevin McCarthy. O objetivo é alcançar um consenso de cerca de 90% entre os juízes de IA e esses especialistas humanos.
Brown compartilhou que sua motivação para criar a Forum AI surgiu quando o ChatGPT foi lançado publicamente. Ela percebeu que a IA se tornaria o principal canal de informação e ficou alarmada com a qualidade das informações que estavam sendo disseminadas. "Meus filhos vão ficar realmente burros se não conseguirmos resolver isso", refletiu Brown, enfatizando que a precisão não parecia ser uma prioridade para as empresas que desenvolvem modelos de IA.
Durante a avaliação dos principais modelos de IA, Brown notou falhas significativas. Por exemplo, ela mencionou que o modelo Gemini estava extraindo informações de sites do Partido Comunista Chinês para histórias que não tinham relação com a China. Além disso, observou um viés político à esquerda em quase todos os modelos, além de falhas mais sutis, como a falta de contexto e a omissão de perspectivas importantes.
"Ainda temos um longo caminho a percorrer", disse Brown, mas ela acredita que existem soluções simples que poderiam melhorar significativamente os resultados. Ela destacou que, ao longo de sua experiência no Facebook, viu o que acontece quando uma plataforma prioriza o engajamento em detrimento da precisão. "Falhamos em muitas das coisas que tentamos", afirmou, referindo-se ao programa de verificação de fatos que ela criou e que não existe mais.
Brown acredita que a IA pode quebrar esse ciclo de desinformação, mas reconhece que a situação atual é delicada. "Neste momento, pode ir de qualquer maneira", disse ela, referindo-se à possibilidade de as empresas optarem por fornecer o que os usuários desejam ou o que é real e verdadeiro. Embora a ideia de uma IA que otimize a verdade possa parecer ingênua, ela vê as empresas como aliadas inesperadas.
Negócios que utilizam IA para decisões de crédito, empréstimos e contratações estão preocupados com a responsabilidade e, portanto, querem que a IA seja precisa. A demanda do setor empresarial é o que a Forum AI está apostando para seu modelo de negócios, embora transformar esse interesse em receita consistente seja um desafio. Brown criticou o cenário atual de conformidade, que considera inadequado, e destacou que a verdadeira avaliação requer expertise em domínios específicos para lidar não apenas com cenários conhecidos, mas também com casos extremos que podem causar problemas.
Ela concluiu que a confiança na IA está em níveis extraordinariamente baixos e que esse ceticismo é, em muitos casos, justificado. "A conversa está acontecendo de uma forma em Silicon Valley e de uma forma totalmente diferente entre os consumidores", afirmou Brown, ressaltando a necessidade urgente de alinhar as expectativas da indústria de tecnologia com a realidade enfrentada pelos usuários comuns.