Um pesquisador da Google DeepMind expressou profunda decepção e vergonha após a empresa firmar um acordo com o Pentágono para o uso de suas tecnologias de inteligência artificial (IA) em operações classificadas. Andreas Kirsch, cientista de pesquisa da Google DeepMind, declarou estar "sem palavras" e considerou a decisão "vergonhosa" em uma publicação na rede social X.
O acordo, que permite ao Departamento de Defesa dos Estados Unidos utilizar os modelos de IA da Google em tarefas confidenciais, foi revelado em reportagem do site The Information. Kirsch destacou que mais de 600 funcionários da Google haviam enviado uma carta ao CEO Sundar Pichai solicitando que a empresa evitasse esse tipo de colaboração, especialmente para trabalhos classificados.
Reação dos funcionários e contexto do acordo
Segundo Kirsch, ele foi dormir na esperança de que a carta dos funcionários tivesse efeito e fizesse a empresa reconsiderar o contrato. No entanto, acordou para a "pior versão possível" da situação: a assinatura do acordo para trabalhos classificados. A Google informou que o novo acordo é uma emenda a um contrato já existente, firmado no final do ano passado, que previa o uso da IA da empresa para trabalhos não classificados.
Um porta-voz da Google afirmou que a empresa apoia agências governamentais em projetos tanto classificados quanto não classificados, aplicando sua expertise em áreas como logística, cibersegurança, tradução diplomática, manutenção de frotas e defesa de infraestrutura crítica. A empresa também ressaltou seu compromisso com o consenso público e privado de que a IA não deve ser usada para vigilância em massa doméstica ou armamentos autônomos sem supervisão humana adequada.
Preocupações éticas e críticas internas
A carta dos funcionários, enviada antes da assinatura do acordo, expressava preocupações sobre o uso da IA em armas autônomas letais e vigilância em massa. Eles destacaram que, por trabalharem diretamente com a tecnologia, sentem a responsabilidade de alertar e impedir usos antiéticos e perigosos.
Kirsch criticou a Google por não promover uma discussão honesta sobre o tema, especialmente em um momento em que as regulamentações ainda não acompanham o avanço da tecnologia. Ele ressaltou que, dada a dimensão do contrato em relação ao faturamento e lucros da empresa, a decisão de seguir com o acordo não teria um custo significativo para a Google, mas poderia impactar negativamente a confiança pública.
Além disso, o pesquisador mencionou que, no ano anterior, a Google havia atualizado seus princípios de IA, removendo a promessa de não usar a tecnologia para armamentos ou vigilância. Executivos da Google DeepMind indicaram em reunião interna que novos contratos com o setor de defesa seriam esperados no futuro, o que gerou apreensão entre os funcionários.
Kirsch também comparou o acordo da Google com um contrato semelhante da OpenAI com o Pentágono, considerando que o da Google é ainda mais fraco em termos de restrições, o que pode ser interpretado como uma postura míope e motivada por interesses financeiros.
Equilíbrio entre ética e negócios em IA
O episódio evidencia o desafio das grandes empresas de tecnologia em equilibrar o avanço e aplicação da inteligência artificial com questões éticas e sociais, especialmente quando envolvem interesses militares e de segurança nacional. A pressão interna dos funcionários e a reação pública podem influenciar futuras decisões corporativas e políticas regulatórias.
Enquanto isso, a Google reafirma seu compromisso com o uso responsável da IA, mas a controvérsia demonstra que o debate sobre os limites e responsabilidades no desenvolvimento e aplicação dessa tecnologia ainda está longe de ser concluído.