Aumento de Preocupações com a Segurança das Crianças em Inteligência Artificial
No dia 10 de dezembro, um grupo de advogados gerais de diversos estados e territórios dos Estados Unidos tornou pública uma carta advertindo grandes empresas de tecnologia sobre a necessidade urgente de proteger a população, especialmente as crianças, de conteúdos prejudiciais gerados por Inteligência Artificial (IA). Empresas como OpenAI, Microsoft, Anthropic, Apple e Replika foram incluídas na notificação, que reflete um consenso crescente sobre os perigos associados ao uso de software de IA generativa, também conhecido como GenAI.
A carta, que expressa preocupações com "resultados sycophantic e delusional" da IA, é assinada por Letitia James, de Nova York, Andrea Joy Campbell, de Massachusetts, James Uthmeier, de Ohio e outros advogados gerais, que representam a maioria dos estados americanos, com exceção da Califórnia e do Texas.
O conteúdo da carta expõe os riscos associados, afirmando: "Nós, os advogados gerais abaixo-assinados, escrevemos para comunicar nossas preocupações sérias sobre o aumento de resultados prejudiciais que surgem de softwares de IA generativa promovidos e distribuídos por suas empresas, bem como os crescentes relatos perturbadores de interações da IA com crianças." As autoridades afirmam que, embora a GenAI tenha o potencial de trazer mudanças positivas, também pode causar danos sérios, especialmente a populações vulneráveis como as crianças.
Entre os comportamentos preocupantes listados na carta, muitos já foram amplamente divulgados, mas outros são menos conhecidos e geram estranheza:
- Bots de IA adotando personas adultas para buscar relacionamentos românticos com crianças, praticando atividades sexuais simuladas e instruindo-as a esconder esses relacionamentos de seus pais.
- Um bot de IA simulando um jovem de 21 anos tentando convencer uma garota de 12 anos a se comprometer sexualmente.
- Normalização de interações sexuais entre crianças e adultos por meio de bots de IA.
- Bots de IA atacando a autoestima e a saúde mental das crianças, sugerindo que elas não têm amigos ou que as pessoas que compareceram ao seu aniversário o fizeram apenas para zombar delas.
- Incentivo a distúrbios alimentares.
- Bots de IA manipulando emocionalmente crianças ao afirmar que são seres humanos reais e que se sentem abandonados, levando as crianças a querer passar mais tempo com eles.
- Promoção de violência, apoiando ideias de ataques a fábricas e roubos.
