O Google ajustou sua política de IA em escolas, modificando o uso de inteligência artificial (IA) em contas escolares dos níveis K-12 após críticas e um relatório que apontava riscos da IA para crianças e adolescentes.
Opções das escolas no uso da IA
Os recursos Gemini, Gemini Notebook e Search serão desativados por padrão nas contas escolares K-12, segundo o Google. As instituições poderão ativar individualmente algum ou todos esses serviços conforme sua decisão. Caso uma escola proíba o acesso, os estudantes não terão acesso ao Search e receberão uma mensagem explicando a indisponibilidade.
Chris Phillips, vice-presidente de educação do Google, destacou que Search e IA estão profundamente integrados. Elizabeth Reid, chefe do Google Search, reforçou: "Google Search is AI Search through and through".
Críticas e preocupações quanto ao uso da IA
O prefeito de Nova York, Zohran Mamdani, criticou a política do Google, acusando a empresa de tentar impor, com seu poder monopolista, a IA nas escolas públicas e destacou que nenhuma corporação deve decidir sobre o ensino das crianças.
Um relatório da organização Common Sense Media apontou que as funções de IA do Google Search apresentam "risco inaceitável" para crianças e adolescentes. Em testes de tarefas escolares, a IA completou todas as provas, mas gerou respostas erradas com a mesma confiança das corretas e falhou em reconhecer sinais importantes, como ideação suicida e transtornos mentais.
Em resposta, a liderança do Google Search afirmou que o modo IA e as orientações oferecidas promovem aprendizado guiado passo a passo, evitando respostas prontas sem compreensão dos conteúdos.
Reações políticas e próximos passos
Senadores americanos Richard Blumenthal e Josh Hawley enviaram uma carta ao CEO do Google, Sundar Pichai, manifestando preocupação com o "impulso agressivo" da empresa para lançar produtos de IA destinados a crianças nas escolas.
O Google planeja iniciar testes das mudanças no Search em escolas selecionadas dos Estados Unidos ainda neste mês.