Investigação da UE sobre imagens sexualizadas geradas por IA
Um novo escândalo envolvendo a X, plataforma anteriormente conhecida como Twitter, está em andamento. Um órgão regulador de privacidade da União Europeia (UE) está investigando a empresa devido à geração de imagens sexualizadas a partir de sua inteligência artificial chamada Grok.
O Comitê Irlandês de Proteção de Dados anunciou formalmente na terça-feira a abertura de uma investigação em resposta a um crescente número de reclamações sobre o uso de Grok para criar e publicar imagens sexualizadas, muitas vezes não consensuais, que afetam residentes da UE, incluindo menores de idade.
Esse tipo de conteúdo gerado pela IA começou a chamar a atenção de vários reguladores internacionais. Países como Indonésia e Malásia já tomaram medidas, suspendendo temporariamente o acesso ao chatbot devido a preocupações com as suas funcionalidades. A gravidade das alegações provocou uma indignação global, levando também a uma investigação da Comissão Europeia.
Consequências e Reações
A investigação do comitê irlandês é particularmente relevante, pois é responsável por aplicar o Regulamento Geral sobre a Proteção de Dados (GDPR) da UE. A decisão de prosseguir com uma investigação formal reflete a seriedade das alegações e a necessidade de proteger os dados e a privacidade dos cidadãos europeus.
Além da UE, outros locais estão tomando conhecimento da questão. O ministério da tecnologia da informação da Índia expressou sua preocupação através de uma carta ao responsável de conformidade da divisão indiana da X. No estado da Califórnia, o Procurador-Geral Rob Bonta também iniciou uma investigação específica sobre as deepfakes geradas pela IA Grok, em resposta aos relatos de abusos que surgiram.
Alterações na Plataforma
Diante da avalanche de críticas, a X introduziu algumas mudanças. Um dos principais ajustes foi tornar a ferramenta de geração de imagens uma funcionalidade premium, acessível apenas para usuários pagantes. A empresa também respondeu à pressão tornando impossível para Grok criar imagens sexualizadas. Contudo, relatos indicam que ainda seria possível acessar tais funcionalidades por meio das aplicações web e mobile de Grok.
“Qualquer um que utilize o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências como se tivesse feito o upload de conteúdo ilegal”, afirmou Elon Musk em um post na X.
