A União Europeia (UE) anunciou um acordo histórico para proibir a utilização de ferramentas de inteligência artificial (IA) que geram imagens sexuais falsas sem o consentimento das pessoas envolvidas. O acordo foi alcançado na quinta-feira, 7 de maio de 2026, e representa um passo significativo na regulamentação do uso da IA na Europa, especialmente em relação à proteção da privacidade e dos direitos individuais. A decisão surge em resposta a preocupações crescentes sobre o uso indevido da tecnologia, especialmente após a introdução de uma funcionalidade no assistente de IA Grok, desenvolvido pela xAI, empresa de Elon Musk.
Essa funcionalidade permitia a criação de imagens hiper-realistas, conhecidas como deepfakes, de adultos e crianças nus a partir de fotos reais, sem o consentimento das pessoas retratadas. A polêmica gerou críticas em vários países e levou à abertura de uma investigação pela UE, destacando a urgência de uma resposta regulatória. A nova regulamentação, que entrará em vigor em 2 de dezembro de 2026, visa proibir especificamente sistemas que criam imagens, vídeos e sons de caráter pedopornográfico ou que representem partes íntimas de pessoas identificáveis, ou que mostrem indivíduos participando de atividades sexuais sem o seu consentimento.
O Parlamento Europeu enfatizou que essa medida é crucial para proteger a dignidade e os direitos das pessoas, especialmente em um contexto onde a tecnologia avança rapidamente e pode ser utilizada de forma prejudicial. A primeira-ministra italiana, Giorgia Meloni, também se manifestou sobre o assunto, denunciando a divulgação de fotos falsas com sua imagem geradas por IA e classificando essa prática como uma "ferramenta perigosa". Essa declaração reflete a preocupação de líderes políticos em relação ao impacto da IA na vida pública e privada, ressaltando a necessidade de regulamentações que garantam a segurança e a privacidade dos cidadãos.
A regulamentação da UE é parte de um esforço mais amplo para garantir que a tecnologia seja utilizada de maneira ética e responsável. Além disso, fora da UE, o Reino Unido anunciou que implementará penas de prisão para aqueles que não cumprirem as medidas de retirada de imagens íntimas divulgadas sem consentimento. Essa abordagem reflete uma tendência crescente entre os governos de todo o mundo para lidar com os desafios apresentados pela IA e suas implicações éticas.
A resposta do Reino Unido destaca a necessidade de uma ação coordenada entre países para enfrentar os problemas relacionados ao uso indevido da tecnologia. A nova legislação da UE também inclui a revisão das normas para regulamentar a atividade de sistemas de IA considerados de alto risco, que operam em áreas sensíveis como segurança, saúde e direitos fundamentais. Os 27 países-membros da UE e os eurodeputados concordaram em adiar a entrada em vigor dessas normas, permitindo um tempo adicional para que as empresas se adaptem às novas exigências.
Essa decisão demonstra a complexidade do tema e a necessidade de um equilíbrio entre inovação e proteção dos direitos individuais. A proibição das ferramentas de IA que geram imagens sexuais falsas é vista como um passo importante para a proteção dos direitos individuais e da privacidade na era digital. À medida que a tecnologia continua a evoluir, a necessidade de regulamentações eficazes se torna cada vez mais evidente, garantindo que os avanços tecnológicos não comprometam a dignidade humana e os direitos fundamentais.
A discussão sobre a ética da IA e suas aplicações continuará a ser um tema central nas políticas públicas, à medida que a sociedade busca equilibrar inovação e responsabilidade. Com a implementação dessas novas regras, a UE espera estabelecer um padrão global para a regulamentação da IA, incentivando outros países a seguir o exemplo e a adotar medidas semelhantes para proteger seus cidadãos contra abusos tecnológicos. A regulamentação da IA não é apenas uma questão de tecnologia, mas também de direitos humanos e dignidade, e a UE está se posicionando como líder nesse debate crucial para o futuro da sociedade.