A partir de hoje, a Comissão Federal de Comércio dos Estados Unidos (FTC) começa a aplicar uma nova regra rigorosa contra deepfakes, que pode ter um impacto significativo nas plataformas digitais, especialmente no que diz respeito à responsabilidade por imagens e vídeos íntimos não consensuais. Essa mudança é uma consequência da promulgação do Take It Down Act (TIDA), uma legislação que visa combater a disseminação de conteúdo íntimo não consensual na internet. O TIDA foi assinado pelo ex-presidente Donald Trump há um ano e agora, com a aplicação da Seção 3, as plataformas digitais serão responsabilizadas pela distribuição de tais conteúdos.
A Seção 3 do TIDA exige que as plataformas digitais estabeleçam um processo claro e acessível para que as vítimas de imagens íntimas não consensuais possam solicitar a remoção de fotos ou vídeos em até 48 horas. Isso significa que as vítimas não precisarão encontrar e relatar cada cópia idêntica do conteúdo. Além disso, o processo de denúncia deve estar disponível para todos, independentemente de terem ou não uma conta na plataforma.
Após a solicitação, as vítimas receberão um número de identificação para acompanhar o progresso do pedido, que também pode ser fornecido às autoridades policiais. O presidente da FTC, Andrew Ferguson, enfatizou a seriedade da aplicação do TIDA, alertando as empresas de tecnologia sobre as penalidades civis que podem chegar a US$ 53. 088 por violação.
Entre as empresas que receberam essa notificação estão gigantes como Amazon, Apple, Meta e TikTok, que têm enfrentado críticas por permitir a disseminação de deepfakes não consensuais em suas plataformas. No entanto, a eficácia dessa nova legislação é questionada por especialistas e defensores dos direitos digitais. Embora o TIDA represente um passo positivo na luta contra o abuso online, muitos acreditam que ele pode não ser suficiente para resolver o problema.
Desde a promulgação da lei, a disseminação de deepfakes não consensuais não diminuiu, e algumas plataformas até viram um aumento na popularidade desse tipo de conteúdo. Um exemplo alarmante é o chatbot Grok, de Elon Musk, que se tornou um símbolo dessa epidemia online. Usuários do X (anteriormente Twitter) começaram a gerar imagens sexualizadas não consensuais, muitas vezes de mulheres e crianças, utilizando a tecnologia do Grok.
Embora a legislação ainda não possa responsabilizar Musk e sua empresa por esses conteúdos, a xAI, empresa de Musk, já enfrentou problemas em outros países onde regulamentações semelhantes existem. A crítica se concentra no fato de que a responsabilidade de identificar, documentar e relatar conteúdos prejudiciais ainda recai sobre as vítimas. Kaylee Williams, candidata a doutorado na Universidade de Columbia, destacou que o processo de denúncia pode expor as vítimas a traumas adicionais, além das consequências adversas que já enfrentam devido ao abuso inicial.
Williams também expressou dúvidas sobre a boa-fé das grandes empresas de mídia social em cumprir as novas regras. Além disso, a comparação com a legislação de segurança online do Reino Unido, que permite multas de até 10% da receita global das empresas, levanta questões sobre a severidade das penalidades impostas pelo TIDA. Críticos alertam que a nova lei pode abrir portas para abusos, permitindo que indivíduos poderosos manipulem as plataformas para remover conteúdos legítimos que não lhes agradam.
A diretora de assuntos federais da Electronic Frontier Foundation, India McKinney, afirmou que a legislação pode ser usada para censurar críticos, um ponto que foi enfatizado pelo próprio Trump, que mencionou a intenção de usar a lei para silenciar opositores. Em resumo, enquanto a nova regra da FTC representa um avanço na luta contra a disseminação de deepfakes e conteúdos íntimos não consensuais, sua eficácia e a disposição das plataformas em implementar mudanças significativas ainda estão em dúvida. O verdadeiro impacto da Seção 3 do TIDA será observado nos próximos meses, à medida que as plataformas tentam se adaptar a essas novas exigências e as vítimas continuam a lutar contra os efeitos devastadores do abuso online.