Hacker expõe operação de perfis falsos da Doublespeed no TikTok
Um ataque hacker expôs uma operação inquietante da Doublespeed, uma empresa que mantém centenas de perfis gerados com inteligência artificial para promover produtos nas redes sociais. A informação foi revelada pelo site 404 Media, que obteve acesso a detalhes críticos da operação, apontando que o responsável pelo ataque conseguiu controlar mais de 1.100 celulares da empresa.
A Doublespeed utiliza tecnologias avançadas para gerar perfis que imitam influenciadores reais, simulando interações com o intuito de aumentar a visibilidade de produtos em plataformas como o TikTok. Esse tipo de prática é frequentemente referido como "fazendas de cliques", onde celulares são manipulados para criar uma falsa impressão de engajamento e interesse real em produtos.
De acordo com os dados disponibilizados pelo 404 Media, das 400 contas de TikTok operadas pela Doublespeed, aproximadamente 200 estavam envolvidas na promoção de produtos. O mais alarmante é que muitos deles não indicavam claramente que o conteúdo era gerado por IA, infringindo as diretrizes da própria plataforma.
As contas expositoras promoviam uma variedade de produtos, que incluíam aplicativos de idiomas, relacionamentos, além de suplementos e dispositivos de massagem. Em uma abordagem enganosa, diversos perfis falsos publicaram fotos e vídeos criados por inteligência artificial, sem a devida transparência, o que pode confundir os usuários sobre a autenticidade do conteúdo.
"Nunca pague por um ser humano de novo", é uma das declarações feitas no site da empresa, que alegadamente promove a ideia de substituição de influenciadores humanos por avatares digitais.
O ataque, que aconteceu em outubro, permitiu ao hacker descobrir uma brecha de segurança que possibilitou a identificação de modelos de smartphones usados, contas falsas e produtos que estavam sendo promovidos. O surgimento dessa informação levanta questões sérias sobre a ética na utilização de inteligência artificial nas redes sociais e a necessidade de uma regulamentação mais rigorosa nesses serviços.
A Doublespeed, reconhecida por levantar US$ 1 milhão com o fundo de investimentos Andreessen Horowitz, já manifestou interesse em expandir suas operações não apenas no TikTok, mas também em outras plataformas como Instagram, X e Reddit.
O escândalo culmina em uma discussão mais ampla sobre as práticas que envolvem inteligência artificial e marketing nas mídias sociais, onde a linha entre o conteúdo autêntico e o manipulado se torna cada vez mais tênue. O TikTok, por sua vez, reiterou que conteúdos gerados ou alterados por IA devem ser claramente sinalizados pelos criadores, e já tomou medidas para remover conteúdos que não estão em conformidade com suas diretrizes.
Com o avanço constante da tecnologia, o desafio é garantir que o uso da IA na promoção de produtos seja realizado de maneira ética e transparente, protegendo os consumidores de práticas enganosas.