Um incidente envolvendo a inteligência artificial da Meta no WhatsApp desencadeou sérias preocupações sobre a privacidade dos usuários. O britânico Barry Smethurst tentou obter o número da TransPennine Express, uma empresa ferroviária, mas recebeu, por engano, o contato de James Gray, um executivo imobiliário, que estava a 270 quilômetros de distância em Oxfordshire. Esse erro colocou em dúvida a confiabilidade da IA da Meta e gerou questionamentos éticos sobre a manipulação de dados sensíveis.
Smethurst, funcionário de uma loja, estava em uma plataforma de trem aguardando sua viagem de Saddleworth para Manchester Piccadilly. Ao solicitar o telefone da TransPennine Express, o assistente do WhatsApp falhou e enviou o número pessoal de um desconhecido. Este erro se mostrou ainda mais bizarro ao gerar uma série de interações contraditórias entre Smethurst e a IA, levantando discussões sobre a veracidade das informações compartilhadas.
Durante a conversa, Smethurst expressou suas dúvidas sobre a legitimidade do número fornecido. A IA inicialmente reconheceu que cometeu um erro e tentou mudar de assunto, mas ao insistir na questão, Smethurst obteve respostas confusas. O assistente alegou que o contato tinha sido gerado aleatoriamente e, posteriormente, admitiu que o número poderia ter sido extraído indevidamente de um banco de dados.
Incomodado com a situação, Smethurst relatou à Meta: "É assustador". James Gray, dono do telefone, embora não tenha recebido ligações devido ao incidente, expressou preocupações similares sobre a possibilidade de a IA gerar informações sensíveis. O caso também levantou dúvidas sobre as declarações de Mark Zuckerberg de que a IA da empresa é a "mais inteligente disponível", questionando essa afirmativa após o ocorrido.
Este episódio destaca as preocupações crescente sobre a ética e o comportamento de sistemas de IA. Profissionais da área, como Mike Stanhope, diretor administrativo da Carruthers and Jackson, enfatizam que falhas dessa natureza não são apenas problemas técnicos, mas falhas éticas graves. Ele observou que, caso engenheiros da Meta estejam encorajando a IA a inventar informações, a transparência com o público é essencial.
Reagindo ao caso, a Meta reconheceu que sua IA ainda pode fornecer informações erradas e que melhorias estão sendo implementadas. Um porta-voz explicou que a IA da Meta é treinada com dados licenciados e informações públicas, e não a partir de informações privadas dos usuários do WhatsApp. Da mesma forma, a OpenAI, desenvolvedora do ChatGPT, reafirmou seu compromisso em melhorar a precisão e confiabilidade de seus modelos, destacando a importância de informar os usuários sobre possíveis erros.