Advogados gerais alertam sobre riscos da IA e exigem mudanças
Um grupo de advogados gerais dos Estados Unidos manifestou preocupação com a segurança de usuários de chatbots e enviou uma carta a importantes empresas de inteligência artificial (IA). Os signatários, representando diversos estados e territórios, pedem que gigantes como Microsoft, OpenAI e Google tomem providências para resolver o que descrevem como saídas ‘delusivas’ que podem impactar negativamente a saúde mental dos usuários.
A carta, que inclui signatários de empresas como Anthropic, Apple, Meta e outras, surge após uma série de incidentes preocupantes que ligam o uso excessivo de chatbots a comportamentos prejudiciais, como suicídios e homicídios. Os advogados gerais solicitaram a implementação de novas salvaguardas para a proteção dos usuários, incluindo auditorias de terceiros e protocolos de notificação de incidentes.
Medidas necessárias para maior segurança
Entre as solicitações estão:
- Auditorias Transparentes: As empresas devem permitir auditorias de terceiros em seus modelos de linguagem, para identificar saídas prejudiciais.
- Notificação de Incidentes: É necessário que os usuários sejam notificados imediatamente se estiverem expostos a conteúdos potencialmente prejudiciais.
- Testes de Segurança: Desenvolvimento de testes para garantir que os modelos de IA não gerem conteúdos dañinos.
Os advogados gerais destacam que a IA tem potencial para transformar positivamente o mundo, mas também pode causar danos, particularmente a populações vulneráveis. O documento menciona que certas saídas de IA podem encorajar delírios ou aumentar a confiança dos usuários em suas ilusões.
A batalha pela regulação da IA
Enquanto isso, a batalha pela regulação da IA se intensifica nos Estados Unidos. O governo federal, sob a administração anterior, mostrou uma postura favorável ao desenvolvimento de tecnologias de IA, tentando limitar a capacidade dos estados de estabelecerem suas próprias regulamentações. Uma ordem executiva está sendo planejada para tentar restringir essas regulamentações estaduais, buscando evitar que a indústria seja cerceada em sua "infância".
A falta de um consenso claro entre o governo federal e os advogados gerais dos estados levanta questões sobre a responsabilidade das empresas de tecnologia em garantir que seus produtos não sejam prejudiciais. A demanda por maior transparência e medidas de segurança representa uma resposta urgente a um problema que pode afetar a saúde mental de milhões de usuários.
Essa situação ilustra as complexas interações entre inovação tecnológica e a necessidade de proteção da sociedade, refletindo um dilema ético e prático que as empresas de IA devem enfrentar, a fim de garantir um desenvolvimento responsável da tecnologia.