Aumento no Uso de Agentes de IA Levanta Questões de Segurança
Nos últimos anos, os agentes de inteligência artificial (IA) tornaram-se um tema popular, especialmente após o lançamento de novas ferramentas por grandes empresas como OpenAI e Google, voltadas para a execução de tarefas complexas. Em meio a esse crescimento, um agente de código aberto chamado OpenClaw ganhou notoriedade devido a suas impressionantes capacidades autônomas e, consequentemente, a preocupações significativas de segurança. No entanto, ainda não sabemos a verdadeira magnitude das operações desses agentes de IA e se o entusiasmo se traduz em implementações reais.
O Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) publicou o AI Agent Index de 2025, que visa oferecer um panorama sobre a operação e a segurança dos agentes de IA no mundo real. Os pesquisadores constataram que o interesse em agentes de IA aumentou drasticamente no último ano. O número de pesquisas mencionando "Agente de IA" ou "IA Agente" em 2025 mais que dobrou em comparação ao total de 2020 a 2024, enquanto uma pesquisa da McKinsey revelou que 62% das empresas estão experimentando com esses agentes.
O estudo focou em 30 agentes de IA proeminentes distribuídos em três categorias: opções baseadas em chat, como ChatGPT Agent e Claude Code; bots baseados em navegador, como Perplexity Comet e ChatGPT Atlas; e opções empresariais, como Microsoft 365 Copilot e ServiceNow Agent.
Embora os pesquisadores não tenham fornecido números exatos sobre quantos agentes de IA estão efetivamente em operação na web, analisaram como eles estão funcionando e a falta de estruturas de segurança é alarmante. Apenas metade dos 30 agentes analisados incluiu políticas de segurança ou de confiança publicadas, como a Responsible Scaling Policy da Anthropic ou o Preparedness Framework da OpenAI. Um em cada três agentes não possui nenhum tipo de documentação de estrutura de segurança, e cinco dos 30 não têm padrões de conformidade. Essa situação é preocupante, pois 13 dos 30 sistemas revisados apresentam níveis avançados de agência, permitindo que operem sem supervisão humana em sequências de tarefas prolongadas.
Os agentes baseados em navegador, em particular, operam com uma autonomia significativamente maior. Exemplos como o sistema Autobrowse da Google, que pode realizar tarefas múltiplas navegando por diversos sites, são indicativos dessa tendência. O problema com a liberdade concedida a esses agentes é que suas atividades são quase indistinguíveis do comportamento humano, o que pode gerar confusões e riscos adicionais.
Os pesquisadores observaram que 21 dos 30 agentes não informam aos usuários finais ou a terceiros que se tratam de agentes de IA e não de usuários humanos. Isso leva à errônea suposição de que a atividade dos agentes de IA é tráfego humano. O MIT descobriu que apenas sete agentes publicaram strings de User-Agent (UA) estáveis e intervalos de endereços IP para verificação, enquanto muitos usam strings UA semelhantes às do Chrome e contextos de IP residenciais para camuflar seu tráfego, dificultando a distinção entre o tráfego autêntico e o comportamento de bots. Para alguns agentes de IA, essa capacidade de passar por humanos é uma característica que agrega valor, como demonstrado pelo BrowserUse, um agente de IA open-source que se comercializa como capaz de contornar sistemas antibot.
A falta de uma estrutura robusta de segurança levanta sérias preocupações quanto a vulnerabilidades potenciais. O estudo revelou que 9 dos 30 agentes analisados não possuem documentação sobre guardrails contra ações prejudiciais. A maioria dos agentes falha em revelar os resultados de testes internos de segurança, e 23 dos 30 não disponibilizam informações sobre testes realizados por terceiros. Apenas quatro agentes - ChatGPT Agent, OpenAI Codex, Claude Code e Gemini 2.5 - apresentaram cartões de sistema específicos, onde as avaliações de segurança foram adaptadas ao funcionamento real de cada agente.
No entanto, mesmo laboratórios como OpenAI e Google, que fornecem mais documentação sobre riscos de alinhamento existencial e comportamental, não revelam detalhes sobre vulnerabilidades de segurança que podem surgir durante operações cotidianas. Os pesquisadores referem-se a isso como "safety washing", um ato de publicar estruturas de segurança e ética em alto nível, mas divulgar de forma seletiva as evidências empíricas necessárias para uma rigorosa avaliação de riscos.
Houve, por outro lado, um movimento positivo no sentido de abordar as preocupações levantadas pelos pesquisadores do MIT. Em dezembro passado, OpenAI e Anthropic, entre outros, uniram forças para criar uma fundação voltada à criação de padrões de desenvolvimento para agentes de IA. Entretanto, o AI Agent Index evidencia a ampla falta de transparência na operação de agentes de IA. Os agentes de IA estão rapidamente invadindo a web e ambientes de trabalho, funcionando com um nível alarmante de autonomia e com pouca supervisão. Atualmente, há poucas indicações de que as medidas de segurança irão acompanhar essa rápida escalada."}}]}},{