Desafios da Segurança em IA: Perigos e Soluções para Empresas
Um pesquisador da área de segurança em IA alerta que as equipes tradicionais de cibersegurança não estão preparadas para lidar com os problemas que surgem com os sistemas de inteligência artificial. Sander Schulhoff, uma autoridade reconhecida nesse campo, enfatiza que a falta de profissionais experientes em ambas as áreas — segurança cibernética e segurança em IA — pode levar a vulnerabilidades significativas nas organizações.
Segundo Schulhoff, "Você pode corrigir um erro, mas não pode consertar um cérebro". Essa declaração destaca a diferença fundamental entre os métodos tradicionais de cibersegurança e o funcionamento dos sistemas de IA, que não são passíveis de reparo das mesmas maneiras que o software convencional.
As equipes de cibersegurança estão geralmente equipadas para identificar e corrigir falhas técnicas conhecidas. No entanto, a IA apresenta comportamentos complexos que não seguem as mesmas regras. Por exemplo, muitos profissionais do setor podem avaliar um sistema de IA em busca de falhas técnicas sem considerar a possibilidade de que alguém possa manipular o IA para realizar ações indesejadas. "A desconexão sobre como a IA funciona, em comparação com a cibersegurança clássica, é um fator preocupante", afirmou Schulhoff durante uma participação em um podcast específico.
(...)
Ele ressalta a importância de recrutar pessoas com experiência em ambas as áreas para que possam responder efetivamente a possíveis ameaças. Por exemplo, se um modelo de IA for enganado para gerar um código malicioso, uma equipe adequadamente treinada saberia executar esse código em um container, garantindo que os resultados não afetem o restante do sistema.
O espaço entre segurança em IA e cibersegurança tradicional torna-se cada vez mais essencial, com Schulhoff indicando que "as profissões de segurança do futuro" se situam nesse cruzamento. Além disso, ele observa um crescimento do número de startups focadas em segurança em IA, embora muitas dessas empresas ofereçam soluções que não fornecem proteção real, prometendo resultados que não conseguem cumprir.
Com a manipulação dos sistemas de IA sendo possível de várias maneiras, as alegações de que essas ferramentas controlam todos os riscos são enganosas. Schulhoff adverte sobre uma possível correção de mercado, na qual a receita dessas empresas poderia "se esvaziar completamente" devido à falta de eficácia de suas promessas.
As startups de segurança em IA também perceberam um aumento no interesse de investidores. Empresas de grande porte e fundos de capital de risco estão impulsionando um investimento crescente nesse setor. Recentemente, em março, o Google adquiriu a startup de cibersegurança Wiz por USD 32 bilhões, buscando fortalecer sua segurança em nuvem.
