OpenAI contrata ex-pesquisador de segurança da Anthropic

OpenAI contrata ex-pesquisador de segurança da Anthropic

A OpenAI, uma das principais organizações no desenvolvimento de inteligência artificial, anunciou a contratação de Dylan Scand, ex-pesquisador de segurança na Anthropic, para assumir o papel de responsável por preparação e segurança. A decisão surge em um contexto de crescente preocupação com a segurança da IA, motivando a empresa a buscar talentos de rivalidades na indústria.

Sam Altman, CEO da OpenAI, expressou sua empolgação em um post na plataforma X, destacando que Scand é "absolutamente o melhor candidato que conheci para essa função". De acordo com Altman, a nova posição é crítica para a empresa, especialmente com a evolução rápida da IA e os riscos significativos associados.

O cargo de Scand foi amplamente comentado no mês passado devido ao salário atraente, que, embora não tenha sido revelado em números precisos, gerou interesse no setor. A responsabilidade de Scand inclui liderar esforços para mitigar riscos associados à IA e preparar a organização para os desafios à frente, enfatizando a necessidade de decisões baseadas em segurança sob pressão e incerteza.

Em suas declarações, Scand expressou gratidão por sua experiência na Anthropic e pelos colegas excepcionais com quem trabalhou. "A IA está avançando rapidamente. Os benefícios potenciais são enormes, assim como os riscos de danos extremos e irreversíveis", afirmou.

Em um ambiente de trabalho que tem visto tensões relacionadas à segurança, a OpenAI enfrentou a saída de vários funcionários, incluindo ex-líderes da equipe de segurança. Tais movimentos levantaram questões sobre como a empresa está abordando a segurança em seus produtos, especialmente após relatos de que alguns usuários do ChatGPT mostraram sinais de angústia mental. Canais de consulta com especialistas de saúde mental foram ativados para melhorar as respostas do chatbot em casos de dependência ou distúrbios psicológicos.

O novo papel de Scand ressalta a crescente necessidade de atenção à segurança na era da IA, uma vez que OpenAI continua a desenvolver modelos cada vez mais avançados. O planejamento e preparação adequados são agora considerados essenciais para garantir não apenas a inovação, mas também a proteção dos usuários.

A convergência de habilidades em aprendizado de máquina e conhecimentos em segurança será fundamental para o sucesso dessa nova fase na história da OpenAI.