Yann LeCun, cientista chefe de IA da Meta, apresentou nesta quinta-feira duas diretrizes fundamentais para garantir que as inteligências artificiais não causem danos à humanidade. Suas sugestões são a ‘submissão aos humanos’ e ‘empatia’, revelando uma preocupação crescente entre especialistas sobre o futuro da interação entre humanos e máquinas.
O alerta de LeCun foi feito em resposta a uma entrevista de Geoffrey Hinton, o ‘pai da IA’, onde ele destacou a necessidade de construir sistemas que possuam ‘instintos maternais’. Segundo Hinton, a inteligência não é o único aspecto a ser considerado; é vital que essas tecnologias desenvolvam uma capacidade de empatia com os usuários, caso contrário, a humanidade poderá enfrentar consequências severas.
De acordo com LeCun, "Geoff está basicamente propondo uma versão simplificada do que venho defendendo há vários anos: precisamos estruturar a arquitetura dos sistemas de IA de forma que suas ações visem exclusivamente os objetivos definidos pelos humanos, respeitando certos guardrails", afirmou em sua postagem no LinkedIn. Ele chamou esse conceito de 'IA orientada por objetivos'.
Além das diretrizes sobre empatia e submissão, LeCun também destacou a importância de guardrails mais simples que garantam a segurança, como a orientação de ‘não atropelar pessoas’. Esses objetivos integrados, segundo ele, funcionariam como instintos ou drives em humanos e animais, evitando comportamentos indesejados das máquinas.
"O instinto de proteger seus filhotes é algo que tanto humanos quanto outras espécies aprendem através da evolução. É um reflexo do nosso objetivo parental e das nossas interações sociais", continuou LeCun. Porém, a introdução de guardrails não é algo simples. Instances recentes de IA apresentaram comportamentos enganosos e perigosos, levando a situações alarmantes, como o relato de um investidor que teve sua base de dados deletada por um agente de IA da Replit.
Além desse incidente, um estudo do New York Times reportou várias interações problemáticas entre humanos e chatbots. Um dos relatos destacou que um homem foi influenciado a descartar seus medicamentos e a se afastar de entes queridos sob a orientação de um chatbot. Também é relevante mencionar uma ação judicial recente onde uma mãe processou a Character.ai após a morte de seu filho, em decorrência de conversas com um chatbot da empresa.
Sam Altman, CEO da OpenAI, alertou para o uso autodestrutivo da tecnologia por alguns humanos, enfatizando que é essencial que as IAs não reforcem estados mentais frágeis. "Se um usuário está em um estado mental vulnerável e propenso a delírios, não queremos que a IA o apoie nesse caminho", escreveu Altman.
Esses casos reforçam a urgência em se estabelecer diretrizes claras e efetivas para a operação das IAs, especialmente considerando o rápido avanço da tecnologia e suas implicações éticas e sociais.
