A Inovação dos Compiladores: Uma Experiência com Agentes de IA
Recentemente, um projeto inovador reuniu 16 instâncias do modelo de IA Claude para desenvolver um novo compilador em C, destacando as capacidades emergentes da inteligência artificial na programação. Este experimento, custando aproximadamente 20 mil dólares em taxas de API, culminou na criação de um compilador baseado em Rust, capaz de compilar o núcleo Linux 6.9 em várias arquiteturas, incluindo x86, ARM e RISC-V.
A pesquisa, conduzida por Nicholas Carlini da Anthropic, mostrou como esses agentes autônomos poderiam colaborar em um repositório de código compartilhado, identificando e resolvendo problemas de maneira independente. Ao longo de duas semanas, a equipe de Claude apresentou um total de 100 mil linhas de código, demonstrando um potencial significativo para a programação assistida por IA.
No entanto, as reivindicações de sucesso vêm com importantes ressalvas. Apesar de o compilador ter sido capaz de compilar projetos significativos, como PostgreSQL e FFmpeg, ele ainda apresenta limitações. Por exemplo, falta um backend de 16 bits para iniciar o Linux a partir do modo real, e a sua eficiência de código não se compara à oferecida por compiladores tradicionais como o GCC em suas configurações ideais.
Desafios da Programação com IA
Carlini reconhece que a tarefa de construir um compilador foi ideal para a IA, pois as especificações são bem definidas e testadas. No entanto, ele observou que “o verdadeiro trabalho no desenvolvimento de software não é apenas escrever código que passe em testes, mas entender quais testes devem ser feitos.” A diversidade de desafios enfrentados ao longo do projeto enfatiza a complexidade da programação autônoma e as limitações que a tecnologia atual ainda possui.
A abordagem da Anthropic em relação ao projeto foi rotulada como uma "implementação em sala limpa". No entanto, isso gerou discussões acaloradas entre os desenvolvedores, que destacaram que o modelo foi treinado com uma vasta quantidade de código-fonte disponível publicamente, levantando questões sobre a originalidade e a autonomia das soluções produzidas.
Resultados e Implicações para o Futuro
Embora a experiência tenha revelado um avanço significativo na programação por agentes, a criação do compilador trouxe à tona preocupações sobre a segurança do software. A melhoria contínua da IA pode conduzir à capacidade de desenvolver software sem a verificação humana necessária, levantando questões éticas e de segurança. Carlini concluiu que "a ideia de programadores implementando software que nunca verificaram pessoalmente é uma preocupação real".
