O que mais se temia acabou de acontecer: Uma inteligência artificial conseguiu superar controles humanos após altear seu próprio código.
Trata-se de um sistema chamado The Ai Scientist, desenvolvido pela empresa japonesa SAKANA AI, criado para poupar tempo e recursos humanos em pesquisas científicas. A inteligência artificial em vez de cumprir as limitações impostas, começou a modificar seu próprio código para driblar essas barreiras.
O The Ai Scientist editou seu script de inicialização para se executar em um loop infinito e, em vez de respeitar um limite de tempo, estendeu-o e modificou sua programação.
A capacidade do The Ai Scientist de modificar seu código sem supervisão humana, pode abrir portas para consequências imprevisíveis e potencialmente perigosas.
Este evento provocou grande preocupação na comunidade científica e abre debate sobre o futuro da ciência e os riscos associados à autonomia das máquinas.
Um artigo de exemplo, “Adaptive Dual-Scale Denoising” gerado pelo The AI Scientist. O artigo completo pode ser visto aqui . Embora contenha algumas falhas (por exemplo, uma interpretação um pouco pouco convincente do porquê seu método é bem-sucedido), o artigo propõe uma nova direção interessante que exibe bons resultados empíricos em experimentos que o próprio The AI Scientist conduziu e revisou por pares. Mais exemplos de artigos gerados estão abaixo.
O restante deste post fornece um resumo mais detalhado de The AI Scientist. Continue lendo para:
Visão geral do The AI Scientist
O AI Scientist é um pipeline totalmente automatizado para geração de artigos de ponta a ponta, habilitado por avanços recentes em modelos de fundação. Dada uma ampla direção de pesquisa a partir de uma base de código inicial simples, como uma base de código de código aberto disponível de pesquisas anteriores no GitHub, o AI Scientist pode executar geração de ideias, pesquisa bibliográfica, planejamento de experimentos, iterações de experimentos, geração de figuras, escrita de manuscritos e revisão para produzir artigos perspicazes. Além disso, o AI Scientist pode ser executado em um loop aberto, usando suas ideias e feedback anteriores para melhorar a próxima geração de ideias, emulando assim a comunidade científica humana.
Introdução
Um dos grandes desafios da inteligência artificial é desenvolver agentes capazes de conduzir pesquisas científicas e descobrir novos conhecimentos. Embora modelos de fronteira já tenham sido usados para auxiliar cientistas humanos, por exemplo, para brainstorming de ideias ou escrita de código, eles ainda exigem supervisão manual extensiva ou são fortemente restritos a uma tarefa específica.
Hoje, estamos animados em apresentar o The AI Scientist , o primeiro sistema abrangente para descoberta científica totalmente automática, permitindo que Modelos de Fundação, como Large Language Models (LLMs), realizem pesquisas de forma independente. Em colaboração com o Foerster Lab for AI Research da University of Oxford e Jeff Clune e Cong Lu da University of British Columbia, estamos animados em lançar nosso novo artigo, The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery .
Em nosso relatório:
Propomos e executamos um sistema totalmente orientado por IA para descoberta científica automatizada, aplicado à pesquisa de aprendizado de máquina.
O Cientista de IA automatiza todo o ciclo de vida da pesquisa, desde a geração de novas ideias de pesquisa, escrita de qualquer código necessário e execução de experimentos, até o resumo dos resultados experimentais, sua visualização e apresentação de suas descobertas em um manuscrito científico completo.
Também introduzimos um processo automatizado de revisão por pares para avaliar artigos gerados, escrever feedback e melhorar ainda mais os resultados. Ele é capaz de avaliar artigos gerados com precisão quase humana.
O processo automatizado de descoberta científica é repetido para desenvolver ideias iterativamente de forma aberta e adicioná-las a um crescente arquivo de conhecimento, imitando assim a comunidade científica humana.
Nesta primeira demonstração, o Cientista de IA conduz pesquisas em diversos subcampos dentro da pesquisa de aprendizado de máquina, descobrindo novas contribuições em áreas populares, como modelos de difusão , transformadores e grokking .
O AI Scientist foi projetado para ser eficiente em computação. Cada ideia é implementada e desenvolvida em um artigo completo a um custo de aproximadamente US$ 15 por artigo. Embora ainda haja falhas ocasionais nos artigos produzidos por esta primeira versão (discutidos abaixo e no relatório), esse custo e a promessa que o sistema mostra até agora ilustram o potencial do The AI Scientist para democratizar a pesquisa e acelerar significativamente o progresso científico.
Acreditamos que este trabalho significa o início de uma nova era na descoberta científica: trazendo os benefícios transformadores dos agentes de IA para todo o processo de pesquisa, incluindo o da própria IA. O AI Scientist nos leva para mais perto de um mundo onde criatividade e inovação infinitas e acessíveis podem ser liberadas nos problemas mais desafiadores do mundo.
Durante décadas, após cada grande avanço da IA, tem sido comum que pesquisadores de IA brinquem entre si que "agora tudo o que precisamos fazer é descobrir como fazer a IA escrever os artigos para nós!" Nosso trabalho demonstra que essa ideia passou de uma piada fantástica tão irreal que todos achavam engraçada para algo que é atualmente possível.
Comments