Cong Lu há muito é fascinado por uma vez que usar a tecnologia para tornar seu trabalho uma vez que observador pesquisador mais eficiente. Mas seu último projeto leva a teoria ao extremo.
Lu, que é pesquisador de pós-doutorado e professor na Universidade de British Columbia, faz secção de uma equipe que está construindo um “Pesquisador de IA” com o cobiçoso objetivo de gerar um sistema mantido por IA que possa realizar de forma autônoma todas as etapas do método científico.
“O Pesquisador de IA automatiza todo o ciclo de vida da pesquisa, desde a geração de novas ideias de pesquisa, escrita de qualquer código necessário e realização de experimentos, até o resumo dos resultados experimentais, sua visualização e apresentação de suas descobertas em um manuscrito científico completo”, diz um escrito no site do projeto. O sistema de IA ainda tenta uma “revisão por pares” do item de pesquisa, o que essencialmente traz outro chatbot para verificar o trabalho do primeiro.
Uma versão inicial deste AI Scientist já foi lançada – qualquer um pode baixe o código de perdão. E muitas pessoas fizeram isso. Ele fez o equivalente a se tornar viral, com mais de 7.500 pessoas gostando do projeto na livraria de códigos GitHub.
Para Lu, o objetivo é apressar a invenção científica, permitindo que cada observador adicione efetivamente assistentes de nível de doutorado para ultrapassar rapidamente os limites e “democratizar” a ciência, tornando mais fácil a meio de pesquisas.
“Se ampliarmos nascente sistema, poderá ser uma das formas de realmente ampliarmos a invenção científica para milhares de áreas subfinanciadas”, diz ele. “Muitas vezes o gargalo está no bom pessoal e nos anos de treinamento. E se pudéssemos mobilizar centenas de cientistas para resolver seus problemas favoritos e tentar resolver isso?
Mas ele admite que há muitos desafios nesta abordagem – uma vez que evitar que os sistemas de IA “tenham alucinações”, uma vez que a IA generativa em universal tende a fazer.
E se funcionar, o projeto levanta uma série de questões existenciais sobre qual o papel que os investigadores humanos – a força de trabalho que impulsiona grande secção do ensino superior – desempenhariam no horizonte.
O projeto surge num momento em que outros cientistas levantam preocupações sobre o papel da IA na investigação.
UM papel nascente mêspor exemplo, descobriu que os chatbots de IA já estão a ser usados para gerar artigos de investigação fabricados que aparecem no Google Scholar, muitas vezes sobre temas controversos uma vez que a investigação climática.
E à medida que as empresas de tecnologia continuam a lançar chatbots mais poderosos para o público – uma vez que o novidade versão do ChatGPT divulgado pela OpenAI nascente mês – proeminentes especialistas em IA estão levantando novas preocupações de que os sistemas de IA possam ultrapassar as barreiras de proteção de maneiras que ameaçam a segurança global. Por fim de contas, secção da “democratização da investigação” poderia levar a um maior risco de transformar a ciência em arma.
Acontece que a grande questão pode ser se a mais recente tecnologia de IA é capaz de fazer novas descobertas científicas ao automatizar o processo científico, ou se há um pouco exclusivamente humano nesse empreendimento.
Verificando erros
O campo do aprendizagem de máquina – o único campo para o qual a instrumento AI Scientist foi projetada até agora – pode ser mormente adequado para automação.
Por um lado, é altamente estruturado. E mesmo quando os seres humanos fazem a investigação, todo o trabalho acontece num computador.
“Para qualquer coisa que exija um laboratório úmido ou material prático, ainda temos que esperar que nossos assistentes robóticos apareçam”, diz Lu.
Mas o investigador diz que as empresas farmacêuticas já realizaram um trabalho significativo para automatizar o processo de invenção de medicamentos e acredita que a IA poderia levar essas medidas mais longe.
Um duelo prático para o projeto AI Scientist tem sido evitar alucinações de IA. Por exemplo, Lu diz que, uma vez que grandes modelos de linguagem geram continuamente o próximo caractere ou “token” com base na verosimilhança derivada dos dados de treinamento, há momentos em que tais sistemas podem produzir erros ao imitar dados. Por exemplo, o observador de IA pode inserir 7,1 quando o número correto em um conjunto de dados for 9,2, diz ele.
Para evitar isso, sua equipe está usando um sistema sem IA ao movimentar alguns dados e fazendo com que o sistema “verifique rigorosamente todos os números” para detectar quaisquer erros e corrigi-los. Ele diz que uma segunda versão do sistema da equipe que espera lançar ainda nascente ano será mais precisa do que a atual no que diz reverência ao tratamento de dados.
Mesmo na versão atual, o site do projeto se orgulha de que o Pesquisador de IA pode realizar pesquisas muito mais baratas do que os Ph.Ds humanos, estimando que um item de pesquisa pode ser criado – desde a geração de ideias até a redação e revisão por pares – por murado de US$ 15 em computação. custos.
Lu se preocupa com a possibilidade de o sistema deixar pesquisadores uma vez que ele sem trabalho?
“Com as capacidades atuais dos sistemas de IA, penso que não”, diz Lu. “Acho que agora é principalmente um assistente de pesquisa extremamente poderoso que pode ajudá-lo a dar os primeiros passos e explorar todas as ideias para as quais você nunca teve tempo, ou até mesmo ajudá-lo a debater e investigar algumas ideias sobre um novo tópico para você .”
No horizonte, se a instrumento melhorar, Lu admite que poderá eventualmente levantar questões mais difíceis para o papel dos investigadores humanos. Embora, nesse contexto, a pesquisa não seja a única coisa transformada por ferramentas avançadas de IA. Por enquanto, porém, ele vê isso uma vez que o que labareda de “multiplicador de força”.
“É exatamente uma vez que os assistentes de código agora permitem que qualquer pessoa codifique de maneira muito simples um aplicativo de jogo traste ou um novo site”, diz ele.
Os líderes do projeto colocaram barreiras nos tipos de projetos que ele pode tentar, para evitar que o sistema se torne um observador louco por IA.
“Na verdade, não queremos muitos vírus novos ou muitas maneiras diferentes de fabricar bombas”, diz ele.
E eles limitaram o AI Scientist a um sumo de duas ou três horas de cada vez, diz ele, “para que possamos controlá-lo”, observando que há um limite de “estragos que ele poderia originar nesse tempo”.
Multiplicando a má ciência?
À medida que a utilização de ferramentas de IA se espalha rapidamente, alguns cientistas temem que possam ser utilizadas para impedir o progresso científico, inundando a Internet com artigos fabricados.
Quando a pesquisadora Jutta Haider, professora de biblioteconomia, informação, ensino e TI na Escola Sueca de Biblioteconomia e Ciência da Informação, procurou no Google Scholar artigos com resultados fabricados por IA, ficou surpresa com a quantidade que encontrou.
“Porque eram documentos muito mal produzidos”, explica ela, observando que os papéis claramente não foram escritos por um ser humano. “Unicamente uma simples revisão deveria ter eliminado isso.”
Ela diz que espera que haja muito mais artigos fabricados por IA que sua equipe não detectou. “É a ponta do iceberg”, diz ela, uma vez que a IA está se tornando mais sofisticada, portanto será cada vez mais difícil expressar se um pouco foi escrito por humanos ou por IA.
Um problema, diz ela, é que é fácil listar um item no Google Scholar e, se você não for um pesquisador, pode ser difícil enobrecer periódicos e artigos respeitáveis daqueles criados por malfeitores que tentam espalhar desinformação ou adicione trabalhos fabricados ao seu currículo e espere que ninguém verifique onde ele foi publicado.
“Devido ao paradigma de publicar ou perecer que rege a liceu, não é provável fazer curso sem publicar muito”, diz Haider. “Mas alguns dos papéis são realmente ruins, portanto provavelmente ninguém fará curso com os que encontramos.”
Ela e seus colegas estão pedindo ao Google que faça mais para procurar artigos fabricados por IA e outras ciências inúteis. “O que eu realmente recomendo que o Google Scholar faça é contratar uma equipe de bibliotecários para desenredar uma vez que mudar isso”, acrescenta ela. “Não é transparente. Não sabemos uma vez que ele preenche o índice.”
A EdSurge entrou em contato com funcionários do Google, mas não obteve resposta.
Lu, do projeto AI Scientist, diz que os artigos científicos inúteis têm sido um problema há qualquer tempo e partilha a preocupação de que a IA possa tornar o maravilha mais espalhado. “Recomendamos que, sempre que você executar o sistema AI Scientist, qualquer coisa gerada por IA tenha marca d’chuva para que seja gerada por IA verificável e não possa ser considerada um envio real”, diz ele.
E ele espera que a IA possa realmente ser usada para ajudar a examinar pesquisas existentes – sejam elas escritas por humanos ou por bots – para desenredar trabalhos problemáticos.
Mas isso é ciência?
Embora Lu diga que o observador de IA já produziu alguns resultados úteis, ainda não está simples se a abordagem pode levar a novas descobertas científicas.
“Os bots de IA são ladrões realmente bons em muitos aspectos”, diz ele. “Eles podem imitar o estilo de arte de qualquer pessoa. Mas eles poderiam inventar um novo estilo de arte que nunca foi visto antes? É difícil expressar.”
Ele diz que há um debate na comunidade científica sobre se as grandes descobertas resultam de um pastiche de ideias ao longo do tempo ou envolvem atos únicos de originalidade e genialidade humana.
“Por exemplo, as ideias de Einstein eram novas ou estavam no ar na quadra?” ele se pergunta. “Muitas vezes, a teoria certa está diante de nós o tempo todo.”
As consequências do Pesquisador de IA dependerão dessa questão filosófica.
Para Haider, o estudioso sueco, ela não está preocupada com a possibilidade de a IA usurpar seu ofício.
“Não faz sentido que a IA faça ciência”, diz ela. “A ciência vem de uma urgência humana de compreender – uma urgência existencial de querer compreender – o mundo.”
“Talvez haja um pouco que imite a ciência”, conclui ela, “mas não é ciência”.
