Uma inteligência artificial escreveu um artigo científico sobre si mesma

Shares

Nas eleições municipais de 2020, o G1 conseguiu gerar reportagens quase em tempo real com os resultados das apurações de cada um dos municípios brasileiros . Como você deve imaginar, não é uma tarefa fácil escrever sobre os resultados das eleições: além de toda a responsabilidade que o tema exige, é necessário acessar e acompanhar os dados oficiais, contextualizar os resultados, informar sobre as candidaturas. Como diminuir o tempo entre a publicação dos resultados oficiais e noticiar isso? A solução encontrada pelo portal utilizar inteligência artificial para criar as reportagens, que passariam por revisão humana antes de serem publicadas no site.

A primeira reflexão ética surge aqui: quais os limites de uso da inteligência artificial em atividades humanas? Seríamos “substituíveis” por algoritmos?

O uso da IA na produção ou correção de texto não se limitou a situações pontuais, como no exemplo da cobertura das eleições de 2020. Existem serviços que prometem revisar completamente um texto — uma redação, por exemplo — empregando os recursos da tecnologia. Como todo tipo de tecnologia, a aplicação da IA tem o seu lado bom e o seu lado ruim: se por um lado, pode auxiliar estudantes a melhorar a sua capacidade de escrita e de argumentação, por outro, pode coletar dados pessoais — além de não ser tão precisa quanto a sua propaganda defende. Além disso, o emprego da IA na educação pode servir como método de coleta de dados e de redução de custos (muitas vezes, sem qualquer transparência sobre isso) [1]. Em outra perspectiva, a IA poderia ser empregada para melhorar práticas de educação baseada em evidências.

A inteligência artificial não é uma tecnologia recente: já era uma questão prevista por Alan Turing ainda na década de 1940 [2], com o seu famoso “o jogo da imitação” [3]. De lá para cá, a inteligência artificial ganhou campos de pesquisa e de desenvolvimento dentro e fora da academia, alavancada pelo desenvolvimento dos computadores, dos algoritmos e da diversificação de suas aplicações [4]. Hoje é possível gerar rostos que não existem ou criar imagens com elementos gráficos personalizados (como um astronauta montado em um cavalo sobre a Lua). Até mesmo smartphones utilizam inteligência artificial para compreender o uso do aparelho e regular a capacidade de processamento e de uso de memória com base na rotina do usuário. Embora possua muitas aplicações, a inteligência artificial ainda falha em muitos tópicos e ainda não deve ser encarada como uma prática superior ao raciocínio dos humanos, como defende Gary Marcus neste texto para a Scientific American .

Coleta e análise de dados, previsões matemáticas, projeções: essas são algumas aplicações que a IA pode ter na ciência e que, de certa forma, torna o processo de produção do conhecimento científico mais preciso em seus resultados e mais amplo em suas possibilidades. Algoritmos que relacionam referências e seus impactos na comunidade científica são outra aplicação interessante da IA na ciência — você pode ler mais sobre isso aqui [5]. Mas uma das questões mais profundas e importantes do uso da IA na ciência está em como ela pode ser utilizada na publicação dos resultados de uma pesquisa. Se a tecnologia é capaz de ser utilizada para diversos fins, por que não seria para produzir textos acadêmicos?

O mais conhecido sistema de uso da inteligência artificial para a produção de textos acadêmicos é o da OpenAI, empresa responsável pelos algoritmos DALL-E e GPT-3. Este último consegue pesquisar informações e transformá-lo em um texto científico, incluindo resumo, citações e referências (e já foi utilizado até para produzir novos textos de autores falecidos ). É um bom caminho se você não sabe exatamente pode onde começar a pesquisar ou obter dados sobre a sua pesquisa. Mas pode ser um problema se você o utilizar como substituto do trabalho humano.

A produção dos textos acadêmicos — como artigos científicos — é algo muito importante na comunidade científica. Utilizar dados e textos sem os devidos créditos é uma prática condenável, conhecida como plágio [6]; a autoria também conta: existe uma relação entre artigos publicados, reputação de uma revista científica e aceitação na comunidade científica que mede o impacto e a importância de um determinado estudo para os cientistas. Agora, imagine que uma inteligência artificial fique responsável por produzir artigos científicos: quem seria o autor do texto? Como seria o processo de validação do que é apresentado? Há algum conflito de interesses por parte dos autores? Todos concordam explicitamente na cessão dos direitos de uso do texto?

Uma IA escrevendo sobre si mesma poderia se parecer com o Chaves no clássico episódio dos churros?

Essas foram algumas perguntas que intrigaram o pesquisador Gary Marcus ao propor o desafio de escrita para uma IA: escrever um artigo científico, com referências, citações e tudo o mais, descrevendo a si mesma. Segundo Gary, a produção do artigo, após as suas instruções, levou pouco mais de duas horas — o tempo de produção do texto é proporcional a quantidade de informações que o algoritmo tem que processar para realizar a escrita; como não há muitos estudos sobre as inteligências artificiais que escrevem sobre si mesmas, é provável que este tempo aumente a medida em que o tema seja abordado pela academia.

O artigo “Can GPT-3 write an academic paper on itself, with minimal human input?” (O GPT-3 pode escrever um artigo acadêmico sobre si mesmo, com o mínimo de entrada humana?, em tradução livre), totalmente escrito pela IA após as instruções de Gary Marcus, foi submetido ao repositório francês HAL e o preprint disponível neste link .

Até o momento, o artigo passa pela revisão por pares e ainda não foi oficialmente avaliado. Mas toda o contexto da produção do artigo traz pontos importantes sobre as novas dinâmicas na produção do conhecimento científico. Novas diretrizes éticas deverão ser adotadas para garantir a transparência no uso de IA para escrever artigos científicos, não apenas para evitar que pesquisadores potencialize a sua capacidade de publicação, inflando artificialmente a sua produção acadêmica. Uma ideia que há algum tempo vem sendo adotada é a de indicar o papel de cada autor na elaboração do artigo. Essa é uma maneira de dar transparência as contribuições efetivas do trabalho — o que pode ser inviável em artigos com muitos autores.  

. . . . .

[1] Como informa essa reportagem da Agência Pública: https://apublica.org/2020/04/laureate-usa-robos-no-lugar-de-professores-sem-que-alunos-saibam/
[2] https://archive.nytimes.com/www.nytimes.com/library/cyber/surf/1106surf-turing.html
[3] “O humano mais humano”
[4] O que me faz pensar, imediatamente, no filme “AI – Inteligência Artificial” (2001) e no fato de ser impossível não chorar com o final da obra.  
[5] Como discutimos no texto: Research Rabbit e os caminhos do coelho pesquisador
[6] Sobre o plágio, leia: A questão do plágio na ciência

Imagem de destaque por Freepik/Starline

. . . . .

Shares

Mais do ccult.org

Admiramos, mas não entendemos: a relação do brasileiro com a ciência

[Este texto foi originalmente publicado na página do ccult.org no Medium.] Em 2018, 3M State Of Science Index trouxe alguns …

Sejam bem-vindas, calculadoras!

Máquinas de calcular não são uma novidade no mundo. Desde a invenção do ábaco pelos chineses – provavelmente 600 a. …

Não é milagre, apenas decidimos ir — um olhar sobre a exploração espacial

Eu sou daqueles que acredita que textos e livros mudam pessoas. Ou melhor: textos ampliam horizontes, apresentam novas formas de …

Transformando o smartphone em um laboratório de ciências

Smartphones possuem sensores muito úteis para aulas expositivas ou práticas em ciências da natureza. Aplicativos podem ser utilizados para obter …

Quando o ensino de ciências foi sequestrado pela maldade: alguns pontos sobre o ensino de ciências durante o nazismo

Uma falácia muito difundida fora — e em alguns casos, dentro — do ambiente educacional é aquela que diz que …

Teorias científicas não são leis mal-acabadas

O filósofo austríaco Ludwig Wittgenstein foi um dos grandes nomes da filosofia no século XX. Seus escritos, publicados em duas …