F.C.GONÇALVES 20 de fevereiro de 2023Modelos e algoritmos que utilizam inteligência artificial em seus produtos não são uma novidade no mundo. Ainda assim, temos uma justa sensação de que fomos alcançados por uma onda gigantesca que amplificou as possibilidades de uso da IA em coisas relativamente triviais — como a correção de um texto — até em práticas que exigem bastante técnica e muito estudo, como é o caso das criações artísticas e da elaboração de artigos científicos.
As possibilidades de uso da IA avançaram tão rapidamente que até os modelos de negócio da Alphabet, dona do buscador Google, tiveram que ser modificados para se adaptar a concorrência com o ChatGPT, que por sua vez foi abraçado pela Microsoft e já está disponível para uso em conjunto com o Bing — não sem trazer alguns constrangimentos, como respostas agressivas e com erros conceituais graves. Mas é muito provável que esses erros gerados pelos serviços de busca baseados em IA diminuam com o passar do tempo e com o aumento da interação entre usuários e algoritmo. Independente disso, o buzz gerado pela facilidade de uso das ferramentas de busca baseadas em IA colocou esse tipo de ferramenta como parte integrante das discussões éticas, sociais e pedagógicas a respeito de seu uso e aplicações.
O interessante é que o sucesso de tais ferramentas baseadas em inteligência artificial permitiu o surgimento e o aprimoramento de ferramentas de busca e de pesquisa. Um exemplo é o Talk2Books , mantido pela Google/Alphabet. Com ele, é possível lançar perguntas (em inglês [1]) e os resultados são apresentados a partir de trechos de livros e de periódicos indexados pelo Google Books.
O Talk2Books é interessante para encontrar informações sobre ciência, especialmente aquelas descritas em livros sobre o tema. O interessante é que o site apresenta a fonte da informação, isto é, os livros e os periódicos científicos indexados, de forma clara. Um pouquinho de criticidade ao analisar as informações apresentadas e até fica fácil separar o joio do trigo.
Agora, se o assunto é buscar informações científicas a partir da busca em artigos científicos, talvez você devesse recorrer ao Consensus.app . Com a mesma dinâmica do ChatGPT, é possível fazer uma busca apresentando um comando como uma pergunta ou o pedido a respeito de um dado e o algoritmo retornará citando não apenas artigos científicos onde o tema foi tratado, como também qual o nível de consenso que os artigos — e consequentemente, os cientistas — apresentam sobre o assunto. É uma ferramenta interessantíssima: primeiro porque permite a busca direta em artigos; depois, permite verificar a reputação do periódico onde o artigo foi publicado. E por último, apresenta uma espécie de “score” que mede o consenso científico sobre o tema baseando-se nos resultados encontrados pelo algoritmo (entretanto, essa função só está disponível após o login, que é gratuito, no site da ferramenta).
O problema aqui é que a ferramenta está em fase beta de testes e os bugs apresentados quanto ao consenso são um pouco irritantes. Perguntas simples, como “as vacinas contra a covid-19 são seguras?” trazem o resultado do consenso (vide imagem a seguir), enquanto outras perguntas não trazem qualquer informação sobre o consenso dos cientistas — embora os artigos e os trechos sejam corretamente apresentados.
Por exemplo, ao se perguntar para o Consensus.app se as mudanças climáticas existem, o site retorna um resultado nulo, isto é, a impossibilidade de se medir o consenso sobre o tema, para logo após a atualização da página, apresentar o resultado abaixo [2]!
Como apresentou o pesquisador Marcio Telles neste fio no Twitter , o Consensus.app tem alguns problemas, especialmente para lidar com conceitos ou dados relacionados a pesquisa em ciências humanas. Ao pesquisar sobre a memorização no ensino de ciências, a ferramenta retorna com resultados que destoam dos consensos na área: enquanto a busca é pela vivência da prática científica em todos os seus aspectos possíveis, os resultados trazidos apresentavam trechos que parecem enfatizar o sucesso que este tipo de prática possui. É possivelmente um erro de seleção do trecho a ser apresentado como resultado da busca que pode influenciar alguém menos avisado que eventualmente pesquise sobre o tema.
Como toda e qualquer tecnologia, os algoritmos de IA precisam ser utilizados de forma crítica e consciente de suas possibilidades, riscos, benefícios e implicações éticas. A conscientização é uma chave muito mais poderosa do que a simples proibição do uso. Reviva os primeiros anos da década de 2000 e tenha uma situação idêntica: a proibição do uso da Wikipédia como fonte de informação. Discutir o uso crítico, os critérios que tornam um texto com mais ou menos credibilidade, a citação de fontes: tudo isso ficou em segundo plano, à mercê das teorias de conspiração que defendiam que professores perderiam os seus empregos e o aprendizado seria irremediavelmente expandido para todos os lugares do mundo — reduzindo a escola a uma instituição absolutamente atrasada no tempo.
Além disso, o uso de algoritmos de IA pode potencializar a desinformação geral numa velocidade ainda maior do que aquela propiciada por redes sociais. Educar também é discutir essas inteligências que prometem — ou não — emburrecer as pessoas.
. . . . .
[1] O algoritmo reconhece outros idiomas, como a língua portuguesa. Contudo, os resultados são decepcionantes em um grau indescritível. Por exemplo, ao perguntar “qual é a idade do planeta Terra?”, utilizando o Português, o algoritmo não retornou qualquer resultado digno de nota — apenas trechos confusos e sem relação com a pergunta. Já em inglês, as respostas descrevem até a incerteza da medida da idade da Terra.
[2] O consenso científico não apenas aponta a existência das mudanças climáticas, como reafirma constantemente o papel da ação humana neste cenário, como já discutido aqui: Sobre o consenso científico das mudanças climáticas
. . . . .
F. C. Gonçalves é mestre em ciências pela Escola de Engenharia de Lorena (EEL-USP) desde 2019, além de licenciado em Física pela Universidade de Taubaté (Unitau) desde 2010, mesmo ano em que passou a atuar no ensino de Física nos níveis fundamental e médio. Como não sabe desenhar nem tocar nenhum instrumento musical, tampouco possui habilidades para construir qualquer tipo de artesanato, restou-lhe a escrita: “quando não sei o que dizer, escrevo”, diz. Desde criança é entusiasta do conhecimento científico. Da sede de querer conhecer mais sobre o mundo veio a paixão pela Astronomia. E quando menos percebeu, estava escrevendo e falando sobre o conhecimento científico para quem quisesse ler ou ouvir.
