Ciência enfrenta avanço de estudos falsos criados com IA

(Arte Lutti Afonso/Adobe Stock)

Um velho ditado prega que “a mentira tem pernas curtas”. Mas, até ser descoberta, tem poder para fazer muitos estragos. Os meios acadêmico e científico vêm sofrendo com um efeito colateral da inteligência artificial: a chamada “fake science” (ciência falsa, em tradução livre).

Clique aqui para seguir agora o canal de A Tribuna no WhatsApp!

Trata-se de teses de doutorado, mestrado, pesquisas e outros tipos de materiais feitos com um verniz de autenticidade, mas não são verdadeiros. Combater esse tipo de ação virou uma missão de quem trabalha a sério no setor.

Para se ter uma ideia, já em 2021, a Royal Society of Chemistry, do Reino Unido, retirou 68 artigos da RSC Advance, revista científica criada em 2011 para a publicação de artigos científicos na área de química. A razão: eram fraudulentos.

“A IA pode gerar milhares de artigos com linguagem que parece erudita e sofisticada, inundando bancos de dados e dificultando a busca por pesquisas legítimas e revisadas. Com isso, pesquisadores podem gastar meses tentando replicar experimentos, simulações ou metodologias baseadas em dados que simplesmente foram “alucinados” pela IA e não possuem respaldo na realidade física ou matemática”, afirma o mestre em Física e Astronomia Alexandre Valentim.

Práticas

Ele conta que o meio acadêmico tem buscado se prevenir da “fake science”, adotando algumas práticas. Uma delas é a revisão pelos pares, ou seja, outros profissionais também capacitados observam o trabalho de forma minuciosa.

“Cada vez mais, revistas científicas exigem que os autores publiquem também os dados brutos e os códigos-fonte (como scripts de análise de dados) usados na pesquisa. Se o artigo foi gerado por IA sem embasamento, o autor não terá os dados estruturais para apresentar”, argumenta.

Estudo

O estudo Fake News e Desinformação Científica no Meio Digital: um Estudo Exploratório, de autoria de Max Melquiades da Silva e Beatriz Valadares Cendón, publicado em 2022, também oferecia uma análise sobre essa preocupação com informações falsas ligadas à ciência.

Ele investigou como a desinformação científica é produzida e disseminada na internet, com foco especial no YouTube. Os pesquisadores analisaram 5.234 verificações realizadas por agências de fact-checking em 2019 e identificaram 111 casos relacionados à desinformação científica.

Identificando a veracidade

Valentim pontua que a IA frequentemente sofre de “alucinações” e inventa títulos de artigos, nomes de autores e até números DOI (espécie de RG de uma publicação científica) que não existem. Por isso, checar a bibliografia é o primeiro grande filtro.

“Também é importante verificar se o artigo foi publicado em uma revista indexada e com histórico de revisão rigorosa, e não em “revistas predatórias” (que publicam qualquer coisa mediante pagamento). Além disso, checar o currículo (como o Lattes, no Brasil) e o histórico de publicações dos autores envolvidos”, complementa o professor.

A verdade é que a Fake Science surgiu porque ficou fácil fingir que se faz ciência. Ela está sendo combatida com mais fiscalização, novas regras e, principalmente, lembrando a base do método científico: confie, mas verifique.

A IA acelerou a produção. Agora a ciência precisa acelerar a checagem.