Um artigo apresentando uma ilustração bizarra de um rato com genitália exagerada foi retirado de Frontiers in Cell and Developmental Biology

A ilustração vem do corte transversal dos órgãos genitais de um rato, mas rotula sua relação ridícula com a inteligência artificial (IA). Foi erroneamente fundamentalmente pelo processo de revisão por pares.

Arte gerada por IA na literatura científica

Um dos artigos retratados, que tratava das células-tronco encontradas nos órgãos genitais de ratos, foi submetido a uma revisão completa por pares por outros especialistas e a uma revisão editorial antes de sua publicação em fevereiro.

Uma imagem de um enorme rato macho usando uma etiqueta obscena em volta dos genitais, que desinforma os leitores, retrata uma falha na abordagem bibliométrica e dificuldades na detecção de informações fabricadas.

Várias críticas online aumentaram imensamente, com algumas organizações influentes, como os pesquisadores de inteligência artificial Gary Marcus, expressando seu desconforto com o conteúdo gerado por IA que está aumentando a literatura científica.

Mayday. A poluição repentina da ciência com conteúdo gerado por LLM, conhecido por produzir erros que parecem plausíveis, mas às vezes difíceis de detectar (“alucinações”), é séria, e seu impacto será duradouro. Por favor, compartilhe este pequeno ensaio (link abaixo) com cientistas e com… pic.twitter.com/5SrsNw6hRH

— Gary Marcus (@GaryMarcus) 15 de março de 2024

A questão trouxe de volta controvérsias sobre a aplicação potencial de ferramentas de IA generativas em artigos científicos e acadêmicos. Os proponentes de ferramentas de IA, entre outras coisas, alegam que as ferramentas de IA auxiliam no processamento rápido de dados e cálculos.

Por outro lado, outros veem um perigo nas ferramentas de inteligência artificial, como a criação de dados imprecisos ou informações enganosas. Uma pesquisa realizada pela Nature em 2023 mostrou que cerca de 30% dos cientistas introduziram essas ferramentas de IA generativas para escrever seus manuscritos. Assim, ficou evidente que a comunidade científica havia de fato aceitado amplamente essas tecnologias.

Manobrando a integração da IA ​​na publicação científica

Na esteira dessas preocupações, periódicos científicos eminentes emitiram um código de ética que delineou o uso de IA generativa em pesquisa e publicação. Textos generativos agora são considerados como tendo o aspecto biográfico sugerido; eles precisam ser explicitamente referenciados e explicados em artigos publicados por periódicos como Nature e Science. Revisores institucionais são proibidos de usar IA para avaliação de artigos. Além disso, criar imagens de IA é altamente desencorajado, pois os periódicos podem desconsiderar ilustrações fornecidas.

A retratação de um artigo retratando um caso envolvendo uma ilustração gerada por IA demonstra que manter a integridade jornalística e científica na publicação científica é primordial. Embora esse processo de integração não pare, mais pesquisadores e editores precisarão permanecer atentos à proteção da autenticidade e precisão da literatura científica.