Artykuł przedstawiający dziwaczną ilustrację szczura z przesadnymi genitaliami został wycofany z Frontiers in Cell and Developmental Biology

Ilustracja pochodzi z przekroju genitaliów szczura, ale opisuje ich absurdalny związek ze sztuczną inteligencją (AI). Było to zasadniczo błędne podejście w procesie recenzji naukowej.

Grafika wygenerowana przez sztuczną inteligencję w literaturze naukowej

Jeden z wycofanych artykułów, który dotyczył komórek macierzystych znalezionych w genitaliach szczurów, przed jego publikacją w lutym przeszedł pełną recenzję przeprowadzoną przez innych ekspertów oraz recenzję redakcyjną.

Obraz ogromnego szczura płci męskiej z obsceniczną etykietą wokół genitaliów, który wprowadza czytelników w błąd, ukazuje wadę podejścia bibliometrycznego i trudności w wykrywaniu sfabrykowanych informacji.

W Internecie pojawiło się wiele krytycznych opinii, a wpływowe organizacje, takie jak badacz sztucznej inteligencji Gary Marcus, wyraziły swój niepokój w związku z treściami generowanymi przez sztuczną inteligencję, które zapełniają literaturę naukową.

Mayday. Nagłe zanieczyszczenie nauki treściami generowanymi przez LLM, o których wiadomo, że powodują wiarygodnie brzmiące, ale czasami trudne do wykrycia błędy („halucynacje”), jest poważne i jego wpływ będzie trwały. Udostępnij ten krótki esej (link poniżej) naukowcom i… pic.twitter.com/5SrsNw6hRH

— Gary Marcus (@GaryMarcus) 15 marca 2024 r.

Problem ten wywołał ponownie kontrowersje dotyczące potencjalnego zastosowania narzędzi generatywnej sztucznej inteligencji w nauce i pracach akademickich. Zwolennicy narzędzi sztucznej inteligencji twierdzą między innymi, że narzędzia te pomagają w szybkim przetwarzaniu danych i wykonywaniu obliczeń.

Z drugiej strony inni widzą niebezpieczeństwo w narzędziach sztucznej inteligencji, takich jak tworzenie niedokładnych danych lub wprowadzających w błąd informacji. Badanie przeprowadzone przez Nature w 2023 r. wykazało, że około 30% naukowców wprowadziło te generatywne narzędzia AI do pisania swoich manuskryptów. Było więc oczywiste, że społeczność naukowa rzeczywiście szeroko zaakceptowała te technologie.

Manewrowanie integracją AI w publikacjach naukowych

W obliczu tych obaw wybitne czasopisma naukowe wydały kodeks etyczny, który określił wykorzystanie generatywnej AI w badaniach i publikacjach. Teksty generatywne są obecnie uznawane za posiadające sugerowany aspekt biograficzny; muszą być wyraźnie cytowane i wyjaśniane w artykułach wydawanych przez czasopisma takie jak Nature i Science. Recenzentom instytucjonalnym zabrania się używania AI do oceny artykułów. Ponadto tworzenie obrazów AI jest wysoce niezalecane, ponieważ czasopisma mogą zignorować dostarczone ilustracje.

Wycofanie artykułu przedstawiającego przypadek obejmujący ilustrację wygenerowaną przez AI pokazuje, że zachowanie dziennikarskiej i naukowej integralności w publikacjach naukowych jest najważniejsze. Chociaż ten proces integracji nie zostanie zatrzymany, więcej badaczy i wydawców będzie musiało zachować czujność, aby chronić autentyczność i dokładność literatury naukowej.