Článek s bizarní ilustrací krysy s přehnanými genitáliemi byl stažen z Frontiers in Cell and Developmental Biology

Ilustrace pochází z průřezu krysích genitálií, ale označuje jejich směšný vztah s umělou inteligencí (AI). Zásadně to bylo mylně způsobeno procesem vzájemného hodnocení.

Umělá inteligence ve vědecké literatuře

Jeden ze stažených článků, který se zabýval kmenovými buňkami nalezenými v krysích genitáliích, byl před zveřejněním v únoru podroben kompletnímu peer review jinými odborníky a redakčnímu přezkumu.

Obrázek obrovského krysího samce s obscénním štítkem kolem genitálií, který dezinformuje čtenáře, zobrazuje chybu v bibliometrickém přístupu a potíže při odhalování smyšlených informací. 

Několik kritik online nesmírně vzrostlo, když některé vlivné organizace, jako je výzkumník umělé inteligence Gary Marcus, vyjádřil své nepohodlí s obsahem generovaným umělou inteligencí, který rozšířil vědeckou literaturu.

Mayday. Náhlé znečištění vědy obsahem generovaným LLM, o kterém je známo, že přináší věrohodně znějící, ale někdy obtížně odhalitelné chyby („halucinace“), je vážné a jeho dopad bude trvalý. Sdílejte prosím tento krátký esej (odkaz níže) s vědci a s… pic.twitter.com/5SrsNw6hRH

— Gary Marcus (@GaryMarcus) 15. března 2024

Toto téma vyvolalo kontroverze o potenciální aplikaci generativních nástrojů umělé inteligence ve vědeckých a akademických pracích. Zastánci nástrojů AI mimo jiné tvrdí, že nástroje AI pomáhají při rychlém zpracování dat a výpočtech. 

Jiní naopak vidí nebezpečí v nástrojích umělé inteligence, jako je vytváření nepřesných dat nebo zavádějící informace. Průzkum, který provedla Nature v roce 2023, ukázal, že asi 30 % vědců zavedlo tyto generativní nástroje umělé inteligence k psaní svých rukopisů. Bylo tedy zřejmé, že vědecká komunita tyto technologie skutečně široce přijala.

Manévrující integrace AI ve vědeckém publikování

V důsledku těchto obav vydaly významné vědecké časopisy etický kodex, který nastínil použití generativní umělé inteligence ve výzkumu a publikacích. Generativní texty jsou nyní považovány za texty s navrhovaným biografickým aspektem; je třeba na ně explicitně odkazovat a vysvětlit je v článcích vydávaných časopisy jako Nature a Science. Institucionální recenzenti mají zakázáno používat AI pro hodnocení článků. Kromě toho se důrazně nedoporučuje vytvářet obrázky AI, protože časopisy mohou zařízené ilustrace ignorovat.

Stažení článku zobrazujícího případ zahrnující ilustraci vygenerovanou umělou inteligencí ukazuje, že zachování novinářské a vědecké integrity ve vědeckém publikování je prvořadé. I když se tento integrační proces nezastaví, bude muset více výzkumníků a vydavatelů věnovat pozornost ochraně pravosti a přesnosti vědecké literatury.