誇張された性器を持つネズミの奇妙なイラストを掲載した論文が、Frontiers in Cell and Developmental Biology から撤回された。
このイラストはネズミの性器の断面から取られているが、人工知能（AI）との馬鹿げた関係を描いている。査読プロセスによって根本的に誤っていた。
科学文献における AI 生成アート作品
撤回された論文のうちの1つは、ラットの生殖器で見つかった幹細胞を扱ったもので、2月に出版される前に他の専門家による徹底的な査読と編集レビューを受けていた。
性器の周りに卑猥なラベルをつけた巨大な雄ネズミの画像は、読者に誤った情報を与え、計量書誌学的アプローチの欠陥と捏造された情報の検出の難しさを浮き彫りにしています。
人工知能研究者のゲイリー・マーカス氏のような影響力のある組織が、AIが生成したコンテンツが科学文献を膨らませていることに不快感を表明したことで、オンラインでの批判が大幅に増加した。
メイデイ。LLM が生成したコンテンツによる科学の突然の汚染は、もっともらしく聞こえるが、時には誤り（「幻覚」）を検出するのが難しいことで知られており、深刻であり、その影響は永続するでしょう。この短いエッセイ（下のリンク）を科学者や…と共有してください。pic.twitter.com/5SrsNw6hRH
— ゲイリー・マーカス (@GaryMarcus) 2024年3月15日
この問題は、科学や学術論文における生成AIツールの潜在的な応用に関する論争を再び引き起こした。AIツールの支持者は、とりわけ、AIツールが高速なデータ処理と計算を支援すると主張している。
一方、不正確なデータや誤解を招く情報を作成するなど、人工知能ツールに危険性を感じている人もいます。2023年にネイチャーが実施した調査では、約30％の科学者が論文執筆にこれらの生成AIツールを導入していることが示されました。つまり、科学界が実際にこれらの技術を広く受け入れていたことは明らかでした。
科学出版における AI 統合の推進
こうした懸念を受けて、著名な科学雑誌は、研究および出版における生成 AI の使用について概説した倫理規定を発行しました。生成テキストは、現在、提案されている伝記的側面を持つものとみなされており、Nature や Science などの雑誌が発表する記事で明示的に参照および説明される必要があります。機関の査読者は、記事の評価に AI を使用することを禁じられています。さらに、AI 画像の作成は、雑誌が提供したイラストを無視する可能性があるため、強く推奨されていません。
AI 生成のイラストレーションに関する事例を扱った論文の撤回は、科学出版においてジャーナリズムと科学の誠実さを維持することが最も重要であることを示しています。この統合プロセスは止まることはありませんが、より多くの研究者と出版社が科学文献の信憑性と正確性を保護することに引き続き注意を払う必要があります。