Ein Artikel mit einer bizarren Abbildung einer Ratte mit übertriebenen Genitalien wurde aus Frontiers in Cell and Developmental Biology zurückgezogen

Die Abbildung stammt aus dem Querschnitt der Genitalien einer Ratte, verdeutlicht aber deren absurde Beziehung zur künstlichen Intelligenz (KI). Sie wurde durch den Peer-Review-Prozess fälschlicherweise grundlegend verfälscht.

KI-generierte Kunstwerke in der wissenschaftlichen Literatur

Einer der zurückgezogenen Artikel, der sich mit den in den Genitalien von Ratten gefundenen Stammzellen befasste, wurde vor seiner Veröffentlichung im Februar einem umfassenden Peer-Review durch andere Experten sowie einer redaktionellen Überprüfung unterzogen.

Das Bild einer riesigen männlichen Ratte, die ein obszönes Etikett um ihre Genitalien trägt, das die Leser falsch informiert, verdeutlicht einen Fehler im bibliometrischen Ansatz und die Schwierigkeiten bei der Erkennung erfundener Informationen.

Zahlreiche Kritiken im Internet haben enorm zugenommen, und einige einflussreiche Organisationen, wie der Künstliche Intelligenzforscher Gary Marcus, drückten ihr Unbehagen darüber aus, dass von KI generierte Inhalte die wissenschaftliche Literatur anschwellen lassen.

Mayday. Die plötzliche Verschmutzung der Wissenschaft mit von LLM generierten Inhalten, die bekanntermaßen plausibel klingende, aber manchmal schwer zu erkennende Fehler („Halluzinationen“) hervorbringen, ist schwerwiegend und ihre Auswirkungen werden nachhaltig sein. Bitte teilen Sie diesen kurzen Aufsatz (Link unten) mit Wissenschaftlern und mit … pic.twitter.com/5SrsNw6hRH

– Gary Marcus (@GaryMarcus), 15. März 2024

Das Thema hat erneut Kontroversen über die mögliche Anwendung generativer KI-Tools in der Wissenschaft und in akademischen Arbeiten ausgelöst. Befürworter von KI-Tools behaupten unter anderem, dass KI-Tools bei der schnellen Datenverarbeitung und Berechnung helfen.

Andere wiederum sehen in Tools der künstlichen Intelligenz eine Gefahr, etwa die Erstellung ungenauer Daten oder irreführender Informationen. Eine 2023 von Nature durchgeführte Umfrage ergab, dass etwa 30 % der Wissenschaftler diese generativen KI-Tools zum Verfassen ihrer Manuskripte eingesetzt hatten. Dies war also offensichtlich, dass die wissenschaftliche Gemeinschaft diese Technologien tatsächlich weitgehend akzeptiert hatte.

Die Integration von KI in wissenschaftliche Veröffentlichungen steuern

Im Zuge dieser Bedenken haben renommierte wissenschaftliche Zeitschriften einen Ethikkodex herausgegeben, der die Verwendung generativer KI in Forschung und Veröffentlichung umreißt. Generative Texte müssen nun den angedeuteten biografischen Aspekt aufweisen; sie müssen in Artikeln von Zeitschriften wie Nature und Science explizit referenziert und erklärt werden. Institutionellen Peer-Reviewern ist es untersagt, KI zur Artikelbewertung zu verwenden. Darüber hinaus wird dringend davon abgeraten, KI-Bilder zu erstellen, da Zeitschriften bereitgestellte Abbildungen möglicherweise nicht berücksichtigen.

Die Rücknahme eines Artikels, der einen Fall mit einer KI-generierten Illustration beschreibt, zeigt, dass die Wahrung journalistischer und wissenschaftlicher Integrität im wissenschaftlichen Publizieren von größter Bedeutung ist. Auch wenn dieser Integrationsprozess nicht enden wird, müssen mehr Forscher und Verleger weiterhin darauf achten, die Authentizität und Genauigkeit der wissenschaftlichen Literatur zu schützen.