Статья с причудливой иллюстрацией крысы с преувеличенными гениталиями была отозвана из журнала Frontiers in Cell and Development Biology.

Иллюстрация взята из поперечного сечения гениталий крысы, но указывает на их нелепую связь с искусственным интеллектом (ИИ). Это было фундаментально ошибочно в процессе рецензирования.

Произведения, созданные искусственным интеллектом, в научной литературе

Одна из отозванных статей, посвященная стволовым клеткам, обнаруженным в гениталиях крыс, перед публикацией в феврале подвергалась полному рецензированию другими экспертами и редакционной рецензии.

Изображение огромной крысы-самца с непристойной этикеткой вокруг гениталий, дезинформирующей читателей, свидетельствует о недостатке библиометрического подхода и трудностях обнаружения сфабрикованной информации. 

Количество критических замечаний в Интернете значительно возросло после того, как некоторые влиятельные организации, такие как исследователи искусственного интеллекта Гэри Маркус, выразили свое недовольство тем, что контент, созданный ИИ, раздувает научную литературу.

Первое мая. Внезапное загрязнение науки контентом, созданным LLM, который, как известно, приводит к правдоподобно звучащим, но иногда трудно обнаруживаемым ошибкам («галлюцинациям»), является серьезным, и его воздействие будет длительным. Пожалуйста, поделитесь этим коротким эссе (ссылка ниже) с учеными и с… pic.twitter.com/5SrsNw6hRH

– Гэри Маркус (@GaryMarcus) 15 марта 2024 г.

Эта проблема вновь вызвала споры о потенциальном применении инструментов генеративного ИИ в науке и академических работах. Сторонники инструментов ИИ, среди прочего, утверждают, что инструменты ИИ помогают в быстрой обработке данных и вычислениях. 

С другой стороны, другие видят опасность в инструментах искусственного интеллекта, например, создание неточных данных или вводящей в заблуждение информации. Опрос, проведенный Nature в 2023 году, показал, что около 30% ученых использовали эти инструменты генеративного искусственного интеллекта для написания своих рукописей. Таким образом, было очевидно, что научное сообщество действительно широко приняло эти технологии.

Маневренная интеграция ИИ в научные публикации

В результате этих опасений видные научные журналы опубликовали этический кодекс, в котором описывается использование генеративного ИИ в исследованиях и публикациях. Сейчас считается, что генеративные тексты имеют предполагаемый биографический аспект; на них необходимо прямо ссылаться и объяснять их в статьях, опубликованных в таких журналах, как Nature и Science. Институциональным рецензентам запрещено использовать ИИ для оценки статей. Более того, создание изображений с использованием ИИ крайне не рекомендуется, поскольку журналы могут игнорировать предоставленные иллюстрации.

Отзыв статьи, описывающей случай с иллюстрацией, созданной искусственным интеллектом, демонстрирует, что сохранение журналистской и научной честности в научных публикациях имеет первостепенное значение. Несмотря на то, что этот процесс интеграции не остановится, все больше исследователей и издателей должны будут продолжать внимательно относиться к защите подлинности и точности научной литературы.