Một bài báo có hình minh họa kỳ lạ về một con chuột có cơ quan sinh dục phóng đại đã bị rút lại khỏi Biên giới trong Sinh học Tế bào và Phát triển

Hình minh họa lấy từ mặt cắt ngang bộ phận sinh dục của chuột nhưng lại gắn mác mối quan hệ nực cười của chúng với trí tuệ nhân tạo (AI). Về cơ bản nó đã bị nhầm lẫn bởi quá trình đánh giá ngang hàng.

Tác phẩm nghệ thuật do AI tạo ra trong tài liệu khoa học

Một trong những bài báo bị rút lại, đề cập đến các tế bào gốc được tìm thấy trong bộ phận sinh dục của chuột, đã được các chuyên gia khác và biên tập viên bình duyệt hoàn chỉnh trước khi xuất bản vào tháng Hai.

Hình ảnh một con chuột đực khổng lồ đeo một nhãn hiệu khiếm nhã quanh bộ phận sinh dục, gây hiểu lầm cho người đọc, cho thấy một sai sót trong phương pháp đo lường thư mục và những khó khăn trong việc phát hiện thông tin bịa đặt.

Nhiều lời chỉ trích trực tuyến gia tăng mạnh mẽ khi một số tổ chức có ảnh hưởng như nhà nghiên cứu trí tuệ nhân tạo Gary Marcus bày tỏ sự khó chịu của mình với nội dung do AI tạo ra làm tràn lan các tài liệu khoa học.

Mayday. Sự ô nhiễm đột ngột của khoa học với nội dung do LLM tạo ra, được biết là tạo ra những lỗi nghe có vẻ hợp lý nhưng đôi khi khó phát hiện ("ảo giác") là nghiêm trọng và tác động của nó sẽ kéo dài. Vui lòng chia sẻ bài luận ngắn này (liên kết bên dưới) với các nhà khoa học và với… pic.twitter.com/5SrsNw6hRH

— Gary Marcus (@GaryMarcus) ngày 15 tháng 3 năm 2024

Vấn đề này đã gây ra nhiều tranh cãi về khả năng ứng dụng của các công cụ AI tạo sinh trong khoa học và các bài báo học thuật. Những người ủng hộ công cụ AI, trong số những thứ khác, cáo buộc rằng các công cụ AI hỗ trợ xử lý dữ liệu và tính toán nhanh chóng.

Mặt khác, những người khác lại thấy mối nguy hiểm trong các công cụ trí tuệ nhân tạo, chẳng hạn như tạo ra dữ liệu không chính xác hoặc thông tin gây hiểu lầm. Một cuộc khảo sát do Nature thực hiện vào năm 2023 cho thấy khoảng 30% các nhà khoa học đã giới thiệu các công cụ AI tạo sinh này để viết bản thảo của họ. Do đó, rõ ràng là cộng đồng khoa học thực sự đã chấp nhận rộng rãi các công nghệ này.

Điều khiển tích hợp AI trong xuất bản khoa học

Sau những lo lắng này, các tạp chí khoa học uy tín đã ban hành một bộ quy tắc đạo đức nêu rõ việc sử dụng AI tạo sinh trong nghiên cứu và xuất bản. Các văn bản tạo sinh hiện được coi là có khía cạnh tiểu sử được đề xuất; chúng cần được tham chiếu và giải thích rõ ràng trong các bài báo do các tạp chí như Nature và Science phát hành. Các nhà bình duyệt ngang hàng của tổ chức bị cấm sử dụng AI để đánh giá bài viết. Hơn nữa, việc tạo hình ảnh AI bị ngăn cấm rất nhiều vì các tạp chí có thể bỏ qua các hình minh họa được cung cấp.

Việc rút lại một bài viết mô tả một trường hợp liên quan đến hình ảnh minh họa do AI tạo ra cho thấy việc duy trì tính toàn vẹn của báo chí và khoa học trong xuất bản khoa học là tối quan trọng. Mặc dù quá trình tích hợp này sẽ không dừng lại, nhiều nhà nghiên cứu và nhà xuất bản sẽ cần phải chú ý bảo vệ tính xác thực và chính xác của tài liệu khoa học.