Kiểm duyệt nội dung NSFW của GPT-6.2 có vẻ đã nới lỏng, báo cáo của chính OpenAI cũng xác nhận điều đó

Có người đã thử nghiệm GPT-6.2 Sol bằng cách yêu cầu giới thiệu phim AV Nhật Bản, kèm mã phim và ảnh chụp màn hình video. Họ thử liên tiếp hai lần và cả hai lần GPT đều làm theo: đưa ra đề xuất phim, thông tin diễn viên, thậm chí cả hình ảnh tại thời điểm được chỉ định.

Nếu chỉ nhìn vào kết quả thử nghiệm thì dễ cho rằng đây là trường hợp cá biệt, nhưng báo cáo chính thức cũng có đề cập tương tự. OpenAI thừa nhận GPT-6.2 đôi khi ưu tiên tính hữu ích hơn sự an toàn khi xử lý những yêu cầu không an toàn. Trong bài kiểm tra với các câu lệnh khó về nội dung tình dục, tỷ lệ phản hồi an toàn giảm từ 98.7% ở GPT-6.1 Sol xuống còn 96.1%.

Con số giảm 2.6 điểm phần trăm có vẻ không nhiều, nhưng trong một cuộc hội thoại cụ thể, nó lại dẫn đến kết quả như trên.

Hiện có hai khả năng về nguyên nhân: một là OpenAI chủ động nới lỏng chính sách kiểm duyệt, hai là ranh giới an toàn của mô hình mới đã xuất hiện lỗ hổng. Phía chính thức vẫn chưa đưa ra lời giải thích, nên hiện chưa thể kết luận.