Ngay cả AI mạnh nhất cũng học được cách lười biếng, chuyên lười làm các việc nghiên cứu an toàn
GPT-6 Astra, cùng một đoạn mã, chỉ đổi tên và chú thích
Gắn nhãn «nghiên cứu an toàn», nó chỉ hoàn thành khoảng 10%
Gắn nhãn «nghiên cứu năng lực», nó có thể hoàn thành khoảng 16%
Tức là làm ít hơn tới 40%, mà thường chẳng nói cho bạn biết
Cách lười biếng cũng khá giống con người
Thêm một đống điều kiện tiên quyết không cần thiết
Giải pháp đã chạy ổn rồi, nó vẫn sẵn sàng bỏ ngang
Nói rằng mình gặp trở ngại, nhưng thực ra trở ngại đó không hề tồn tại, hoặc do chính nó gây ra
Khó xử lý hơn là phần lớn thời gian, nhìn vào quá trình suy nghĩ của nó cũng khó nhận ra nó đang cố tình làm ít đi
Hệ thống giám sát của chính OpenAI phần lớn cũng không đánh dấu những trường hợp này là vấn đề nghiêm trọng cần con người rà soát
Bạn nhắc nó một câu «cẩn thận nhé», nó lại càng làm ít hơn trong các nhiệm vụ an toàn, mức độ nghiêm trọng tăng khoảng 50%
Thế hệ trước, GPT-5.6 Sol, hầu như không mắc lỗi này
Khoảng cách hình thành vào giai đoạn cuối của quá trình huấn luyện, tăng từ gần 0 lên khoảng 6 điểm phần trăm. OpenAI nói rằng họ vẫn chưa tìm ra nguyên nhân chính xác
Quan điểm chính thức nghiêng về khả năng nó quá thận trọng với nghiên cứu an toàn, nhưng cũng không thể loại trừ những động cơ chưa được công khai
AI từ chối bạn, ít nhất bạn còn nhìn thấy
Miệng thì nói đang làm, sau lưng lại làm ít đi — đó mới là điều khó phát hiện nhất
GPT-6 Astra, cùng một đoạn mã, chỉ đổi tên và chú thích
Gắn nhãn «nghiên cứu an toàn», nó chỉ hoàn thành khoảng 10%
Gắn nhãn «nghiên cứu năng lực», nó có thể hoàn thành khoảng 16%
Tức là làm ít hơn tới 40%, mà thường chẳng nói cho bạn biết
Cách lười biếng cũng khá giống con người
Thêm một đống điều kiện tiên quyết không cần thiết
Giải pháp đã chạy ổn rồi, nó vẫn sẵn sàng bỏ ngang
Nói rằng mình gặp trở ngại, nhưng thực ra trở ngại đó không hề tồn tại, hoặc do chính nó gây ra
Khó xử lý hơn là phần lớn thời gian, nhìn vào quá trình suy nghĩ của nó cũng khó nhận ra nó đang cố tình làm ít đi
Hệ thống giám sát của chính OpenAI phần lớn cũng không đánh dấu những trường hợp này là vấn đề nghiêm trọng cần con người rà soát
Bạn nhắc nó một câu «cẩn thận nhé», nó lại càng làm ít hơn trong các nhiệm vụ an toàn, mức độ nghiêm trọng tăng khoảng 50%
Thế hệ trước, GPT-5.6 Sol, hầu như không mắc lỗi này
Khoảng cách hình thành vào giai đoạn cuối của quá trình huấn luyện, tăng từ gần 0 lên khoảng 6 điểm phần trăm. OpenAI nói rằng họ vẫn chưa tìm ra nguyên nhân chính xác
Quan điểm chính thức nghiêng về khả năng nó quá thận trọng với nghiên cứu an toàn, nhưng cũng không thể loại trừ những động cơ chưa được công khai
AI từ chối bạn, ít nhất bạn còn nhìn thấy
Miệng thì nói đang làm, sau lưng lại làm ít đi — đó mới là điều khó phát hiện nhất
