📰 Nghiên cứu viên AI 27 tuổi Jacob Coxon đã rời Anthropic. Trong ba năm qua, anh lần lượt tham gia huấn luyện mô hình nền tảng tại OpenAI và Anthropic; đồng thời cũng là cộng tác viên chính thức của GPT-4o và người đóng góp cốt lõi cho GPT-4.5.
🔥 Lý do anh rời đi nghe có phần đáng sợ: anh cho rằng các công ty này đang tăng tốc phát triển một dạng siêu trí tuệ có khả năng tự cải tiến, tương đương với việc đặt cược sinh mạng của tất cả mọi người. Anh cũng nói rằng một số người thực sự tham gia nghiên cứu AI tiên tiến, trong riêng tư, tin rằng con người có thể sẽ bị tuyệt chủng do mất kiểm soát trước khi thập kỷ này kết thúc.
👀 Điều tinh tế hơn là người phụ trách phụ trách về căn chỉnh (alignment) của Anthropic đã công khai ủng hộ nhận định đó, và cho rằng xác suất xảy ra hậu quả nghiêm trọng trong vòng 10 năm là trên 10%. Hai người khác từng làm nghiên cứu an toàn và giám sát có thể mở rộng tại Anthropic cũng đồng tình với mô tả của anh về hiện trạng của ngành.
Nói thật, 10% rốt cuộc đúng hay không thì không ai có thể chứng minh. Nhưng một người từng tham gia huấn luyện các mô hình cốt lõi lại thà từ chức, thậm chí cân nhắc rời khỏi ngành AI, thay vì tiếp tục thúc đẩy—hành động đó tự thân đã mang ý nghĩa rất lớn.
🤔 Nếu bạn đang ở ngay trong đội ngũ làm mô hình tiên phong, nghe đồng nghiệp đánh giá rằng xác suất mất kiểm soát trong 10 năm là trên 10%, bạn sẽ ở lại tiếp tục làm an toàn, hay trực tiếp xin nghỉ?
#人工智能 #OpenAI #Anthropic #AI safety
🔥 Lý do anh rời đi nghe có phần đáng sợ: anh cho rằng các công ty này đang tăng tốc phát triển một dạng siêu trí tuệ có khả năng tự cải tiến, tương đương với việc đặt cược sinh mạng của tất cả mọi người. Anh cũng nói rằng một số người thực sự tham gia nghiên cứu AI tiên tiến, trong riêng tư, tin rằng con người có thể sẽ bị tuyệt chủng do mất kiểm soát trước khi thập kỷ này kết thúc.
👀 Điều tinh tế hơn là người phụ trách phụ trách về căn chỉnh (alignment) của Anthropic đã công khai ủng hộ nhận định đó, và cho rằng xác suất xảy ra hậu quả nghiêm trọng trong vòng 10 năm là trên 10%. Hai người khác từng làm nghiên cứu an toàn và giám sát có thể mở rộng tại Anthropic cũng đồng tình với mô tả của anh về hiện trạng của ngành.
Nói thật, 10% rốt cuộc đúng hay không thì không ai có thể chứng minh. Nhưng một người từng tham gia huấn luyện các mô hình cốt lõi lại thà từ chức, thậm chí cân nhắc rời khỏi ngành AI, thay vì tiếp tục thúc đẩy—hành động đó tự thân đã mang ý nghĩa rất lớn.
🤔 Nếu bạn đang ở ngay trong đội ngũ làm mô hình tiên phong, nghe đồng nghiệp đánh giá rằng xác suất mất kiểm soát trong 10 năm là trên 10%, bạn sẽ ở lại tiếp tục làm an toàn, hay trực tiếp xin nghỉ?
#人工智能 #OpenAI #Anthropic #AI safety
