Đang lướt tới Business Insider: Một trong những người phụ trách nhóm Hệ thống An toàn của OpenAI, David Robinson, đã rời công ty tuần trước — một phát ngôn viên của công ty xác nhận vào thứ Sáu. Trước đây anh ấy đã làm công tác hoạch định chính sách, gần đây chủ yếu phụ trách an toàn và tính minh bạch, bao gồm việc giúp các mô hình viết/ra mắt system card.

Trong cùng một làn sóng biến động, hôm thứ Năm, công ty cũng cho biết họ đã “đường ai nấy đi” với ba nhà nghiên cứu vì lý do vi phạm việc chia sẻ thông tin nhạy cảm ra bên ngoài; Trưởng nhóm an toàn Johannes Heidecke cũng đã rời đi vào đầu năm nay. Robinson vào tháng Chín trên X đã viết: “Trong OpenAI, đúng là đã có người bắt đầu nhìn nhận nghiêm túc hậu quả của các mô hình năng lực cao — nhưng không biết liệu chúng ta đã thay đổi đủ nhanh chưa”.

Các sự cố an toàn, tranh cãi về căn chỉnh (alignment), và biến động nhân sự chồng lên nhau — phía đội ngũ an toàn thời gian gần đây khá bận rộn.

#OpenAI #AI安全 #对齐