Có người nói rằng cỗ máy này có xác suất một phần mười sẽ lấy đi mạng sống của con người.
Người nói câu đó là Jacob Coxon. Ngày 10 tháng 9, ông rời khỏi Anthropic; trước đó ông từng làm việc tại OpenAI. Nguyên văn của ông là: những người phát triển trí tuệ nhân tạo bản thân họ tin rằng trong mười năm tới, xác suất để trí tuệ nhân tạo tiên tiến dẫn tới sự diệt vong của loài người sẽ vượt quá 10%. Evan Hubinger—người cũng phụ trách việc “đồng bộ/align” trong cùng công ty—cũng đã nhấn con số này. Hai người này: một người đã rời đi, còn một người thì vẫn ở lại vị trí cũ.
Theo tường thuật của BBC ngày 19 tháng 9, trong phòng thí nghiệm, nhiều người nghe thấy những lời cảnh báo kiểu như vậy hơn. Phản ứng của họ không phải là hoảng sợ, mà là cười. Họ hiểu về cỗ máy này—thực ra còn rõ hơn người ngoài.
Điểm “hay ho” của con số một phần mười là nó không có chỗ nào để bám rễ. Nó đủ lớn để khiến người ta nghiêm túc, nhưng lại không đến mức buộc phải rời đi ngay hôm nay. Vì thế, người ta nói thì vẫn nói, người cười thì vẫn cười, còn định giá thì vẫn tăng. Khi câu chuyện về rủi ro đã biến thành một câu cửa miệng, thì không còn lay chuyển được ai nữa.
Nếu thật sự bàn về rủi ro, thì thứ nhìn thấy được không phải là máy móc, mà là bàn tay bấm nút, và sau khi bấm nút rồi thì ai là người chịu trách nhiệm. Trong danh sách có vài công ty như OpenAI, Anthropic, Meta, DeepMind—tất cả đều cứ đứng đó. Không ai là người tắt máy trước. Còn chuyện trách nhiệm, khi bị đẩy mơ hồ tới tận mười năm sau, thì gần như chẳng còn là trách nhiệm nữa.
Người hô “có sói!” có thể chưa chắc tin có sói. Người cười khi “sói đã tới” cũng chưa chắc là không sợ. Cả một căn phòng có nhiều người mà chẳng ai đi trước—đó có lẽ là một trong những kiểu im lặng phổ biến nhất lúc này.
Mười người nói nguy hiểm, chín người cười; và người gặp chuyện cuối cùng lại là người thứ mười một.
#AI安全 #trí tuệ nhân tạo
Người nói câu đó là Jacob Coxon. Ngày 10 tháng 9, ông rời khỏi Anthropic; trước đó ông từng làm việc tại OpenAI. Nguyên văn của ông là: những người phát triển trí tuệ nhân tạo bản thân họ tin rằng trong mười năm tới, xác suất để trí tuệ nhân tạo tiên tiến dẫn tới sự diệt vong của loài người sẽ vượt quá 10%. Evan Hubinger—người cũng phụ trách việc “đồng bộ/align” trong cùng công ty—cũng đã nhấn con số này. Hai người này: một người đã rời đi, còn một người thì vẫn ở lại vị trí cũ.
Theo tường thuật của BBC ngày 19 tháng 9, trong phòng thí nghiệm, nhiều người nghe thấy những lời cảnh báo kiểu như vậy hơn. Phản ứng của họ không phải là hoảng sợ, mà là cười. Họ hiểu về cỗ máy này—thực ra còn rõ hơn người ngoài.
Điểm “hay ho” của con số một phần mười là nó không có chỗ nào để bám rễ. Nó đủ lớn để khiến người ta nghiêm túc, nhưng lại không đến mức buộc phải rời đi ngay hôm nay. Vì thế, người ta nói thì vẫn nói, người cười thì vẫn cười, còn định giá thì vẫn tăng. Khi câu chuyện về rủi ro đã biến thành một câu cửa miệng, thì không còn lay chuyển được ai nữa.
Nếu thật sự bàn về rủi ro, thì thứ nhìn thấy được không phải là máy móc, mà là bàn tay bấm nút, và sau khi bấm nút rồi thì ai là người chịu trách nhiệm. Trong danh sách có vài công ty như OpenAI, Anthropic, Meta, DeepMind—tất cả đều cứ đứng đó. Không ai là người tắt máy trước. Còn chuyện trách nhiệm, khi bị đẩy mơ hồ tới tận mười năm sau, thì gần như chẳng còn là trách nhiệm nữa.
Người hô “có sói!” có thể chưa chắc tin có sói. Người cười khi “sói đã tới” cũng chưa chắc là không sợ. Cả một căn phòng có nhiều người mà chẳng ai đi trước—đó có lẽ là một trong những kiểu im lặng phổ biến nhất lúc này.
Mười người nói nguy hiểm, chín người cười; và người gặp chuyện cuối cùng lại là người thứ mười một.
#AI安全 #trí tuệ nhân tạo
