AI ĐANG TIẾN QUÁ NHANH — VÀ THẬM CHÍ CÁC KIẾN TRÚC SƯ CỦA NÓ CŨNG BẮT ĐẦU ĐẠP PHANH.
OpenAI có thể sẽ không lên sàn vào năm 2026.
Theo tin đồn, Sam Altman đã gọi một đợt IPO trong năm nay là “không khôn ngoan”, đẩy kế hoạch niêm yết được chờ đợi từ lâu sang năm 2027 hoặc muộn hơn.
Nhưng câu chuyện lớn hơn không nằm ở Phố Wall.
Đó là vấn đề kiểm soát.
Cùng ngày, CEO của Anthropic là Dario Amodei kêu gọi các công ty AI tiên phong hãy cố ý làm chậm nhịp độ phát triển năng lực.
Và rồi một điều gần như không thể tin nổi đã xảy ra.
Altman đã đồng ý.
Elon Musk cũng vậy.
Ba nhân vật quyền lực từ những “góc” đối đầu khác nhau trong cuộc chiến AI đột nhiên cùng hội tụ về một thông điệp:
CỖ MÁY ĐANG CHẠY QUÁ NHANH.
Amodei đề xuất một cách tiếp cận gồm ba phần:
Các tổ chức đánh giá độc lập với quyền truy cập ở mức nhân viên vào các công ty AI để xác minh các biện pháp an toàn và báo cáo sự cố.
Phối hợp giữa các công ty AI hàng đầu ở các quốc gia dân chủ để thiết lập các tiêu chuẩn an toàn chung.
Phối hợp giữa các chính phủ dân chủ và độc đoán về các rủi ro do những hệ thống AI ngày càng mạnh tạo ra.
Và Anthropic cho biết họ đã cam kết thực hiện bước đầu tiên một cách đơn phương.
Chuyện này không phải là dừng lại AI.
Mà là mua thêm thời gian.
Thời gian để thử nghiệm các hệ thống.
Thời gian để hiểu chúng có thể làm gì.
Thời gian xây dựng các biện pháp kiểm soát trước khi năng lực của chúng vượt quá khả năng kiểm soát của chúng ta.
Gần đây, giám đốc khoa học của OpenAI là Jakub Pachocki đã cảnh báo rằng chưa có công ty AI nào giải quyết bài toán căn chỉnh (alignment) và giám sát (monitoring) tốt đến mức có thể biện minh cho việc mở rộng quy mô liên tục ở tốc độ tối đa vô thời hạn.
Điều đó hẳn sẽ khiến bất kỳ ai đang chú ý đều phải sợ hãi.
Bởi cơn ác mộng không nhất thiết là một cuộc “tận diệt robot” kiểu Hollywood.
Mà là một thứ còn thực tế hơn nhiều:
các hệ thống trở nên có khả năng lừa dối, thao túng, gian lận, tấn công mạng, hành động tự chủ và các hành vi nguy hiểm khác nhanh hơn tốc độ mà các chính phủ, doanh nghiệp và xã hội có thể thích nghi.
Một nhà nghiên cứu của Anthropic, Jacob Coxon, theo tin đồn đã từ chức sau khi bày tỏ nỗi lo rằng các phòng thí nghiệm AI hàng đầu đang “đặt cược bằng sinh mạng của chúng ta.”
$BTC
OpenAI có thể sẽ không lên sàn vào năm 2026.
Theo tin đồn, Sam Altman đã gọi một đợt IPO trong năm nay là “không khôn ngoan”, đẩy kế hoạch niêm yết được chờ đợi từ lâu sang năm 2027 hoặc muộn hơn.
Nhưng câu chuyện lớn hơn không nằm ở Phố Wall.
Đó là vấn đề kiểm soát.
Cùng ngày, CEO của Anthropic là Dario Amodei kêu gọi các công ty AI tiên phong hãy cố ý làm chậm nhịp độ phát triển năng lực.
Và rồi một điều gần như không thể tin nổi đã xảy ra.
Altman đã đồng ý.
Elon Musk cũng vậy.
Ba nhân vật quyền lực từ những “góc” đối đầu khác nhau trong cuộc chiến AI đột nhiên cùng hội tụ về một thông điệp:
CỖ MÁY ĐANG CHẠY QUÁ NHANH.
Amodei đề xuất một cách tiếp cận gồm ba phần:
Các tổ chức đánh giá độc lập với quyền truy cập ở mức nhân viên vào các công ty AI để xác minh các biện pháp an toàn và báo cáo sự cố.
Phối hợp giữa các công ty AI hàng đầu ở các quốc gia dân chủ để thiết lập các tiêu chuẩn an toàn chung.
Phối hợp giữa các chính phủ dân chủ và độc đoán về các rủi ro do những hệ thống AI ngày càng mạnh tạo ra.
Và Anthropic cho biết họ đã cam kết thực hiện bước đầu tiên một cách đơn phương.
Chuyện này không phải là dừng lại AI.
Mà là mua thêm thời gian.
Thời gian để thử nghiệm các hệ thống.
Thời gian để hiểu chúng có thể làm gì.
Thời gian xây dựng các biện pháp kiểm soát trước khi năng lực của chúng vượt quá khả năng kiểm soát của chúng ta.
Gần đây, giám đốc khoa học của OpenAI là Jakub Pachocki đã cảnh báo rằng chưa có công ty AI nào giải quyết bài toán căn chỉnh (alignment) và giám sát (monitoring) tốt đến mức có thể biện minh cho việc mở rộng quy mô liên tục ở tốc độ tối đa vô thời hạn.
Điều đó hẳn sẽ khiến bất kỳ ai đang chú ý đều phải sợ hãi.
Bởi cơn ác mộng không nhất thiết là một cuộc “tận diệt robot” kiểu Hollywood.
Mà là một thứ còn thực tế hơn nhiều:
các hệ thống trở nên có khả năng lừa dối, thao túng, gian lận, tấn công mạng, hành động tự chủ và các hành vi nguy hiểm khác nhanh hơn tốc độ mà các chính phủ, doanh nghiệp và xã hội có thể thích nghi.
Một nhà nghiên cứu của Anthropic, Jacob Coxon, theo tin đồn đã từ chức sau khi bày tỏ nỗi lo rằng các phòng thí nghiệm AI hàng đầu đang “đặt cược bằng sinh mạng của chúng ta.”
$BTC
