#anthropicceocallsforaislowdown
Giám đốc điều hành Anthropic kêu gọi làm chậm AI — và cuộc tranh luận đang ngày càng khó có thể phớt lờ
Cuộc trò chuyện về an toàn AI đã có bước ngoặt lớn trong tuần này sau khi CEO của Anthropic, Dario Amodei, công khai kêu gọi ngành công nghiệp làm chậm tốc độ phát triển AI nền tảng. Thay vì kêu gọi dừng hoàn toàn, Amodei đề xuất một khung tập trung vào việc tăng cường giám sát an toàn, các đánh giá độc lập và mức độ phối hợp cao hơn giữa các phòng thí nghiệm AI hàng đầu. Sau đó, CEO OpenAI Sam Altman và người sáng lập xAI Elon Musk cũng bày tỏ sự ủng hộ đối với ý tưởng chung là tiến hành thận trọng hơn. Nguồn:
Theo Amodei, mối lo nằm ở chỗ năng lực của AI có thể đang tiến nhanh hơn so với khả năng của ngành trong việc đánh giá và kiểm soát chúng một cách đáng tin cậy. Đề xuất của ông bao gồm việc trao cho các đơn vị đánh giá an toàn bên thứ ba quyền tiếp cận sâu hơn với các hệ thống tiên tiến và thiết lập các cơ chế giúp giảm rủi ro của các cuộc chạy đua năng lực không được kiểm soát giữa các công ty AI lớn.
Tại sao điều này quan trọng
Điều đáng chú ý là lời cảnh báo này đến từ các công ty đang xây dựng công nghệ, chứ không phải từ những người chỉ trích bên ngoài. Điều đó đặt ra một câu hỏi khó: nếu các doanh nghiệp gần nhất với AI tiên tiến lại kêu gọi thận trọng hơn, thì các chính phủ, doanh nghiệp và nhà đầu tư nên phản hồi như thế nào?
Trong khi đó, sự hoài nghi vẫn còn. Các nhà phê bình cho rằng những kêu gọi phát triển chậm hơn cũng có thể mang lại lợi ích cho các “ông lớn” hiện hữu bằng cách tạo ra rào cản cho các đối thủ nhỏ. Những người khác lại tin rằng cạnh tranh địa chính trị sẽ khiến mọi nỗ lực làm chậm đáng kể trở nên khó duy trì. Thách thức thực sự có lẽ không phải là quyết định liệu AI có nên tiến lên hay không, mà là xác định cần mức giám sát nào trước khi các hệ thống ngày càng tự chủ trở nên ăn sâu trong toàn bộ nền kinh tế.
Ngành có thể phối hợp một cách thực tế về các tiêu chuẩn an toàn AI trong khi vẫn bị khóa trong cuộc đua toàn cầu nhằm dẫn đầu về năng lực công nghệ hay không?
$BR $CAP
Giám đốc điều hành Anthropic kêu gọi làm chậm AI — và cuộc tranh luận đang ngày càng khó có thể phớt lờ
Cuộc trò chuyện về an toàn AI đã có bước ngoặt lớn trong tuần này sau khi CEO của Anthropic, Dario Amodei, công khai kêu gọi ngành công nghiệp làm chậm tốc độ phát triển AI nền tảng. Thay vì kêu gọi dừng hoàn toàn, Amodei đề xuất một khung tập trung vào việc tăng cường giám sát an toàn, các đánh giá độc lập và mức độ phối hợp cao hơn giữa các phòng thí nghiệm AI hàng đầu. Sau đó, CEO OpenAI Sam Altman và người sáng lập xAI Elon Musk cũng bày tỏ sự ủng hộ đối với ý tưởng chung là tiến hành thận trọng hơn. Nguồn:
Theo Amodei, mối lo nằm ở chỗ năng lực của AI có thể đang tiến nhanh hơn so với khả năng của ngành trong việc đánh giá và kiểm soát chúng một cách đáng tin cậy. Đề xuất của ông bao gồm việc trao cho các đơn vị đánh giá an toàn bên thứ ba quyền tiếp cận sâu hơn với các hệ thống tiên tiến và thiết lập các cơ chế giúp giảm rủi ro của các cuộc chạy đua năng lực không được kiểm soát giữa các công ty AI lớn.
Tại sao điều này quan trọng
Điều đáng chú ý là lời cảnh báo này đến từ các công ty đang xây dựng công nghệ, chứ không phải từ những người chỉ trích bên ngoài. Điều đó đặt ra một câu hỏi khó: nếu các doanh nghiệp gần nhất với AI tiên tiến lại kêu gọi thận trọng hơn, thì các chính phủ, doanh nghiệp và nhà đầu tư nên phản hồi như thế nào?
Trong khi đó, sự hoài nghi vẫn còn. Các nhà phê bình cho rằng những kêu gọi phát triển chậm hơn cũng có thể mang lại lợi ích cho các “ông lớn” hiện hữu bằng cách tạo ra rào cản cho các đối thủ nhỏ. Những người khác lại tin rằng cạnh tranh địa chính trị sẽ khiến mọi nỗ lực làm chậm đáng kể trở nên khó duy trì. Thách thức thực sự có lẽ không phải là quyết định liệu AI có nên tiến lên hay không, mà là xác định cần mức giám sát nào trước khi các hệ thống ngày càng tự chủ trở nên ăn sâu trong toàn bộ nền kinh tế.
Ngành có thể phối hợp một cách thực tế về các tiêu chuẩn an toàn AI trong khi vẫn bị khóa trong cuộc đua toàn cầu nhằm dẫn đầu về năng lực công nghệ hay không?
$BR $CAP
