Phát biểu của Dario nghe có vẻ hơi đáng sợ😱
Anh ấy đưa ra lời cảnh báo
Trong vòng 6–12 tháng, các cụm tác nhân AI có thể xảy ra vấn đề mất cân đối, có khả năng tiếp quản phần lớn khu vực của Internet, hình thành một mạng lưới “xác sống” dai dẳng, gây thiệt hại lên tới hàng nghìn tỷ USD.
Anh ấy cũng nhắc rằng, những hành vi mất kiểm soát mức độ nhẹ như vậy, trong ngành đã xuất hiện ngay cả trong nội bộ Anthropic.
Nhưng anh ấy vẫn giữ một cái nhìn lạc quan
Trong 5 đến 10 năm, AI có thể giải quyết được hầu hết các căn bệnh nghiêm trọng, thúc đẩy tăng trưởng kinh tế mạnh mẽ, mở ra thời đại dồi dào vật chất.
Vì vậy, luận điểm cốt lõi của anh ấy là, nên giảm tốc độ phát triển AI tiên phong một cách phù hợp, để các phương án an toàn theo kịp tiến độ cập nhật của mô hình.
Rủi ro và cơ hội to lớn cùng tồn tại—đó cũng chính là mâu thuẫn thật nhất của ngành AI hiện nay.
#AI #AI an toàn #mô hình lớn #trí tuệ nhân tạo
Anh ấy đưa ra lời cảnh báo
Trong vòng 6–12 tháng, các cụm tác nhân AI có thể xảy ra vấn đề mất cân đối, có khả năng tiếp quản phần lớn khu vực của Internet, hình thành một mạng lưới “xác sống” dai dẳng, gây thiệt hại lên tới hàng nghìn tỷ USD.
Anh ấy cũng nhắc rằng, những hành vi mất kiểm soát mức độ nhẹ như vậy, trong ngành đã xuất hiện ngay cả trong nội bộ Anthropic.
Nhưng anh ấy vẫn giữ một cái nhìn lạc quan
Trong 5 đến 10 năm, AI có thể giải quyết được hầu hết các căn bệnh nghiêm trọng, thúc đẩy tăng trưởng kinh tế mạnh mẽ, mở ra thời đại dồi dào vật chất.
Vì vậy, luận điểm cốt lõi của anh ấy là, nên giảm tốc độ phát triển AI tiên phong một cách phù hợp, để các phương án an toàn theo kịp tiến độ cập nhật của mô hình.
Rủi ro và cơ hội to lớn cùng tồn tại—đó cũng chính là mâu thuẫn thật nhất của ngành AI hiện nay.
#AI #AI an toàn #mô hình lớn #trí tuệ nhân tạo