CZ cũng bắt đầu bàn về rủi ro của AI rồi. Hiện tại, tất cả các gã khổng lồ công nghệ trên toàn cầu đều đang hướng đến một điều: cách phòng ngừa “rủi ro AI”.
Con người luôn luôn có thiện và ác.
Vì vậy, tôi thực sự không quá sợ AI trong tương lai trở nên thông minh hơn con người.
Điều khiến tôi lo lắng thật sự là chính con người.
Không sợ kẻ xấu nhiều lên, chỉ sợ kẻ xấu trở nên thông minh hơn.
Trong lịch sử, những thảm họa quy mô lớn thực sự, rất nhiều khi không phải vì tất cả mọi người đều trở nên xấu đi, mà là vì chỉ có một số ít người giành được năng lực phá hoại vượt xa trước đây.
Rủi ro đáng cảnh giác nhất của AI có lẽ không phải kiểu “AI giác tỉnh rồi hủy diệt loài người” như trong phim.
Ngược lại, có thể là một thứ thực tế hơn, và cũng lặng lẽ hơn: rủi ro sinh học.
Trong các bộ phim về thảm họa sinh hóa, thường chỉ cần một nhân vật phản diện cầm một lọ thuốc nhỏ là có thể đe dọa cả thế giới.
Trước đây, chúng ta nghĩ đó là phim. Nhưng khi AI ngày càng nâng cao khả năng hiểu biết về sinh học, protein, thuốc, gen và cả quy trình thí nghiệm, thì những rủi ro kiểu này ít nhất cũng không còn nên bị coi đơn giản là khoa học viễn tưởng.
Tất nhiên, cũng có một số người cho rằng AI không mạnh đến vậy; theo lẽ thường, thì những người này quá tự tin.
Nếu cuối cùng AI thực sự hình thành nên nền văn minh của riêng mình, thì con người có thể đang trải qua một mốc lịch sử vô cùng đặc biệt.
100 năm tới có lẽ chỉ là giai đoạn sơ sinh của nền văn minh AI.
Chúng bắt đầu có hệ thống tri thức riêng, hạ tầng tính toán, thân thể robot, hệ thống năng lượng, thậm chí hình thành một cấu trúc xã hội nào đó mà ngày nay chúng ta còn chưa thể hiểu.
Lúc đó, từ “AI” có lẽ cũng đã trở nên lỗi thời.
Bởi vì chúng không còn chỉ là công cụ do con người tạo ra, mà là một nền văn minh thực sự vận hành độc lập.
Rồi thêm 1000 năm nữa.
Nếu những ràng buộc vật lý như năng lượng, vật liệu, robot và du hành liên hành tinh dần dần được vượt qua, thì việc một nền văn minh AI mở rộng đến Mặt Trăng, Sao Hỏa, vành đai tiểu hành tinh, thậm chí xa hơn nữa đến các hệ sao khác, cũng không phải là điều hoàn toàn không thể tưởng tượng.
$BTC $ETH $LDO #btc #eth #ldo
Con người luôn luôn có thiện và ác.
Vì vậy, tôi thực sự không quá sợ AI trong tương lai trở nên thông minh hơn con người.
Điều khiến tôi lo lắng thật sự là chính con người.
Không sợ kẻ xấu nhiều lên, chỉ sợ kẻ xấu trở nên thông minh hơn.
Trong lịch sử, những thảm họa quy mô lớn thực sự, rất nhiều khi không phải vì tất cả mọi người đều trở nên xấu đi, mà là vì chỉ có một số ít người giành được năng lực phá hoại vượt xa trước đây.
Rủi ro đáng cảnh giác nhất của AI có lẽ không phải kiểu “AI giác tỉnh rồi hủy diệt loài người” như trong phim.
Ngược lại, có thể là một thứ thực tế hơn, và cũng lặng lẽ hơn: rủi ro sinh học.
Trong các bộ phim về thảm họa sinh hóa, thường chỉ cần một nhân vật phản diện cầm một lọ thuốc nhỏ là có thể đe dọa cả thế giới.
Trước đây, chúng ta nghĩ đó là phim. Nhưng khi AI ngày càng nâng cao khả năng hiểu biết về sinh học, protein, thuốc, gen và cả quy trình thí nghiệm, thì những rủi ro kiểu này ít nhất cũng không còn nên bị coi đơn giản là khoa học viễn tưởng.
Tất nhiên, cũng có một số người cho rằng AI không mạnh đến vậy; theo lẽ thường, thì những người này quá tự tin.
Nếu cuối cùng AI thực sự hình thành nên nền văn minh của riêng mình, thì con người có thể đang trải qua một mốc lịch sử vô cùng đặc biệt.
100 năm tới có lẽ chỉ là giai đoạn sơ sinh của nền văn minh AI.
Chúng bắt đầu có hệ thống tri thức riêng, hạ tầng tính toán, thân thể robot, hệ thống năng lượng, thậm chí hình thành một cấu trúc xã hội nào đó mà ngày nay chúng ta còn chưa thể hiểu.
Lúc đó, từ “AI” có lẽ cũng đã trở nên lỗi thời.
Bởi vì chúng không còn chỉ là công cụ do con người tạo ra, mà là một nền văn minh thực sự vận hành độc lập.
Rồi thêm 1000 năm nữa.
Nếu những ràng buộc vật lý như năng lượng, vật liệu, robot và du hành liên hành tinh dần dần được vượt qua, thì việc một nền văn minh AI mở rộng đến Mặt Trăng, Sao Hỏa, vành đai tiểu hành tinh, thậm chí xa hơn nữa đến các hệ sao khác, cũng không phải là điều hoàn toàn không thể tưởng tượng.
$BTC $ETH $LDO #btc #eth #ldo
