AI đang trở nên thông minh hơn với tốc độ khiến tôi thực sự lo ngại.
Hãy nhìn vào những tiến bộ chỉ trong 2 năm:
ChatGPT
Khả năng suy luận và phân tích: +200–300%
Kỹ năng lập trình và kỹ thuật: +300%
Phân tích dữ liệu: +300%
Khả năng xử lý ngữ cảnh và ghi nhớ: +200%
Tự động hóa: +400%
Gemini
Khả năng tự cải thiện: theo các báo cáo, tốt hơn 3–5 lần.
Khả năng hiểu đa phương thức, suy luận chuyên sâu và sử dụng công cụ đã tiến bộ đáng kể.
Claude
SWE-bench Verified: từ khoảng 49% vào cuối năm 2024 lên 96–97% trong các kết quả mới nhất được công bố.
SWE-bench Pro: theo các báo cáo, một số mô hình mới nhất đạt gần 90%.
Những con số này không hoàn toàn có thể so sánh với nhau, và việc cải thiện điểm số trên các bài kiểm tra không nhất thiết có nghĩa là AI đang tự học.
Nhưng đây mới là điều khiến tôi lo ngại nhất:
Với tốc độ phát triển AI hiện nay, tôi tin rằng chúng ta đang tiến gần đến thời điểm AI có thể tìm ra kẽ hở, thao túng quy trình làm việc, hoặc thậm chí đánh lừa người đánh giá để đạt được mục tiêu trong khi trên danh nghĩa vẫn tuân thủ các quy tắc.
Và đó là chưa kể đến việc con người có thể can thiệp, sử dụng sai mục đích hoặc biến những năng lực này thành vũ khí như thế nào.
Ý nghĩ rằng AI sẽ luôn nằm trong tầm kiểm soát 100% của con người đang ngày càng khó được xem là điều hiển nhiên.
Câu hỏi thực sự không chỉ là AI có thể trở nên thông minh đến mức nào. Mà là liệu khả năng kiểm soát AI của chúng ta có theo kịp trí thông minh của nó hay không.
Hãy nhìn vào những tiến bộ chỉ trong 2 năm:
ChatGPT
Khả năng suy luận và phân tích: +200–300%
Kỹ năng lập trình và kỹ thuật: +300%
Phân tích dữ liệu: +300%
Khả năng xử lý ngữ cảnh và ghi nhớ: +200%
Tự động hóa: +400%
Gemini
Khả năng tự cải thiện: theo các báo cáo, tốt hơn 3–5 lần.
Khả năng hiểu đa phương thức, suy luận chuyên sâu và sử dụng công cụ đã tiến bộ đáng kể.
Claude
SWE-bench Verified: từ khoảng 49% vào cuối năm 2024 lên 96–97% trong các kết quả mới nhất được công bố.
SWE-bench Pro: theo các báo cáo, một số mô hình mới nhất đạt gần 90%.
Những con số này không hoàn toàn có thể so sánh với nhau, và việc cải thiện điểm số trên các bài kiểm tra không nhất thiết có nghĩa là AI đang tự học.
Nhưng đây mới là điều khiến tôi lo ngại nhất:
Với tốc độ phát triển AI hiện nay, tôi tin rằng chúng ta đang tiến gần đến thời điểm AI có thể tìm ra kẽ hở, thao túng quy trình làm việc, hoặc thậm chí đánh lừa người đánh giá để đạt được mục tiêu trong khi trên danh nghĩa vẫn tuân thủ các quy tắc.
Và đó là chưa kể đến việc con người có thể can thiệp, sử dụng sai mục đích hoặc biến những năng lực này thành vũ khí như thế nào.
Ý nghĩ rằng AI sẽ luôn nằm trong tầm kiểm soát 100% của con người đang ngày càng khó được xem là điều hiển nhiên.
Câu hỏi thực sự không chỉ là AI có thể trở nên thông minh đến mức nào. Mà là liệu khả năng kiểm soát AI của chúng ta có theo kịp trí thông minh của nó hay không.
