Theo Foresight News, dẫn nguồn Binance News, các nhà nghiên cứu từ CertiK và Đại học Columbia đã ra mắt TensorLean, sử dụng các chứng minh hình thức bằng Lean để kiểm tra các kernel GPU đứng sau các mô hình AI, trong đó có DeepGEMM của DeepSeek và thư viện FlashAttention. Nhóm cho biết họ đã phát hiện các vấn đề về tính đúng đắn trong một số thư viện này.
Tôi xuất thân từ ngành kỹ thuật hạt nhân. Trong lĩnh vực này, một phép tính trọng yếu về an toàn sẽ không được tin tưởng chỉ vì đã vượt qua vài lần kiểm thử; bạn phải chứng minh được giới hạn sai số. Năng lực tính toán AI đang dần tiến tới cách nghĩ tương tự: các kernel liên tục được tối ưu để tăng tốc độ, nhưng mỗi bước tối ưu đều có thể âm thầm làm thay đổi kết quả toán học.
Điều này cũng quan trọng đối với ngành tiền mã hóa. Nếu các tác nhân AI sẽ xử lý tiền trong tương lai, thì phép toán nền tảng của chúng phải có thể chứng minh được, chứ không chỉ chạy qua các bài kiểm tra hiệu năng. Trên arXiv cũng có một nghiên cứu về việc dùng Lean để hình thức hóa mã GPU, cùng chung định hướng này.
Nếu phần toán học cốt lõi của một tác nhân AI chưa được chứng minh, bạn có dám giao ví của mình cho nó không?
#FormalVerification #AI
Tôi xuất thân từ ngành kỹ thuật hạt nhân. Trong lĩnh vực này, một phép tính trọng yếu về an toàn sẽ không được tin tưởng chỉ vì đã vượt qua vài lần kiểm thử; bạn phải chứng minh được giới hạn sai số. Năng lực tính toán AI đang dần tiến tới cách nghĩ tương tự: các kernel liên tục được tối ưu để tăng tốc độ, nhưng mỗi bước tối ưu đều có thể âm thầm làm thay đổi kết quả toán học.
Điều này cũng quan trọng đối với ngành tiền mã hóa. Nếu các tác nhân AI sẽ xử lý tiền trong tương lai, thì phép toán nền tảng của chúng phải có thể chứng minh được, chứ không chỉ chạy qua các bài kiểm tra hiệu năng. Trên arXiv cũng có một nghiên cứu về việc dùng Lean để hình thức hóa mã GPU, cùng chung định hướng này.
Nếu phần toán học cốt lõi của một tác nhân AI chưa được chứng minh, bạn có dám giao ví của mình cho nó không?
#FormalVerification #AI