Theo Foresight News qua Binance News, các nhà nghiên cứu của CertiK và Đại học Columbia đã giới thiệu TensorLean, công cụ áp dụng các chứng minh bằng Lean vào những nhân GPU đứng sau các mô hình AI, bao gồm DeepGEMM của DeepSeek và thư viện FlashAttention. Nhóm nghiên cứu cho biết đã phát hiện vấn đề về tính đúng đắn trong một số nhân.
Tôi được đào tạo làm kỹ sư hạt nhân, và trong lĩnh vực đó, người ta không tin cậy một phép tính trọng yếu đối với an toàn chỉ vì nó vượt qua vài bài kiểm tra. Bạn phải chứng minh các giới hạn. Điện toán AI đang dần đi đến cùng một nhận thức: các nhân được tinh chỉnh để tăng tốc độ, và mỗi bước tinh chỉnh đều có thể âm thầm làm thay đổi phép toán.
Điều này cũng quan trọng với tiền mã hóa. Nếu các tác nhân AI sẽ giao dịch tiền, thì những phép tính nền tảng của chúng cần được chứng minh, chứ không chỉ được đánh giá bằng các bài kiểm tra hiệu năng. Một nghiên cứu riêng về việc hình thức hóa mã GPU bằng Lean, được đăng trên arXiv, cũng chỉ về cùng một hướng.
Bạn có tin tưởng giao ví cho một tác nhân AI nếu các phép toán cốt lõi của nó không có chứng minh không?
#KiểmChứngHìnhThức #AI
Tôi được đào tạo làm kỹ sư hạt nhân, và trong lĩnh vực đó, người ta không tin cậy một phép tính trọng yếu đối với an toàn chỉ vì nó vượt qua vài bài kiểm tra. Bạn phải chứng minh các giới hạn. Điện toán AI đang dần đi đến cùng một nhận thức: các nhân được tinh chỉnh để tăng tốc độ, và mỗi bước tinh chỉnh đều có thể âm thầm làm thay đổi phép toán.
Điều này cũng quan trọng với tiền mã hóa. Nếu các tác nhân AI sẽ giao dịch tiền, thì những phép tính nền tảng của chúng cần được chứng minh, chứ không chỉ được đánh giá bằng các bài kiểm tra hiệu năng. Một nghiên cứu riêng về việc hình thức hóa mã GPU bằng Lean, được đăng trên arXiv, cũng chỉ về cùng một hướng.
Bạn có tin tưởng giao ví cho một tác nhân AI nếu các phép toán cốt lõi của nó không có chứng minh không?
#KiểmChứngHìnhThức #AI