Làm chuyện AI chạy trên chuỗi mà trước đây tôi nghe đã thấy nhíu mày. Phần lớn dự án đều chỉ là chiêu trò kiểu demo, cho đến khi lần theo và đào ra HACA của @OpenGradient , thì lần đầu tiên tôi mới cảm thấy con đường này có thể chạy thông suốt.
Khó khăn không phải là phức tạp về mặt kỹ thuật. Tính toán suy luận cần GPU, Agent phải lấy dữ liệu xuyên chuỗi, còn thống kê thì cần tính toán ở trạng thái ổn định trong thời gian dài. Phải ép một nút làm trọn bộ mọi việc; nếu không thì hoặc là chậm đến mức không dùng được, hoặc là đắt đến mức chẳng ai nhìn vào. Đa số dự án trên thị trường mắc kẹt ngay ở bước này; thực nghiệm cho thấy chỉ cần ba lần suy luận là nút đã có thể bị kéo sập.
Nói ví dụ sang lĩnh vực khác: chuyện này giống như việc tách khoa trong một bệnh viện “đàng hoàng”. Bệnh viện sẽ không bảo bác sĩ đa khoa đi làm cầu nối tim, cũng không để trưởng khoa ngoại mổ đi xem cảm cúm. Cấp cứu, chẩn đoán hình ảnh, phẫu thuật, nhà thuốc—mỗi bộ phận làm đúng việc của mình, và việc điều phối diễn ra giữa các bộ phận. HACA đi theo đúng tư duy đó: Full Nodes đóng vai The Judge để xác minh và đưa ra phán quyết; Inference Nodes chỉ chuyên chạy suy luận AI; còn có các vai trò riêng chuyên chạy suy luận Agent và phân tích thống kê. Phía dưới là lớp nền sức mạnh tính toán với GPU phi tập trung và bộ tăng tốc chuyên dụng. Mỗi loại công việc tìm đúng nút chuyên trách làm, thì chuỗi mới không bị một tác vụ suy luận “kẹt cứng”.
$HEI
Trước đây tôi cứ nghĩ phân công không đồng nhất chỉ là tối ưu hóa kỹ thuật. Đẩy nó tới cực đoan thì tôi mới nhận ra: đó là “chìa khóa sống còn” để AI trên chuỗi có thể mở rộng quy mô. Web2 sớm đã chia phân cụm không đồng nhất: GPU cho suy luận, CPU cho thống kê, mỗi bên làm đúng vai trò; còn trên chuỗi, đến nay vẫn dùng môi trường chung EVM để gồng gánh AI. Tương đương việc bắt bác sĩ đa khoa thức xuyên đêm làm phẫu thuật—không phải là không làm được, mà là làm không được nhiều và cũng chẳng kéo dài được. HACA lần đầu tiên biến năng lực tính toán trên chuỗi thành một hệ thống phân công rõ ràng: hơn 4500 mô hình, hơn 2 triệu lượt suy luận có thể xác minh chạy xuống mà không bị sập.
Tôi không thay nó “ôm trọn thiên hạ”. Đánh đổi của kiến trúc dị cấu trúc là độ phức tạp phối hợp tăng lên: đồng bộ nút, cơ chế khuyến khích, trừng phạt hành vi xấu—chỉ cần bất kỳ mắt xích nào lệch là toàn bộ phân công sẽ phản tác dụng lên hiệu năng. Ở giai đoạn testnet, đường cong phần thưởng vẫn đang được chỉnh; giai đoạn đầu nhà phát triển còn phải chịu áp lực “trôi phiên bản”. Tính ổn định của GPU phi tập trung cũng chưa chắc.
$BTW
Những điều tôi tự muốn xem cũng khá thực tế. Tôi muốn xem sau khi $OPG lên mainnet, các lớp nút của HACA phân bố thế nào theo lát cắt; muốn xem độ trễ end-to-end khi một tác vụ Agent phức tạp chạy trọn một vòng; và cũng muốn xem khi một nút làm ác bị The Judge vạch ra và cắt quyền, chuỗi ghi nhận điều đó như thế nào. Chừng nào chưa thấy các điều này, tôi thà từ từ bóc tách AI trên chuỗi, không vội hô “ngầu”.
#opg