HN Hôm nay có một mẫu nhỏ tên Kev, 0,8B đến 9B có 3 mức, gắn trực tiếp lên Qwen 3.5 của Tongyi. Mục tiêu là để bạn có thể huấn luyện và chạy được các mô hình dạng ra quyết định ngay trên GPU tại nhà.
Trọng số mô hình được công khai trên Hugging Face, kèm theo luôn script huấn luyện và bộ dữ liệu đánh giá.
Luồng này đối với mã hóa là tin tốt. Mô hình chạy cục bộ, đi cùng một hướng với các nút tính toán nhỏ kiểu muốn làm theo giao thức proxy như $FET . Huấn luyện không còn bị kẹt ở việc phải có vài nghìn GPU của các “đại xưởng”. Thiết bị của cá nhân vẫn có thể chạy được, và giao thức proxy mới có bối cảnh triển khai thực sự. $NEAR cũng liên quan, câu chuyện về mạng con (subnet) năm nay vẫn luôn chờ một “điểm bùng nổ” cho suy luận cục bộ.
Vấn đề là, 900 triệu tham số có đủ dùng không? Còn phải xem đánh giá thực tế. Với các mô hình mã nguồn mở, tôi quan tâm hơn liệu nó có thể thay thế mô hình đóng (closed-source) trên các tác vụ nhỏ hay không, chứ không phải bản thân kích thước tham số.
#开源AI #代理协议 #科技
Trọng số mô hình được công khai trên Hugging Face, kèm theo luôn script huấn luyện và bộ dữ liệu đánh giá.
Luồng này đối với mã hóa là tin tốt. Mô hình chạy cục bộ, đi cùng một hướng với các nút tính toán nhỏ kiểu muốn làm theo giao thức proxy như $FET . Huấn luyện không còn bị kẹt ở việc phải có vài nghìn GPU của các “đại xưởng”. Thiết bị của cá nhân vẫn có thể chạy được, và giao thức proxy mới có bối cảnh triển khai thực sự. $NEAR cũng liên quan, câu chuyện về mạng con (subnet) năm nay vẫn luôn chờ một “điểm bùng nổ” cho suy luận cục bộ.
Vấn đề là, 900 triệu tham số có đủ dùng không? Còn phải xem đánh giá thực tế. Với các mô hình mã nguồn mở, tôi quan tâm hơn liệu nó có thể thay thế mô hình đóng (closed-source) trên các tác vụ nhỏ hay không, chứ không phải bản thân kích thước tham số.
#开源AI #代理协议 #科技