Liệu chúng ta có thực sự cần GPU đắt tiền cho mọi tác vụ AI không?
Hãy nghĩ đến một ứng dụng cần lọc thư rác, sắp xếp email hoặc kiểm tra nội dung hàng nghìn lần mỗi ngày. Dùng một mô hình AI lớn cho từng tác vụ nhỏ có thể khá tốn kém.
@Acurast đang tìm hiểu một hướng tiếp cận khác với Laya, một mô hình AI gọn nhẹ chạy trên CPU của điện thoại Android. Theo nhóm phát triển, mỗi quyết định mất khoảng 0,2–1 giây.
Các nhà phát triển thậm chí không cần sở hữu điện thoại. Thay vào đó, họ có thể triển khai các tác vụ trên mạng lưới điện toán phi tập trung của Acurast.
Tất nhiên, chạy được AI trên điện thoại mới chỉ là bước đầu. Câu hỏi lớn hơn là liệu giải pháp này có thể duy trì độ tin cậy và hiệu quả chi phí khi mở rộng quy mô hay không.
Với tôi, tiềm năng thực sự không nằm ở số lượng điện thoại tham gia mạng lưới, mà ở khối lượng công việc hữu ích mà những chiếc điện thoại đó có thể thực sự xử lý.
Hãy nghĩ đến một ứng dụng cần lọc thư rác, sắp xếp email hoặc kiểm tra nội dung hàng nghìn lần mỗi ngày. Dùng một mô hình AI lớn cho từng tác vụ nhỏ có thể khá tốn kém.
@Acurast đang tìm hiểu một hướng tiếp cận khác với Laya, một mô hình AI gọn nhẹ chạy trên CPU của điện thoại Android. Theo nhóm phát triển, mỗi quyết định mất khoảng 0,2–1 giây.
Các nhà phát triển thậm chí không cần sở hữu điện thoại. Thay vào đó, họ có thể triển khai các tác vụ trên mạng lưới điện toán phi tập trung của Acurast.
Tất nhiên, chạy được AI trên điện thoại mới chỉ là bước đầu. Câu hỏi lớn hơn là liệu giải pháp này có thể duy trì độ tin cậy và hiệu quả chi phí khi mở rộng quy mô hay không.
Với tôi, tiềm năng thực sự không nằm ở số lượng điện thoại tham gia mạng lưới, mà ở khối lượng công việc hữu ích mà những chiếc điện thoại đó có thể thực sự xử lý.