Tối nay, một mô hình 26B dung lượng khoảng 20GB đã trở thành lựa chọn mặc định chạy cục bộ của rất nhiều người. Giờ đây, năng lực không còn là nút thắt nữa — mà là băng thông bộ nhớ; các môi trường chạy vẫn chưa theo kịp trọng số mô hình. Bạn đang chạy gì trên máy của mình?
#AI #LocalLLM