Chúng tôi đã có thể tinh chỉnh một mô hình có trọng số mở (Qwen3.5-9B) bằng dữ liệu nội bộ độc quyền tại @coinbase. Với một tác vụ chuyên biệt (trong trường hợp này là ngăn chặn gian lận), mô hình này hoạt động tốt hơn các mô hình tiên tiến nhất, với chi phí thấp hơn nhiều và tốc độ nhanh hơn.

Tôi nghĩ chúng ta sẽ thấy mô hình này được áp dụng nhiều hơn trong các công ty. Các mô hình tiên tiến nhất là những mô hình đa năng tuyệt vời. Nhưng ngày càng có nhiều trường hợp các mô hình chuyên biệt hoạt động tốt hơn trong những tác vụ hẹp hơn, dù hoạt động theo nhóm hay độc lập.

Chúng tôi đang giúp nhân viên dễ dàng tinh chỉnh mô hình ngay trong nội bộ. Thậm chí, chúng tôi còn có một kỹ năng dành cho việc này trong hệ thống nội bộ, giúp mọi người dễ dàng khởi tạo mô hình và bắt đầu huấn luyện:

"/fine-tune-and-serve-llm Tôi muốn tinh chỉnh Qwen để rà soát rủi ro thanh toán. hãy giúp tôi bắt đầu"

Tôi hình dung một số dịch vụ backend của chúng tôi có thể được thay thế hoàn toàn bằng kiến trúc mới này.