20B tham số Trình khai thác (Harness-1) mã nguồn mở: triển khai trạng thái ở phía ngoài để đạt hiệu suất dữ liệu cực cao

Các nhà nghiên cứu từ UIUC, UC Berkeley và Chroma đã công bố mã nguồn mở cho trình khai thác truy vấn (retrieval) 20 tỷ tham số Harness-1. Mô hình này sử dụng kiến trúc “trạng thái ở phía ngoài” mang tính đột phá, giao việc ghi nhớ và sắp xếp trong quá trình truy hồi cho phía môi trường duy trì, nhờ đó ngay cả các mô hình quy mô không phải hàng đầu cũng có thể đạt hiệu năng gần tương đương với các mô hình tiên tiến trong các tác vụ tìm kiếm tầm xa, sử dụng rất ít dữ liệu huấn luyện. Điều này có nghĩa là nhà phát triển không cần nguồn sức mạnh tính toán khổng lồ vẫn có thể xây dựng hệ thống tạo sinh tăng cường truy hồi (RAG) một cách hiệu quả.

Tại sao quan trọng: Harness-1 chứng minh rằng các đổi mới về kiến trúc mô hình có thể bù đắp chênh lệch về số lượng tham số, giúp các nhóm nhỏ và vừa cũng có thể tạo ra các tác nhân truy hồi hiệu năng cao, đồng thời giảm đáng kể ngưỡng chi phí tính toán khi phát triển ứng dụng AI.

#AI #开源 #检索智能体 #RAG #Trí tuệ nhân tạo