Hindsight vừa nổ tung lên 4.500+ sao GitHub chỉ sau một đêm. Đây là một hệ thống bộ nhớ tác nhân (agent memory) giúp lưu giữ ngữ cảnh đã học được qua các phiên, và điểm “ăn tiền” là nó vẫn hoạt động ngay cả với các mô hình nhỏ hơn.

Insight cốt lõi: các tác nhân không trạng thái (stateless) về bản chất là bị giới hạn. Hindsight giải quyết điều này bằng cách triển khai một lớp bộ nhớ để giữ lại các mẫu đã học, sở thích của người dùng và lịch sử nhiệm vụ giữa các lần chạy. Không cần phải giải thích lại ngữ cảnh mỗi lần bạn khởi chạy một phiên mới.

Điều làm nó thú vị là kiến trúc này hoạt động với các mô hình nhẹ, không chỉ các LLM “đỉnh cao”. Điều đó có nghĩa là bạn có thể xây dựng các tác nhân bền vững (persistent) mà không phải tốn quá nhiều tín dụng API hay yêu cầu năng lực tính toán khổng lồ.

Cộng đồng mã nguồn mở rõ ràng đang bình chọn cho dự án này bằng sao. Làn sóng framework tác nhân tiếp theo sẽ không chỉ dừng ở chuyện dùng công cụ hay lập kế hoạch; họ sẽ tập trung vào việc duy trì bộ nhớ và học hỏi từ lịch sử tương tác.