Có lần mình thuê thiết kế một logo cho một dự án nhỏ.
Trong tin nhắn đầu tiên, mình chỉ ghi rất ngắn:
“Làm đơn giản là được.”
Một tuần sau, designer gửi bản hoàn thiện.
Phải thừa nhận là logo rất đẹp.
Màu sắc hài hòa.
Bố cục cân đối.
Nhìn chuyên nghiệp hơn rất nhiều so với những gì mình tưởng tượng.
Nhưng mình vẫn không dùng.
Không phải vì designer làm chưa tốt.
Mà vì sau khi nhìn lại, mình nhận ra hai bên đang cố gắng tạo ra hai kết quả khác nhau.
Designer đang tối ưu để logo đẹp nhất.
Còn điều mình thật sự cần là một logo dễ in trên bao bì vải với chi phí thấp và vẫn nhận diện tốt khi thu nhỏ xuống chỉ vài centimet.
Không ai làm sai.
Chỉ là chúng mình đang tối ưu cho hai mục tiêu khác nhau.
Điều đó làm mình nghĩ khá nhiều khi đọc về @NewtonProtocol.
Khi nói về AI execution, chúng ta thường đánh giá một kết quả bằng cách hỏi:
“Execution có đúng không?”
Nhưng có lẽ còn một câu hỏi khó hơn.
Execution đang được tối ưu cho mục tiêu của ai?
Theo mình, đây mới là nơi những khác biệt nhỏ có thể tạo ra khoảng cách rất lớn.
Một agent có thể thực hiện từng bước rất chính xác.
Không mắc lỗi.
Không bỏ sót.
Không vi phạm bất kỳ quy tắc nào.
Nhưng nếu toàn bộ quá trình đang tối ưu cho một mục tiêu khác với điều người dùng thực sự cần, thì kết quả cuối cùng vẫn có thể trở thành một thất bại.
Điều đáng chú ý là những execution như vậy thường rất khó phát hiện.
Bởi nhìn bề ngoài, mọi thứ đều có vẻ hợp lý.
Chỉ đến khi người dùng nhận kết quả, sự lệch hướng mới lộ ra.
Theo mình, đây là điểm thú vị khi nhìn vào @NewtonProtocol.
Điều mình quan tâm không phải agent có hoàn thành execution hay không.
Mà là cách hệ thống giữ cho execution luôn bám đúng mục tiêu mà người dùng thực sự muốn tối ưu, thay vì để agent dần chuyển sang một tiêu chí khác chỉ vì nó có vẻ hợp lý hơn trong quá trình thực hiện.
Tự phản biện.
Dĩ nhiên, nếu một agent luôn bám cứng vào đúng mục tiêu ban đầu mà không có khả năng thích nghi, nó sẽ trở nên thiếu linh hoạt trước những thay đổi của thực tế.
Nhưng nếu agent tự do thay đổi tiêu chí tối ưu trong quá trình execution mà không có cơ chế kiểm soát, khoảng cách giữa điều người dùng cần và điều hệ thống tạo ra sẽ ngày càng lớn, dù từng bước đều được thực hiện rất chính xác.
Với mình, một AI execution đáng tin không phải là execution tạo ra kết quả đẹp nhất.
Mà là execution vẫn trung thành với mục tiêu mà người dùng thực sự muốn đạt được ngay từ lúc bắt đầu.