Gần đây tôi xem lại tài liệu của một khóa học công khai về kỹ thuật xây dựng agent. Cảm nhận lớn nhất là: rào cản của ngành này không nằm ở mô hình, mà ở kỷ luật kỹ thuật.

Cùng một nhiệm vụ, người mới viết một prompt thật dài để mô hình tự tìm cách giải quyết; người có kinh nghiệm lại viết một loạt hàm nhỏ, mỗi hàm đều có đầu vào, đầu ra rõ ràng, có các câu lệnh assertion và phương án dự phòng khi thất bại. Cách đầu tiên làm demo thì ấn tượng, nhưng đưa vào vận hành là sập; cách thứ hai làm demo thì bình thường, nhưng chạy suốt ba tháng chẳng xảy ra sự cố nào.

Vì thế, tôi không tin lắm rằng những thứ như “mẹo viết prompt” sẽ có giá trị lâu dài. Thứ có giá trị là đưa hành vi bất định của mô hình vào một cấu trúc kỹ thuật có tính xác định.

Nếu muốn bước chân vào ngành này, đừng học cách đặt câu hỏi trước; hãy học cách kiểm thử trước.