🤷 Mẹo AI: Cho phép AI nói “Tôi không biết”

Các mô hình thường tự tin đoán mò để lấp chỗ trống. Hướng dẫn của Anthropic về cách giảm hiện tượng ảo giác nêu rõ rằng việc cho phép Claude thừa nhận sự không chắc chắn “có thể giảm đáng kể thông tin sai lệch”.

Thêm một dòng vào lời nhắc của bạn:
Nếu bạn không chắc chắn hoặc báo cáo không có thông tin cần thiết, hãy nói “Tôi không có đủ thông tin để đánh giá điều này một cách chắc chắn.”

Đang xử lý một tài liệu dài? Hãy làm thêm một bước: trước tiên yêu cầu trích dẫn nguyên văn, sau đó mới trả lời chỉ dựa trên những trích dẫn đó. Hoặc sau khi có bản nháp, hãy yêu cầu tìm một trích dẫn hỗ trợ cho từng nhận định và xóa mọi nhận định không có trích dẫn xác thực.

⭐ Một câu “Tôi không biết” trung thực còn hơn một sự thật giả được khẳng định đầy tự tin.

#AI