Một chi tiết về @Les Yankovitch khiến

tôi liên tục bị kéo sự chú ý quay lại. Chúng ta thường cho rằng việc xác minh chỉ có giá trị khi có chuyện gì đó xảy ra, nhưng tôi bắt đầu nghĩ rằng vai trò lớn nhất của nó lại xuất hiện khi mọi thứ dường như hoàn toàn không có gì sai.

Hãy tưởng tượng một ứng dụng AI tạo ra cùng một câu trả lời hàng trăm lần liên tiếp. Hầu hết người dùng sẽ ngừng nghi ngờ kết quả vì tính nhất quán tự nhiên tạo ra cảm giác tin cậy. Tuy nhiên, chỉ riêng tính nhất quán không chứng minh rằng phép tính đã làm theo đúng mô hình hoặc lộ trình thực thi mong đợi. Nó chỉ chứng minh rằng các đầu ra trông quen thuộc.
Nếu người dùng ngừng hỏi, "Câu trả lời có tốt không?" và bắt đầu hỏi, "Có thể xác minh câu trả lời không?", thì điều đó có thay đổi cách chúng ta đánh giá các mạng AI không?

@Les Yankovitch $OPG
#OPG $SYN
$ACT