CEO của Arena tiết lộ sự thật phũ phàng về việc đánh giá chuẩn AI: các bộ chuẩn đánh giá riêng tư cũng không tránh khỏi bị thao túng. Cách thức tấn công? Tìm dữ liệu tương tự hoặc cứ thử vét cạn đủ nhiều lần cho đến khi nắm được phân phối dữ liệu.

Mối lo ngại thực sự: các mô hình tiên phong của OpenAI/Anthropic/Google có thể đã bị quá khớp với những bộ dữ liệu chuẩn đánh giá “riêng tư” được dùng để tạo bảng xếp hạng công khai. Chúng ta không thể biết được các vòng đánh giá nội bộ của họ.

Giải pháp của Arena: dùng dữ liệu mới từ môi trường vận hành thực tế để đánh giá liên tục. Nếu một mô hình xử lý xuất sắc trường hợp sử dụng cụ thể của bạn thì thật tuyệt—nhưng hiệu suất đó không thể khái quát cho khối lượng công việc của tất cả mọi người. Cũng giống như thay các kỳ thi cố định bằng những vấn đề thực tế luôn thay đổi.

Điều này lý giải vì sao GPT-4 có thể đạt hơn 90 điểm ở MMLU nhưng vẫn thất bại với quy trình RAG cụ thể của công ty bạn. Điểm chuẩn đánh giá ≠ hiệu suất trong môi trường vận hành thực tế.