Генеральный директор Arena раскрыл правду о бенчмарках ИИ: закрытые бенчмарки не защищены от накрутки. Вектор атаки? Найти похожие данные или просто провести достаточно много тестов методом полного перебора, пока не удастся точно определить распределение.
Главное опасение: передовые модели OpenAI/Anthropic/Google, возможно, уже переобучены на «закрытых» наборах данных бенчмарков, которые используются для составления публичных рейтингов. Мы не видим, как устроены их внутренние циклы оценки.
Решение Arena: использовать свежие производственные данные для непрерывной оценки. Если модель отлично справляется с вашим конкретным сценарием использования — прекрасно, но это не значит, что она так же хорошо справится с рабочими нагрузками других компаний. Это похоже на замену стандартных экзаменов динамичными задачами из реального мира, которые постоянно меняются.
Вот почему GPT-4 может набрать 90+ баллов в MMLU, но при этом не справиться с конкретным RAG-процессом вашей компании. Результаты бенчмарков ≠ производительность в реальных условиях.
Главное опасение: передовые модели OpenAI/Anthropic/Google, возможно, уже переобучены на «закрытых» наборах данных бенчмарков, которые используются для составления публичных рейтингов. Мы не видим, как устроены их внутренние циклы оценки.
Решение Arena: использовать свежие производственные данные для непрерывной оценки. Если модель отлично справляется с вашим конкретным сценарием использования — прекрасно, но это не значит, что она так же хорошо справится с рабочими нагрузками других компаний. Это похоже на замену стандартных экзаменов динамичными задачами из реального мира, которые постоянно меняются.
Вот почему GPT-4 может набрать 90+ баллов в MMLU, но при этом не справиться с конкретным RAG-процессом вашей компании. Результаты бенчмарков ≠ производительность в реальных условиях.