答えは「はい」で、そして効果はかなりはっきりしています。1種類の言語だけでトレーニングしても、モデルは多くの他の言語でも一緒に強くなります。

たとえばフランス語のテストでは、直接フランス語で学習すると平均で25.6ポイント上がります。完全にフランス語を使わず、スペイン語の問題だけで練習しても、最後にフランス語のテストを受ければ24.6ポイント上がります。差はわずか1ポイントです。

モデルが学んだのは、特定の言語の問題だけではありません。別の言語でも使い続けられる、問題の解き方の一部もあります。だから今後、モデルの中国語推論をもっと強くしたいとしても、すべての強化学習データを最初から中国語に作り直す必要がないかもしれません。