Joyce.
Publicar
橙子Joyce
·
--
A equipe de pesquisa da Apple fez uma rodada de experimentos de aprendizado por reforço com 9 modelos e 11 idiomas, para entender: se os dados de treinamento forem apenas em um idioma, a capacidade do modelo de resolver problemas pode ser aplicada para questões em outros idiomas?
A resposta é: sim, e o efeito é bem perceptível. Treinando com apenas um idioma, o modelo também fica mais forte em muitos outros idiomas.
Por exemplo, em testes de francês, ao treinar diretamente em francês, a nota média melhora 25,6 pontos percentuais; sem treinar em francês de forma alguma, mas apenas treinando com questões em espanhol, no final fazer o teste de francês também melhora em 24,6 pontos percentuais — só falta 1 ponto percentual.
O modelo não aprendeu apenas questões de um único idioma, mas também um conjunto de métodos de resolução que podem ser trocados de idioma e ainda serem usados. Então, no futuro, se você quiser fortalecer a capacidade de raciocínio em chinês do modelo, talvez não seja necessário refazer todo o conjunto de dados de aprendizado por reforço em chinês.
Por exemplo, em testes de francês, ao treinar diretamente em francês, a nota média melhora 25,6 pontos percentuais; sem treinar em francês de forma alguma, mas apenas treinando com questões em espanhol, no final fazer o teste de francês também melhora em 24,6 pontos percentuais — só falta 1 ponto percentual.
O modelo não aprendeu apenas questões de um único idioma, mas também um conjunto de métodos de resolução que podem ser trocados de idioma e ainda serem usados. Então, no futuro, se você quiser fortalecer a capacidade de raciocínio em chinês do modelo, talvez não seja necessário refazer todo o conjunto de dados de aprendizado por reforço em chinês.
Aviso legal: inclui opiniões de terceiros. Não constitui aconselhamento. A Binance AI pode ser utilizada sem garantia. Consulta os Termos e Condições.