đĄïž OpenAI affirme que les imitateurs qui tentent de voler le « raisonnement » de son IA nây parviennent plus que dans 0,2 % des cas
Les concurrents peuvent crĂ©er des clones bon marchĂ© en les entraĂźnant Ă partir des rĂ©ponses dâun modĂšle de pointe, une technique appelĂ©e distillation. OpenAI affirme avoir renforcĂ© GPT-6.2 Astra et Sol contre les tentatives visant Ă extraire leur raisonnement cachĂ©, Ă©tape par Ă©tape : lors de tests internes menĂ©s par une Ă©quipe rouge, le taux de rĂ©ussite des attaques est passĂ© de 54 % pour GPT-6 Astra Ă seulement 0,2 %. Dans sa propre Ă©tude, un modĂšle entraĂźnĂ© sur des traces de raisonnement exactes a gĂ©nĂ©ralement acquis de meilleures compĂ©tences en programmation et en cybersĂ©curitĂ© quâun modĂšle entraĂźnĂ© sur des rĂ©sumĂ©s. Le risque, avertit OpenAI : les clones reproduisent les capacitĂ©s, mais pas les garde-fous de sĂ©curitĂ©.
â La course Ă lâIA sâouvre un nouveau front : protĂ©ger la façon dont les modĂšles rĂ©flĂ©chissent, et pas seulement leurs rĂ©ponses.
#IA
Les concurrents peuvent crĂ©er des clones bon marchĂ© en les entraĂźnant Ă partir des rĂ©ponses dâun modĂšle de pointe, une technique appelĂ©e distillation. OpenAI affirme avoir renforcĂ© GPT-6.2 Astra et Sol contre les tentatives visant Ă extraire leur raisonnement cachĂ©, Ă©tape par Ă©tape : lors de tests internes menĂ©s par une Ă©quipe rouge, le taux de rĂ©ussite des attaques est passĂ© de 54 % pour GPT-6 Astra Ă seulement 0,2 %. Dans sa propre Ă©tude, un modĂšle entraĂźnĂ© sur des traces de raisonnement exactes a gĂ©nĂ©ralement acquis de meilleures compĂ©tences en programmation et en cybersĂ©curitĂ© quâun modĂšle entraĂźnĂ© sur des rĂ©sumĂ©s. Le risque, avertit OpenAI : les clones reproduisent les capacitĂ©s, mais pas les garde-fous de sĂ©curitĂ©.
â La course Ă lâIA sâouvre un nouveau front : protĂ©ger la façon dont les modĂšles rĂ©flĂ©chissent, et pas seulement leurs rĂ©ponses.
#IA
