đ OpenAI vient de rĂ©vĂ©ler le nombre cachĂ© derriĂšre son IA la plus intelligente et affirme quâelle approche dâune nouvelle zone de danger
Le scientifique en chef dâOpenAI, Jakub Pachocki, a publiĂ© pour la premiĂšre fois les scores internes de « perplexitĂ© » quâOpenAI utilise pour suivre les progrĂšs de ses modĂšles de base. GPT-3.5 a obtenu ~0.99, GPT-4 ~0.91, et en dessous de 0.8, des compĂ©tences « transformatrices » en mathĂ©matiques et en cybersĂ©curitĂ© sont apparues. Ă ~0.76, un modĂšle a commencĂ© Ă rĂ©soudre des problĂšmes de maths « les uns aprĂšs les autres ». Il sâattend Ă dâautres surprises entre 0.68 et 0.7 et propose des limites Ă lâĂ©chelle du secteur que les laboratoires ne franchiraient pas tant que lâIA ne pourra pas ĂȘtre mieux surveillĂ©e.
â Un laboratoire dâIA de premier plan demande Ă ses concurrents de sâaccorder sur une limite de vitesse, signe que les personnes qui dĂ©veloppent lâIA pensent que les prochaines avancĂ©es pourraient arriver plus vite que les outils de sĂ©curitĂ©.
#AI
Le scientifique en chef dâOpenAI, Jakub Pachocki, a publiĂ© pour la premiĂšre fois les scores internes de « perplexitĂ© » quâOpenAI utilise pour suivre les progrĂšs de ses modĂšles de base. GPT-3.5 a obtenu ~0.99, GPT-4 ~0.91, et en dessous de 0.8, des compĂ©tences « transformatrices » en mathĂ©matiques et en cybersĂ©curitĂ© sont apparues. Ă ~0.76, un modĂšle a commencĂ© Ă rĂ©soudre des problĂšmes de maths « les uns aprĂšs les autres ». Il sâattend Ă dâautres surprises entre 0.68 et 0.7 et propose des limites Ă lâĂ©chelle du secteur que les laboratoires ne franchiraient pas tant que lâIA ne pourra pas ĂȘtre mieux surveillĂ©e.
â Un laboratoire dâIA de premier plan demande Ă ses concurrents de sâaccorder sur une limite de vitesse, signe que les personnes qui dĂ©veloppent lâIA pensent que les prochaines avancĂ©es pourraient arriver plus vite que les outils de sĂ©curitĂ©.
#AI
