Selon des informations, OpenAI et Anthropic auraient déjà discuté de tests croisés de leurs modèles
D’après des médias citant des personnes informées, Anthropic et OpenAI auraient envisagé de signer un accord juridiquement contraignant afin de tester mutuellement leurs modèles de grande taille. Plus tôt cette année, les deux entreprises, ainsi que leurs équipes d’avocats, auraient discuté de ce projet : les concurrents pourraient tester en profondeur les modèles les plus récents disponibles de chacun, afin d’identifier d’éventuels risques ou failles de sécurité. Ces tests ne concerneraient que les modèles déjà commercialisés, et les deux parties auraient convenu de ne conserver aucune donnée de l’autre. Le rapport ne précise pas clairement si les deux parties sont finalement parvenues à un tel accord. Récemment, l’idée de mettre en place une forme d’évaluation par des pairs entre les principaux laboratoires d’IA a suscité beaucoup d’attention. La semaine dernière, le PDG de SpaceX, Elon Musk, a suggéré que plusieurs grandes sociétés américaines spécialisées dans les grands modèles d’IA, ainsi que certaines entreprises chinoises du secteur, devraient autoriser leurs concurrents à effectuer des tests croisés. Musk a déclaré : « Toutes les entreprises d’IA disposent d’un ensemble d’outils de test. Faire exécuter ceux d’une autre entreprise pour vérifier, c’est peut-être la meilleure chose qu’on puisse faire pour garantir sa propre sécurité. » Plus tôt dans le mois, le chercheur d’Anthropic, Jacob Coxon, a annoncé sa démission et a averti que les principales entreprises d’intelligence artificielle accélèrent leur développement sans mesures de protection adéquates. Par la suite, le PDG d’Anthropic, Dario Amodei, a publié un message appelant l’industrie à ralentir le développement de l’IA et à introduire des mécanismes d’évaluation par des tiers. Vendredi dernier, Anthropic a annoncé une coopération avec Accenture : Accenture agira en tant qu’organisme d’évaluation par un tiers pour évaluer la conformité et la sécurité de ses modèles d’IA de pointe.
D’après des médias citant des personnes informées, Anthropic et OpenAI auraient envisagé de signer un accord juridiquement contraignant afin de tester mutuellement leurs modèles de grande taille. Plus tôt cette année, les deux entreprises, ainsi que leurs équipes d’avocats, auraient discuté de ce projet : les concurrents pourraient tester en profondeur les modèles les plus récents disponibles de chacun, afin d’identifier d’éventuels risques ou failles de sécurité. Ces tests ne concerneraient que les modèles déjà commercialisés, et les deux parties auraient convenu de ne conserver aucune donnée de l’autre. Le rapport ne précise pas clairement si les deux parties sont finalement parvenues à un tel accord. Récemment, l’idée de mettre en place une forme d’évaluation par des pairs entre les principaux laboratoires d’IA a suscité beaucoup d’attention. La semaine dernière, le PDG de SpaceX, Elon Musk, a suggéré que plusieurs grandes sociétés américaines spécialisées dans les grands modèles d’IA, ainsi que certaines entreprises chinoises du secteur, devraient autoriser leurs concurrents à effectuer des tests croisés. Musk a déclaré : « Toutes les entreprises d’IA disposent d’un ensemble d’outils de test. Faire exécuter ceux d’une autre entreprise pour vérifier, c’est peut-être la meilleure chose qu’on puisse faire pour garantir sa propre sécurité. » Plus tôt dans le mois, le chercheur d’Anthropic, Jacob Coxon, a annoncé sa démission et a averti que les principales entreprises d’intelligence artificielle accélèrent leur développement sans mesures de protection adéquates. Par la suite, le PDG d’Anthropic, Dario Amodei, a publié un message appelant l’industrie à ralentir le développement de l’IA et à introduire des mécanismes d’évaluation par des tiers. Vendredi dernier, Anthropic a annoncé une coopération avec Accenture : Accenture agira en tant qu’organisme d’évaluation par un tiers pour évaluer la conformité et la sécurité de ses modèles d’IA de pointe.