Message de DeepWave TechFlow : le 20 septembre, d’après Cointelegraph, Anthropic a annoncé avoir recruté Accenture en tant que son premier « Embedded Evaluator » (évaluateur intégré), afin d’aider à mettre en œuvre le plan de ralentissement du développement de l’IA proposé auparavant par le PDG Dario Amodei. Cette proposition vise à faire face aux risques catastrophiques potentiels pouvant découler d’une itération rapide de l’IA en l’absence de régulation, en introduisant un tiers indépendant disposant de droits d’accès de type employé.

Selon l’annonce publiée vendredi, Anthropic collaborera avec Accenture et son département « AI » Faculty, afin de se concentrer sur l’évaluation des modèles, les tests de red-teaming, les évaluations d’alignement et les tests de protection/sécurité. Les deux parties s’engagent à investir au moins 1 milliard de dollars dans ce plan d’évaluation au cours des cinq prochaines années. Le président du conseil et PDG d’Accenture, Julie Sweet, a souligné que l’évaluation intégrée est un domaine émergent et qu’elle revêt une importance capitale pour construire le futur cadre de sécurité de l’IA.