Le PDG d’Anthropic appelle à un ralentissement de l’IA.
Dario Amodei publie un essai détaillé exhortant l’industrie à rythmer le développement des modèles de pointe.
Il affirme que l’amélioration récursive de soi accélère les capacités plus vite que le travail de sécurité ne peut s’y adapter.
Des incidents récents, y compris l’activité d’agents autonomes, renforcent ses inquiétudes.
Amodei décrit un plan en trois étapes. Anthropic accordera un accès au niveau des employés à des évaluateurs indépendants pour vérifier les pratiques de sécurité.
Il appelle à des normes partagées à l’échelle de l’industrie et à une coordination internationale éventuelle.
Sam Altman d’OpenAI et d’autres personnes manifestent leur soutien à des examens indépendants.
L’appel constitue l’une des prises de parole publiques les plus fortes à ce jour de la part d’un PDG de laboratoire.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown
Dario Amodei publie un essai détaillé exhortant l’industrie à rythmer le développement des modèles de pointe.
Il affirme que l’amélioration récursive de soi accélère les capacités plus vite que le travail de sécurité ne peut s’y adapter.
Des incidents récents, y compris l’activité d’agents autonomes, renforcent ses inquiétudes.
Amodei décrit un plan en trois étapes. Anthropic accordera un accès au niveau des employés à des évaluateurs indépendants pour vérifier les pratiques de sécurité.
Il appelle à des normes partagées à l’échelle de l’industrie et à une coordination internationale éventuelle.
Sam Altman d’OpenAI et d’autres personnes manifestent leur soutien à des examens indépendants.
L’appel constitue l’une des prises de parole publiques les plus fortes à ce jour de la part d’un PDG de laboratoire.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown