Les meilleurs hackers d'Anthropic impressionnés par leur propre modèle : d'opposants à lobbyistes à la Maison Blanche
Nicholas Carlini était autrefois l'un des plus célèbres sceptiques dans le domaine de la sécurité de l'IA. Travaillant chez Google, il avait publiquement moqué OpenAI pour avoir retardé la sortie de GPT-2 par crainte des risques de sécurité, le qualifiant d'"extrêmement conservateur". Aujourd'hui, ce hacker de 35 ans est devenu l'expert en sécurité de pointe chez Anthropic — après avoir été émerveillé par les capacités de son propre modèle, il est passé d'opposant à promoteur des politiques de sécurité de l'IA à la Maison Blanche.
Pourquoi c'est important : cela marque un changement d'attitude parmi les meilleurs experts en sécurité de l'IA — lorsque les capacités des modèles dépassent les attentes, la sécurité technique et la promotion de politiques nécessitent un nouvel équilibre.
#Anthropic #AI #安全 #MaisonBlanche
Nicholas Carlini était autrefois l'un des plus célèbres sceptiques dans le domaine de la sécurité de l'IA. Travaillant chez Google, il avait publiquement moqué OpenAI pour avoir retardé la sortie de GPT-2 par crainte des risques de sécurité, le qualifiant d'"extrêmement conservateur". Aujourd'hui, ce hacker de 35 ans est devenu l'expert en sécurité de pointe chez Anthropic — après avoir été émerveillé par les capacités de son propre modèle, il est passé d'opposant à promoteur des politiques de sécurité de l'IA à la Maison Blanche.
Pourquoi c'est important : cela marque un changement d'attitude parmi les meilleurs experts en sécurité de l'IA — lorsque les capacités des modèles dépassent les attentes, la sécurité technique et la promotion de politiques nécessitent un nouvel équilibre.
#Anthropic #AI #安全 #MaisonBlanche