📰 Le fondateur d’Anthropic, Dario, a publié le 12 septembre un message appelant l’IA de pointe à ralentir son rythme de montée en puissance. Il invoque que la recherche en sécurité, l’explicabilité et les mécanismes de régulation ne suivent déjà plus. Or, de l’autre côté, la société prépare justement une opération imminente : le contraste a directement enflammé la controverse.

🔥 Le prototype du personnage de *The Big Short*, Michael Burry, a publiquement remis en question ce discours selon lequel une « IA assez puissante pourrait devenir dangereuse », et il est possible que cela serve aussi à donner plus de “contenu” à l’IPO. Si l’ensemble de l’industrie se met d’accord pour ralentir, les acteurs les mieux positionnés à en profiter sont surtout OpenAI et Anthropic, qui ont déjà pris une longueur d’avance.

👀 Le blogueur d’enquête Kevin Bass a ensuite creusé en suivant les investissements publics et les financements caritatifs, et a constaté des recoupements de fonds entre les premiers investisseurs d’Anthropic, des organismes de sécurité de l’IA, des cabinets d’évaluation tiers et des projets médiatiques. Il a aussi remis en cause l’indépendance de l’organisme d’évaluation METR, que Dario recommande. METR répond qu’il n’a pas accepté de financement direct de la part de sociétés d’IA, mais qu’il utilisera les nombreux jetons gratuits fournis par ces entreprises.

💡 Honnêtement, débattre de la sécurité de l’IA ne pose aucun problème. Ce qui met mal à l’aise, c’est plutôt : d’un côté, on appelle toute l’industrie à appuyer sur le frein ; de l’autre, on continue à lever des fonds, à s’étendre et à pousser l’IPO. On apprend même qu’NVIDIA discute d’un investissement, tandis qu’Anthropic, lors de son tour de financement de mai, affichait une valorisation de 965 milliards de dollars.

🤔 Si une société majeure de l’IA participe à définir les risques, recommande en même temps les évaluateurs, tout en visant une IPO d’une taille gigantesque : croiriez-vous qu’elle prévient réellement du danger, ou qu’elle cherche surtout à faire monter sa propre valorisation ?

#Anthropic #人工智能 #AI安全 #科技融资