Anthropicのトップハッカーが自社モデルの能力に感服：リリースの阻止からホワイトハウスのロビイストに

ニコラス・カーニーはAIセキュリティ界で最も著名な懐疑論者の一人でした。Googleで働いていた時、彼はOpenAIがセキュリティリスクを恐れてGPT-2のリリースを遅らせたことを公然と嘲笑しました。「過度に保守的だ」と。今や、35歳のハッカーはAnthropicのトップセキュリティエキスパートとなり、自社モデルの能力に感服し、リリースを阻止する立場からAIセキュリティ政策を推進するホワイトハウスのロビイストに転身しました。

重要な理由：これはトップAIセキュリティエキスパートの態度の変化を示しています——モデルの能力が期待を超えた時、技術のセキュリティと政策の推進には新たなバランスが必要です。

#Anthropic #AI #安全 #ホワイトハウス