新しいエッセイ「Safety First」を読んでみてください。

トランプには選択肢がある、印刷するか印刷するか。

「聞いた？ AI兄弟たちが突然良心を持ってしまって、人類の生存が、彼らの“ほぼシリコンの神”が頂点に上り詰めようとしている状況に対して心配しているらしい。もう何年も“ほぼシリコンの神”みたいな状態が続いているのに、急に“ほぼほぼシリコンの神”になって、だからこそ内省の時だ――AGI開発の今後の進路について。[1] それが物語だ。でも皮肉屋の僕はカレンダーを見て、もう第3四半期も終わりかけてるのに、AnthropicはまだIPOしていないじゃないかと思った。彼らの財務はどうなってるの？ 誕生しては失速するプレスリリースのたびに匂わせている“年率換算の売上の成長曲線（ホッケースティック）”って、どの程度なんだろう？ 彼らは、事業運営コストを全部取り除けば利益が出ると言っている。S-1を解析して、彼らが顧客にトークンを提供するのに一体どれだけコストがかかるのか、早く正確に知りたい。そして彼らがみんなに対してどれほど正直であるにせよ、そもそも利益が出ている顧客は一体何人いて、その層は増えているのか減っているのか？ でも残念ながら、僕の疑問への答えは得られないだろう。“Safety First”だからだ。

文章の調子から分かる通り、僕は、Anthropic、OpenAI、そしてSpaceXが「Safety First」がAGIの開発を遅らせる指針だと言っているのは、啓発されていない人々の福祉への配慮からではなく、現在の価格で販売しているAIを市場が十分に欲しがっていないという経済的現実によるものだと考えている。具体的に言うと、市場はAIを愛している。だが「中国価格」なら、1/100の値段だから、という話だ。"

続きを読む：僕のクリプトヘイズSubstack