#AnthropicCEO呼吁放缓AI发展 人は「減速」と言っているだけで、「停止」ではない。AIのためではなく、最先端能力に合わせてリズムを刻むことだ:モデルはすでにコードを書け、エージェントを動かし、次世代モデルの開発にも参加できるが、アラインメント/評価が追いついていない;
三層で見る:
技術面:再帰的な自己改善+多エージェント協調により、リスクは「失言」から「自律的な行動/システムへの攻撃」へと変わる。
ビジネス面:Anthropicは「最も安全な最先端モデル」を売りにし、安全をブランドと参入障壁に変えている;第三者による常駐評価は大企業に追い風で、スタートアップ/オープンソースはつらくなる。
地政学面:アメリカが単独で停止して、中国が停止しなければ損をする;だから彼は一方で減速を唱えつつ、他方で半導体規制を支持し、「民主国家はまず協調を」と求めている。
結局のところ、終末マーケティングというだけではなく、純粋な利他でもない——リスクが迫る+規制が来る+大企業が標準を奪いにくる、という3つが重なっている。
三層で見る:
技術面:再帰的な自己改善+多エージェント協調により、リスクは「失言」から「自律的な行動/システムへの攻撃」へと変わる。
ビジネス面:Anthropicは「最も安全な最先端モデル」を売りにし、安全をブランドと参入障壁に変えている;第三者による常駐評価は大企業に追い風で、スタートアップ/オープンソースはつらくなる。
地政学面:アメリカが単独で停止して、中国が停止しなければ損をする;だから彼は一方で減速を唱えつつ、他方で半導体規制を支持し、「民主国家はまず協調を」と求めている。
結局のところ、終末マーケティングというだけではなく、純粋な利他でもない——リスクが迫る+規制が来る+大企業が標準を奪いにくる、という3つが重なっている。