強化学習の父が AGI に入社して起業!伝説的なプログラマー Carmack と協力して、大規模なモデルに依存しません

記事転載元：AIの動向
元のソース: 量子ビット
画像ソース: Unbounded AI によって生成
伝説的なプログラマーのジョン カーマックと強化学習の父であるリチャード サットンが力を合わせて All in AGI を作成しました。
2030年までに一般的な人工知能が実現可能であることを社会に実証するという目標。
また、主流の方法とは異なり、大規模なモデルのパラダイムに依存せず、リアルタイムのオンライン学習を追求します。
両氏は、サットン氏が教鞭を執るアルバータ大学のマシンインテリジェンス研究所（Amii）の特別イベントで発表した。
サットン氏はアルバータ州で教員の職を維持しながら、カーマック氏のAIスタートアップ、キーン・テクノロジーズに入社する予定だ。
二人はイベントの中で、大企業に比べてKeen Technologiesのチーム規模が非常に小さいことを認めました。
現在はまだ始まったばかりで、会社全体の技術チームが現場に集まっています——
立っているこの4人だけ。
資金調達規模は2000万ドルで、OpenAIやAnthropicのように数十億とは比べ物になりません。
しかし、彼らは最終的にAGIのソースコードは一人の人間が書けるレベルで、数万行に過ぎないと信じています。
また、現在のAI分野はレバレッジ効果が最大の特別な瞬間にあり、小さなチームでも大きな貢献をするチャンスがあります。
伝説のプログラマーと強化学習の父
カーマックの伝説的な経歴、世界初の3Dゲームの開発からロケット製造へ、そしてOculusに参加して後のMeta VRの重要人物になるまでの物語は広く知られています。
その後、彼はAIと結びつき、OpenAIとも関係があります。
彼は別のインタビューで、サム・アルトマンが彼をOpenAIに招待し、システムの最適化において重要な役割を果たせると考えたことを明らかにしました。
しかし、当時カーマックは機械学習のパラダイムについて現代AIの理解がなかったため、承諾しませんでした。
これが彼がAIを理解し始めるきっかけとなったのです。
彼はOpenAIのチーフサイエンティストであるイリヤ・サッツケバーに入門必読リストを求め、最初から独学を始め、伝統的な機械学習アルゴリズムに関する基本的な理解を得ました。
空き時間ができたら深層学習に再び取り組むつもりで、一週間のプログラミングチャレンジを行いました。
LeCunの经典論文を数篇印刷し、オフラインの状態で実践し、逆伝播の公式から始めます。
一週間が経過した後、彼はC++で手作りの畳み込みニューラルネットワークを使って閉じこもりを終え、Pythonの現代的な深層学習フレームワークを借りることはありませんでした。
ただ単に神さまに感心するしかない。
この時、彼の主な業務はFacebook（後にMetaに改名）のOculusでVRを研究し、チームを率いてOculus GoやQuestなどの製品を発売することでした。
しかし、このプロセスの中で、彼は企業の経営陣との間に矛盾や意見の相違が次第に生じ、企業内部の効率が低いと感じ、不満を公に表明したこともあります。
2019年、彼はOculusのCTO職を辞任し、「顧問CTO」としてAIにより多くのエネルギーを注ぎ始めました。
2022年8月、彼は新しいAIスタートアップKeen Technologiesが2000万ドルの資金を調達したと発表しました。投資者にはセコイアキャピタルやGitHubの前CEOナット・フリードマンなどが含まれています。
その後、彼は実際に2000万ドルの資金を調達できると明かしました。
しかし、他人からお金を得ることで、彼には危機感と緊急感が生まれ、物事をうまく進めるためのより強い決意を持つことになります。
2022年末、彼は正式にMetaを離れ、VRを過去の人生の一つの段階として見なし、次は完全にAIに転向します。
この明面上の主線の他にも、カーマックとAIには何らかの不思議な縁があります。
彼の3Dゲームはグラフィックス計算の需要を刺激し、GPUはゲーム分野から発展し成長しました。
今やGPUの計算力がAIの爆発を支えており、彼はこれについて話すとき、未だに自分の貢献を誇りに思っています。
……
今日のもう一人の主役であるサットンも同様に伝説的人物です。
彼は強化学習の父と称され、強化時間差学習やポリシーグラディエントなどの方法に重要な貢献をし、強化学習の標準教科書の共著者でもあります。
2017年、彼は卓越した科学者としてDeepMindに参加し、AlphaGoシリーズの研究に参加しました。彼の学生David SilverはAlphaGoの主要な責任者の一人です。
サットンは有名な短文『The Bitter Lesson』を書き、人間の経験をAIに教えようとする試みはうまくいかないと考えています。これまでのすべての突破は計算力の向上に依存しており、計算力のスケール効果を引き続き利用することが正しい道であるとしています。
二人が正式に交流する前に、カーマックはこの論文に対する関心と認識を表明していました。
しかし、二人が実際に直接交流したのは、サットンが積極的に連絡を取った時です。
数ヶ月前、カーマックはAGIスタートアップの資金調達を発表した後、サットンからのメールを受け取りました。
サットンは、彼が研究の道で純学問、商業化、または非営利組織ルートのどれを進むべきかを尋ねたいと考えています。
しかし、その後のメールのやり取りの中で、二人はAI研究の方向性と理念に驚くべき一致があることを発見し、徐々に協力関係を確立しました。
具体的には、二人は4つの合意に達しました。
現在のAGIの発展は非常に狭い方向に制限されており、大量のデータと計算力に依存しすぎて革新を無視していると考えられています。
早期の商業化がAGIの発展を妨げると考えられています。
最終的にAGIはそれほど複雑ではなく、一人の人間がすべての原理を理解し、主要なコードを一人で書けると考えられています。
2030年にAGIのプロトタイプが登場するのは実現可能な目標だと考えられています。
大きなモデルに依存せず、小さなチームにもチャンスがあります。
非常に大胆な目標で、現場の観客もそう考えています。
「小さなチームがこのような大きな目標を達成するにはどうするか」という質問に対して、カーマックはAGIを実現するために必要なデータ量と計算力の要求は思っているほど大きくはないだろうと考えています。
人類が1年間見たものを毎秒30フレームの動画にして、親指サイズのUSBメモリに収めることができます。1歳の子供はこれだけの経験データしか持っていませんが、すでに明らかな知能を示しています。アルゴリズムが正しければ、AGIが学ぶためにインターネット全体のデータを使用する必要はありません。
計算力の要求についても、彼はこの直感的な思考で考慮しています：人間の脳の計算能力も限られており、大規模な計算集群のレベルには遠く及びません。
一つのサーバーノードよりも大きく、ラックよりも大きいが、最大でも一桁上程度です。
さらに、時間が経つにつれて、アルゴリズムはより効率的になり、必要な計算力は引き続き減少するでしょう。
カーマックが3Dゲーム、ロケット、VRという一見無関係な仕事の分野で共通点があるとしたら、それは大規模なリアルタイムフィードバックシステムの最適化です。
これがサム・アルトマンが彼をOpenAIに招待した際に重視した点でもあります。
彼が想定するAGIのアーキテクチャはモジュラーで分散型であるべきであり、一つの巨大な集中モデルではありません。
学習は継続的なオンライン学習であるべきであり、現在のように事前トレーニングの後にほとんどのパラメーターが更新されなくなることはありません。
私の底線は、システムが30Hzの周波数で動作できない場合、すなわちトレーニング時に約33ミリ秒ごとに更新されない場合、それを使用しないことです。
彼はさらに、独自に原始的なCudaコードを書き、ネットワーク通信を管理できる基盤システムのプログラマーとして、他の誰も考えないような作業を行う可能性があると述べています。
既存の深層学習フレームワークに限らず、より効率的なネットワークアーキテクチャや計算方法を試みるでしょう。
全体の目標は、内在的な動機と継続的な学習能力を持つ仮想知能体をシミュレーションし、仮想環境で継続的に学習することです。
ロボットは不要です。ロケット製造の経験から、物理的な対象とのやり取りが少ない方が良いと考えています。
カーマックがAGIに関わり始めたのに対し、サットンはこの問題に数十年を費やしており、彼にはより具体的な研究計画があります。
このイベントではあまり多くは語られませんでしたが、主体部分は「アルバータ計画」という形で一つのarXiv論文に書かれています。
アルバータ計画は、特定の訓練セットではなく普遍的な経験を強調し、時間的一貫性に注目し、計算力のスケール効果を生み出す方法を優先し、また多エージェントの相互作用に焦点を当てた統一された知能体フレームワークを提案しました。
また、12ステップに分かれたロードマップを提案しました。
前6步はモデルフリーの継続的学習方法の設計に焦点を当て、後6歩では環境モデルと計画を導入します。
その中で最後のステップは知能強化（Intelligence Amplification）と呼ばれ、ある知能体は一般的な原則に基づいて、学んだ知識を利用して別の知能体の行動、知覚、認識を強化および増幅することができます。
サットンはこの強化が人工知能の潜在能力を最大限に引き出す重要な構成要素であると考えています。
このプロセスでは、AIの進歩を評価する指標を確定することが非常に重要ですが、非常に困難です。チームはさまざまな進展を探求しています。
また、カーマックはオープンソースの支持者であり続けていますが、AGIの問題に関しては一定のオープン性を保つが、アルゴリズムの詳細はすべて公開しないと述べています。
小さなチームとして、カーマックは開拓精神を維持し、短期的な利益ではなく長期的な発展に注目する必要があると考えています。
早期の商業化は考慮せず、ChatGPTのように公開される中間的な形態はありません。
2030年に何ができるかについて、カーマックは「公に示すことができるAGI」があると考え、サットンの表現は「AIのプロトタイプが生命の兆候を示すことができる」です。
2030年は重要な節目となる。
2030年とAGIが同時に現れるのはこれが初めてではありません。
トップAIチームは、2030年前後をAGIを実現するための重要な節目として捉えています。
例えばOpenAIは、全体の計算力の20%を超知能整合部門の設立に充てるという発表の中で、我々はこの十年間に超知能が到来すると信じています。
投資界でも同様の見解が現れ、孫正義は最近ソフトバンクの世界企業大会でこのようなPPTを提示しました。
OpenAIやKeen Technologiesの他には、AGIの開発に取り組んでいる組織はあまりありません。
OpenAIの最大の競争相手で、最近40億ドルの資金を調達したAnthropicのCEOダリオ・アモデイは、最近のインタビューで、2、3年以内にAIが良質な教育を受けた人間のように振る舞うことができると述べました。
Transformerの作者VaswaniとPalmerはGoogleを離れ、AdeptAIを設立し、目標は一般知能の構築です。
しかし、今年初めに二人が突然この会社を離れ、共同創設者の中にはDavid Luan（最右）だけが残されています。
もう一人のTransformerの作者はEssential AIという会社を設立し、この会社のビジョンはそれほど「空を仰ぐ」ものではなく、比較的実用的な大規模モデルの商業化です。
国内でもAGIの目標を明言しているところは多くなく、主にMiniMaxとヤン・チーリンが新たに設立した「月の暗面」があります。
参考リンク：[1]https://www.amii.ca/latest-from-amii/john-carmack-and-rich-sutton-agi/[2]https://www.youtube.com/watch?v=uTMtGT1RjlY[3]https://arxiv.org/abs/2208.11173