DeepSeekの古参研究者が、12GB GPUで125Bモデルを動かす個人用AIエージェントを公開。
エンジンがモデルを分割し、よく使う部分はGPUに、残りはRAMに配置。Qwen3.8-Flash-Nextが12GBのGPU+64GB RAMで動作します。
コマンド1つでインストール。ハードウェアを自動検出し、最適なモデルを選択します。
受信トレイ、カレンダー、ファイルをスキャンし、一晩で検索可能なWikiを作成。
Chromeのセッションと連携。何かを送信する前に許可を求めます。
ローカルモデルならトークン料金はゼロ。
./scripts/install/install.sh
これならAPIに大金をつぎ込まずにエージェントを動かせます。ローカル推論がSaaSを猛烈な勢いで追い詰めています。
エンジンがモデルを分割し、よく使う部分はGPUに、残りはRAMに配置。Qwen3.8-Flash-Nextが12GBのGPU+64GB RAMで動作します。
コマンド1つでインストール。ハードウェアを自動検出し、最適なモデルを選択します。
受信トレイ、カレンダー、ファイルをスキャンし、一晩で検索可能なWikiを作成。
Chromeのセッションと連携。何かを送信する前に許可を求めます。
ローカルモデルならトークン料金はゼロ。
./scripts/install/install.sh
これならAPIに大金をつぎ込まずにエージェントを動かせます。ローカル推論がSaaSを猛烈な勢いで追い詰めています。