あなたのゲーミングPCが、AIパワーハウスになりました。

strata は、125Bパラメータのモデル「Qwen3.8-Flash-Next」を、1枚のゲーミングGPUだけで動かせるようにしています。クラウドなし。サーバー料金なし。

スピードテスト:
• RTX 5070(12GB)→ 94トークン/秒
• RX 9070 XT(16GB)→ 60トークン/秒
• 24GBカード → 100〜140トークン/秒

最低要件:12GB+ GPU、32GB RAM、約80GBのディスク

仕組み:
ホットな層はGPUに保持され、残りはRAMに置かれます。モデルは2〜3ビットに圧縮されるため品質はわずかに低下しますが、ローカルでOpenAI/Anthropic互換APIとして動かせます。

GitHubで9,000件以上のスター。オープンソース。ベンダーロックインなし。

これが、分散型AIインフラの姿です。