zkAPI + Tor +追加のカバートラフィック+ローカルLLMによるプロンプト書き換えを、OpenAI互換デーモンに組み込み、エージェント用ハーネス(pi)向けに「パラノイアモード」ラッパーを作りました。
会話ごとに別々のTor回路が割り当てられ、リクエストはランダムなカバートラフィックでマスクされます。zkAPIによって支払いから身元が漏れるのを防ぎ、すべてのプロンプトはローカルで書き換えられます(ローカルモデルは自分で用意。私はqwen3.8-flash-nextを使っています)。
https://github.com/vbuterin/zkapi/tree/feat/client-concession-local
エージェント用ハーネスはbwrapサンドボックス(MicroVMも試しています)で包み、さらにtorsocksでも包んでいるので、実行する処理はすべてTor経由になります。
簡単な調査タスクを頼むと、こんな感じです。
かなり実用的になってきました!とはいえ、レイテンシはかなり増えます。特に新しい会話を始めるときは顕著です。
また、プライバシー保護の点では、ここでTorは最適とは程遠いです。カバートラフィックの仕組みは受動的な敵対者に対してはそれなりに有効ですが、LLMプロバイダーがガードノードと結託し、タイミングを積極的に操作する場合には、かなり弱くなります。この種のタスクには、もっと特化したミックスネットが必要です。おそらく、帯域幅の倍率が上がるトレードオフを受け入れて、一定のカバートラフィックを組み込むことになるでしょう。
それから、zkAPIの入金・出金にかかるガス代が大幅に安くなる変更も、近いうちにメインネットへ導入される予定です。
会話ごとに別々のTor回路が割り当てられ、リクエストはランダムなカバートラフィックでマスクされます。zkAPIによって支払いから身元が漏れるのを防ぎ、すべてのプロンプトはローカルで書き換えられます(ローカルモデルは自分で用意。私はqwen3.8-flash-nextを使っています)。
https://github.com/vbuterin/zkapi/tree/feat/client-concession-local
エージェント用ハーネスはbwrapサンドボックス(MicroVMも試しています)で包み、さらにtorsocksでも包んでいるので、実行する処理はすべてTor経由になります。
簡単な調査タスクを頼むと、こんな感じです。
かなり実用的になってきました!とはいえ、レイテンシはかなり増えます。特に新しい会話を始めるときは顕著です。
また、プライバシー保護の点では、ここでTorは最適とは程遠いです。カバートラフィックの仕組みは受動的な敵対者に対してはそれなりに有効ですが、LLMプロバイダーがガードノードと結託し、タイミングを積極的に操作する場合には、かなり弱くなります。この種のタスクには、もっと特化したミックスネットが必要です。おそらく、帯域幅の倍率が上がるトレードオフを受け入れて、一定のカバートラフィックを組み込むことになるでしょう。
それから、zkAPIの入金・出金にかかるガス代が大幅に安くなる変更も、近いうちにメインネットへ導入される予定です。