データセンターのスタッフでさえ覗き見ることはできない 🏢
AIと機密データについて語るとき、多くの場合、モデルを運用する企業に注目が集まり、マシンに物理的にアクセスできる人々は見過ごされます。
AIモデルを呼び出す$SOL上のあらゆるアプリが、この問題に直面します。そして$ARXは、Arciumがその問いに答えるために構築したネットワークです。
ホストマシンを目の前にしてデータセンターに立つ人物は、長い間、排除するのが最も難しい攻撃者でした。保護機能が、その同じマシンの内部にあったからです。
Arciumが10月8日に説明した内容に基づく、Blackthornの対処方法:
プロンプトは外部に送信される前に、ユーザー自身の鍵でロックされる
ホストプロセッサ上の封印された領域は、スタックから切り離される
GPUのセッションキーは、Arciumのノード間で断片化して保持される
ホストマシンは、自ら開くことのできない封印済みの記録を中継するだけ
NVIDIAのGPUは、独自のコンフィデンシャル・コンピューティングモードでモデルを実行する
Arciumの説明によると、ホストに物理的にアクセスできても、基盤となるデータを誰も見ることはできません。
ただし、私が指摘したい制約は、GPUのコンフィデンシャルモードも設計の一部であるため、ハードウェアが完全に関係なくなったわけではないということです。信頼するコンポーネントが2つから1つになったのです。また、Blackthornはまだ早期アクセス段階です。
内部関係者によるアクセスは、セキュリティチームが口にすることの少ないリスクです。そして、この設計がまさに対処しようとしているのが、そのリスクです。
#AI
AIと機密データについて語るとき、多くの場合、モデルを運用する企業に注目が集まり、マシンに物理的にアクセスできる人々は見過ごされます。
AIモデルを呼び出す$SOL上のあらゆるアプリが、この問題に直面します。そして$ARXは、Arciumがその問いに答えるために構築したネットワークです。
ホストマシンを目の前にしてデータセンターに立つ人物は、長い間、排除するのが最も難しい攻撃者でした。保護機能が、その同じマシンの内部にあったからです。
Arciumが10月8日に説明した内容に基づく、Blackthornの対処方法:
プロンプトは外部に送信される前に、ユーザー自身の鍵でロックされる
ホストプロセッサ上の封印された領域は、スタックから切り離される
GPUのセッションキーは、Arciumのノード間で断片化して保持される
ホストマシンは、自ら開くことのできない封印済みの記録を中継するだけ
NVIDIAのGPUは、独自のコンフィデンシャル・コンピューティングモードでモデルを実行する
Arciumの説明によると、ホストに物理的にアクセスできても、基盤となるデータを誰も見ることはできません。
ただし、私が指摘したい制約は、GPUのコンフィデンシャルモードも設計の一部であるため、ハードウェアが完全に関係なくなったわけではないということです。信頼するコンポーネントが2つから1つになったのです。また、Blackthornはまだ早期アクセス段階です。
内部関係者によるアクセスは、セキュリティチームが口にすることの少ないリスクです。そして、この設計がまさに対処しようとしているのが、そのリスクです。
#AI
