Nem mesmo a equipe do centro de dados consegue espiar 🏢
A maioria das conversas sobre IA e dados confidenciais se concentra na empresa que opera o modelo e deixa de lado as pessoas com acesso físico à máquina.
Todo aplicativo em $SOL que chama um modelo de IA herda essa questão, e $ARX é a rede que a Arcium criou para respondê-la.
Alguém diante da máquina hospedeira, dentro de um centro de dados, há muito tempo é o invasor mais difícil de descartar, porque a proteção ficava dentro dessa mesma máquina.
Como o Blackthorn lida com isso, segundo a descrição da Arcium de 8 de outubro:
O prompt é protegido com a própria chave do usuário antes de sair
A área selada no processador hospedeiro é removida da pilha
As chaves de sessão da GPU são mantidas em fragmentos distribuídos entre os nós da Arcium
A máquina hospedeira apenas retransmite registros selados que não consegue abrir
A GPU NVIDIA executa o modelo em seu próprio modo de computação confidencial
A conclusão da Arcium é que ninguém vê os dados subjacentes, mesmo com acesso físico à máquina hospedeira.
O limite que eu apontaria é que o modo confidencial da GPU ainda faz parte do projeto. Portanto, o hardware não foi totalmente deixado de lado; passamos de dois componentes confiáveis para um. O Blackthorn também ainda está em acesso antecipado.
O acesso interno é o risco que as equipes de segurança raramente mencionam em voz alta, e é justamente em torno dele que esse projeto foi desenvolvido.
#IA
A maioria das conversas sobre IA e dados confidenciais se concentra na empresa que opera o modelo e deixa de lado as pessoas com acesso físico à máquina.
Todo aplicativo em $SOL que chama um modelo de IA herda essa questão, e $ARX é a rede que a Arcium criou para respondê-la.
Alguém diante da máquina hospedeira, dentro de um centro de dados, há muito tempo é o invasor mais difícil de descartar, porque a proteção ficava dentro dessa mesma máquina.
Como o Blackthorn lida com isso, segundo a descrição da Arcium de 8 de outubro:
O prompt é protegido com a própria chave do usuário antes de sair
A área selada no processador hospedeiro é removida da pilha
As chaves de sessão da GPU são mantidas em fragmentos distribuídos entre os nós da Arcium
A máquina hospedeira apenas retransmite registros selados que não consegue abrir
A GPU NVIDIA executa o modelo em seu próprio modo de computação confidencial
A conclusão da Arcium é que ninguém vê os dados subjacentes, mesmo com acesso físico à máquina hospedeira.
O limite que eu apontaria é que o modo confidencial da GPU ainda faz parte do projeto. Portanto, o hardware não foi totalmente deixado de lado; passamos de dois componentes confiáveis para um. O Blackthorn também ainda está em acesso antecipado.
O acesso interno é o risco que as equipes de segurança raramente mencionam em voz alta, e é justamente em torno dele que esse projeto foi desenvolvido.
#IA
