#零知识证明 Esta notícia é interessante 🧐🧐 Será que o modelo de primeira linha, pelo qual se paga uma fortuna para usar, é secretamente substituído por um mais barato nos bastidores? Agora, a Anthropic quer usar tecnologia do mundo cripto para “conferir se está tudo certo”🔍
O FlashProve, o mais recente projeto de código aberto da Anthropic, aplica à inferência de IA as provas de conhecimento zero, muito usadas em blockchain.
O provedor primeiro gera uma impressão digital criptográfica dos pesos do modelo, para fixar qual modelo está usando. Depois, cada saída vem acompanhada de uma prova matemática. O usuário não precisa obter os pesos nem executar o modelo novamente por conta própria: basta verificar se a saída veio do conjunto de pesos prometido inicialmente. Dizem que o próprio Claude também participou do desenvolvimento e da otimização desse sistema.
Mas ainda estamos longe de poder usá-lo: cada prova só consegue verificar um token de saída, não uma resposta inteira; e a capacidade de processamento da GPU necessária para gerar as provas é de 70–95 vezes a da inferência comum. Verificar um caractere custa dezenas de vezes mais do que gerá-lo. Provavelmente nenhum provedor vai querer pagar por isso, haha #Anthropic #AI
O FlashProve, o mais recente projeto de código aberto da Anthropic, aplica à inferência de IA as provas de conhecimento zero, muito usadas em blockchain.
O provedor primeiro gera uma impressão digital criptográfica dos pesos do modelo, para fixar qual modelo está usando. Depois, cada saída vem acompanhada de uma prova matemática. O usuário não precisa obter os pesos nem executar o modelo novamente por conta própria: basta verificar se a saída veio do conjunto de pesos prometido inicialmente. Dizem que o próprio Claude também participou do desenvolvimento e da otimização desse sistema.
Mas ainda estamos longe de poder usá-lo: cada prova só consegue verificar um token de saída, não uma resposta inteira; e a capacidade de processamento da GPU necessária para gerar as provas é de 70–95 vezes a da inferência comum. Verificar um caractere custa dezenas de vezes mais do que gerá-lo. Provavelmente nenhum provedor vai querer pagar por isso, haha #Anthropic #AI
