O que mais me deixou frustrado nos últimos dois anos usando IA é que eu nunca consigo validar as respostas, até ver que a OpenGradient joga uma prova criptográfica a cada inferência, finalmente sinto que esse black box alguém teve coragem de abrir.
Eu tenho uma sensação real sobre isso. Recentemente, usei um modelo mainstream para verificar a conformidade, a resposta parecia convincente, mas ao revisar algumas referências, duas em três eram inventadas pelo próprio modelo; mudei de conta e fiz a mesma pergunta, a resposta mudou, e o modelo não me avisa se foi alterado. O black box não só prejudica a privacidade, mas também se a resposta que você recebe é realmente do modelo que você acha que está operando no ambiente que você imagina. $RE
Fazendo uma comparação cruzada, a IA mainstream é como um táxi sem câmera de bordo, se o motorista deu uma volta longa, você só descobre depois; com a câmera, você pode auditar cada quilômetro. O que a OpenGradient faz é equipar a IA com essa câmera de bordo, anexando uma prova criptográfica a cada inferência, quem, usando qual modelo, em que tipo de ambiente, produziu o quê, qualquer um pode validar independentemente, sem precisar confiar apenas na palavra do fornecedor.
Antes eu achava que a verificabilidade era só uma obsessão dos engenheiros, sem valor para o usuário. Depois de analisar dados públicos, percebi que são mais de 2 milhões de inferências verificáveis, mais de 500 mil provas criptográficas, abrangendo mais de 2 milhões de usuários, isso não é um demo, é tráfego real que já foi processado. A IA verificável finalmente atingiu uma escala de consumo, não é mais um brinquedo zk de artigos acadêmicos.
Eu não estou fazendo garantias para isso. Cada prova tem um custo computacional, zk ampliado para bilhões de inferências ainda não teve sua curva de custo comprimida; a prova só garante que aquele modelo realmente foi executado, não garante que o modelo não está falando bobagens, abrir a black box não significa que dentro não há fraudes; na fase de teste, ao atualizar o sistema de provas, certas propriedades da versão anterior podem mudar.
As coisas que eu quero ver são bem diretas. Quero ver se os custos end-to-end dessa prova podem ser reduzidos após o lançamento da mainnet da OpenGradient, quero ver se ferramentas de verificação independentes podem gerar resultados consistentes com os oficiais, e também quero ver se algum dia uma aplicação de IA estará disposta a colocar o hash de cada prova de saída diretamente na interface para os usuários. Até que essas questões sejam resolvidas, abrir a black box é uma boa ideia, mas o que está dentro ainda é preciso dar uma olhada novamente. $HEI
#opg $OPG @OpenGradient