O modelo que nunca sai do seu celular 📱
$ZEC transformou a privacidade em uma categoria, e $ICP defendeu que o local da execução é uma decisão de design. O fundador da Bankr está agora trabalhando em uma versão em que o modelo roda no dispositivo.
Ele descreveu o treinamento de um modelo pequeno com sessões anonimizadas de agentes, para que a conversa permaneça local.
Encare isso como um plano declarado, não como um recurso já lançado, porque é exatamente isso. O interessante é o raciocínio por trás da ideia.
Um agente que gerencia dinheiro lê coisas que um assistente de chat não lê: saldos, posições, intenções, a sequência do que você está tentando fazer e quando. Isso forma um perfil — e é um perfil mais revelador do que a maioria das pessoas imagina estar compartilhando quando digita uma frase em uma caixa de texto.
A inferência na nuvem faz essa sequência sair do seu dispositivo. Ambientes privados de execução reduzem a exposição. Um modelo local elimina completamente esse trajeto para tudo o que consegue fazer.
A contrapartida é a capacidade. Um modelo pequeno no dispositivo não vai se equiparar a um modelo de ponta. Por isso, o design realista é usar o modelo local para tarefas rotineiras e recorrer a um modelo remoto para perguntas difíceis, com o encaminhamento decidido por você.
Isso levanta uma pergunta que vale a pena fazer a qualquer empresa que lance algo assim: o que é encaminhado para fora, quem decide e você consegue ver isso depois?
Seja como for, a direção é correta. O aspecto menos privado da maioria dos produtos com agentes não é a blockchain. É a conversa.
#IA #Privacidade
$ZEC transformou a privacidade em uma categoria, e $ICP defendeu que o local da execução é uma decisão de design. O fundador da Bankr está agora trabalhando em uma versão em que o modelo roda no dispositivo.
Ele descreveu o treinamento de um modelo pequeno com sessões anonimizadas de agentes, para que a conversa permaneça local.
Encare isso como um plano declarado, não como um recurso já lançado, porque é exatamente isso. O interessante é o raciocínio por trás da ideia.
Um agente que gerencia dinheiro lê coisas que um assistente de chat não lê: saldos, posições, intenções, a sequência do que você está tentando fazer e quando. Isso forma um perfil — e é um perfil mais revelador do que a maioria das pessoas imagina estar compartilhando quando digita uma frase em uma caixa de texto.
A inferência na nuvem faz essa sequência sair do seu dispositivo. Ambientes privados de execução reduzem a exposição. Um modelo local elimina completamente esse trajeto para tudo o que consegue fazer.
A contrapartida é a capacidade. Um modelo pequeno no dispositivo não vai se equiparar a um modelo de ponta. Por isso, o design realista é usar o modelo local para tarefas rotineiras e recorrer a um modelo remoto para perguntas difíceis, com o encaminhamento decidido por você.
Isso levanta uma pergunta que vale a pena fazer a qualquer empresa que lance algo assim: o que é encaminhado para fora, quem decide e você consegue ver isso depois?
Seja como for, a direção é correta. O aspecto menos privado da maioria dos produtos com agentes não é a blockchain. É a conversa.
#IA #Privacidade