Vitalik Buterin: O que eu acho da prova biométrica de personalidade?
Autor: Vitalik
Agradecimentos especiais à equipe da Worldcoin, à comunidade Proof of Humanity e a Andrew Miller pelas discussões.
Um dos dispositivos mais complicados, mas potencialmente mais valiosos, que as pessoas na comunidade Ethereum têm tentado construir é uma solução descentralizada de prova de personalidade. Prova de personalidade, também conhecida como “questão humana única”, é uma forma limitada de identidade no mundo real que afirma que uma determinada conta registrada é controlada por uma pessoa real (e uma pessoa real diferente de outras contas registradas), idealmente sem revelar qual pessoa real é.
Houve alguns esforços para resolver esse problema: Proof of Humanity, BrightID, Idena e Circles são exemplos. Alguns deles vêm com seus próprios aplicativos (geralmente tokens UBI) e alguns são usados no Gitcoin Passport para verificar quais contas são válidas para votação quadrática. Tecnologias de conhecimento zero como o Sismo adicionam privacidade a muitas soluções. Recentemente, vimos o surgimento de um projeto maior e mais ambicioso de prova de personalidade: o WorldCoin.
A WorldCoin foi cofundada por Sam Altman, mais conhecido por seu papel como CEO da OpenAI. A ideia por trás do projeto é simples: a IA criará riqueza massiva e abundante para a humanidade, mas também provavelmente tirará empregos de muitas pessoas e tornará quase impossível dizer quem é humano e quem é um robô. Então, precisamos preencher essa lacuna (i) criando um sistema realmente bom de prova de personalidade para que os humanos possam provar que são realmente humanos, e (ii) fornecendo RBU para todos. O que torna o WorldCoin único é que ele depende de uma tecnologia biométrica altamente sofisticada, usando uma peça especializada de hardware chamada “Orb” para escanear a íris de cada usuário:
O objetivo da WorldCoin é produzir um grande número dessas esferas, distribuí-las ao redor do mundo e colocá-las em locais públicos para que qualquer pessoa possa obter facilmente uma identificação. Para seu crédito, a WorldCoin também está comprometida com a descentralização ao longo do tempo. Primeiro, isso significa descentralização técnica: usar a pilha Optimism para se tornar L2 no Ethereum e usar ZK-SNARK e outras técnicas criptográficas para proteger a privacidade do usuário. Depois, inclui a governança descentralizada do próprio sistema.
A WorldCoin foi criticada por problemas de privacidade e segurança com a Orb, problemas de design com sua “moeda” e pela ética de algumas das escolhas que a empresa fez. Algumas das críticas foram muito específicas, focando em decisões que o projeto tomou que poderiam facilmente ter sido tomadas de outra forma — decisões que, de fato, o próprio projeto Worldcoin pode estar disposto a mudar. Outros, no entanto, levantaram preocupações mais fundamentais sobre se a biometria — não apenas a biometria de escaneamento ocular da WorldCoin, mas também o jogo mais simples de upload e verificação de vídeos faciais usado em Proof of Humanity e Idena — é uma boa ideia. Outros ainda criticam a certificação geral de caráter. Os riscos incluem inevitáveis violações de privacidade, maior erosão da capacidade das pessoas de navegar na Internet anonimamente, coerção de governos autoritários e a impossibilidade de estar seguro enquanto descentralizado.
Este post discutirá essas questões e apresentará alguns argumentos para ajudar você a decidir se é uma boa ideia se curvar diante de nossos novos senhores esféricos e ter seus olhos (ou rosto, ou voz, ou...) escaneados, e se as alternativas naturais — usar prova de personalidade baseada em gráficos sociais ou abandonar completamente a prova de personalidade — são melhores.
O que é um Certificado de Caráter e por que ele é importante?
A maneira mais simples de definir um sistema de prova de identidade é criar uma lista de chaves públicas onde o sistema garante que cada chave seja controlada por uma pessoa única. Em outras palavras, se você for humano, poderá colocar uma chave na lista, mas não poderá colocar duas chaves na lista. E se você for um robô, não poderá colocar nenhuma chave na lista.
A prova de personalidade é valiosa porque resolve os problemas antispam e anticentralização que muitas pessoas enfrentam, evitando a dependência de autoridades centrais e revelando a menor quantidade de informações possível. Se a prova da personalidade jurídica não for resolvida, a governança descentralizada (incluindo a “microgovernança”, como a votação em postagens de mídia social) se tornará mais vulnerável à captura por atores muito ricos, incluindo governos hostis. Muitos serviços só conseguem resistir a ataques de negação de serviço definindo um preço de acesso, e às vezes o preço é alto demais para muitos usuários legítimos de baixa renda, mesmo que seja alto o suficiente para deter os invasores.
Muitas das principais aplicações no mundo hoje lidam com esse problema usando sistemas de identidade apoiados pelo governo, como cartões de crédito e passaportes. Isso resolve o problema, mas representa um sacrifício enorme e potencialmente inaceitável em termos de privacidade, além de poder ser alvo de ataques, mesmo que mínimo, pelo próprio governo.
Em muitos projetos de Prova de Pessoa – não apenas WorldCoin, mas Prova de Humanidade, Círculos, etc. – o “aplicativo principal” são os “N tokens por pessoa” integrados (às vezes chamados de “tokens UBI”). Cada usuário registrado no sistema recebe uma quantia fixa de tokens todos os dias (ou por hora ou semanalmente). Mas há muitas outras aplicações para:
● Airdrop de distribuição de tokens
● Vendas de tokens ou NFTs com condições mais favoráveis para usuários menos abastados
● Vote no DAO
● Um método para “semear” um sistema de reputação baseado em gráficos
● Votação quadrática (e pagamentos de financiamento e atenção)
● Prevenir ataques de bots/sybils nas redes sociais
● Alternativas de CAPTCHA para prevenir ataques DoS
Em muitos desses casos, o ponto comum é o desejo de criar mecanismos abertos e democráticos que evitem o controle centralizado dos operadores do projeto e a dominação dos usuários mais ricos. Este último é especialmente importante na governança descentralizada. Em muitos desses casos, as soluções existentes hoje dependem de (i) algoritmos de IA altamente opacos que deixam muito espaço para discriminar imperceptivelmente os usuários dos quais o operador simplesmente não gosta, e (ii) ID centralizada, também conhecida como “KYC”. Uma solução eficaz de comprovação de identidade seria uma alternativa melhor que pode atingir as propriedades de segurança exigidas por esses aplicativos sem encontrar as armadilhas das abordagens centralizadas existentes.
Quais foram algumas das primeiras tentativas de comprovação da personalidade?
Existem duas formas principais de prova de personalidade: baseada em gráficos sociais e biométrica. A prova de personalidade baseada em gráficos sociais depende de alguma forma de garantia: se Alice, Bob, Charlie e David são todos humanos verificados, e todos eles dizem que Emily é uma humana verificada, então Emily provavelmente também é uma humana verificada. As credenciais são frequentemente reforçadas por incentivos: se Alice disser que Emily é humana, mas ela não for, tanto Alice quanto Emily podem ser punidas. A prova biométrica de personalidade envolve a verificação de certas características físicas ou comportamentais de Emily que distinguem humanos de robôs (e entre humanos individuais). A maioria dos projetos usa uma combinação dessas duas técnicas.
Os quatro sistemas que mencionei no início do artigo funcionam mais ou menos assim:
Prova de humanidade: você carrega seu próprio vídeo e faz um depósito. Para ser aprovado, um usuário existente precisará atestar por você, e passará um período de tempo antes que ele possa contestá-lo. Se houver um desafio, o tribunal descentralizado de Kleros decidirá se seu vídeo é autêntico; caso contrário, você perderá seu depósito e o desafiante receberá uma recompensa.
BrightID: Você participa de uma "festa de verificação" por videochamada com outros usuários, e todos verificam uns aos outros. Um nível mais alto de verificação está disponível através do Bitu, um sistema no qual você pode ser verificado se outros usuários verificados pelo Bitu comprovarem sua veracidade.
Ideia: Você joga um jogo de captcha em momentos específicos (para evitar que as pessoas joguem várias vezes); parte do jogo de captcha envolve criar e verificar captchas, que são então usados para verificar outros captchas.
Círculos: Usuários existentes dos Círculos garantem por você. O Circles é único porque não tenta criar uma “ID globalmente verificável”; em vez disso, ele cria um gráfico de confiança onde a confiabilidade de alguém só pode ser verificada a partir da perspectiva da sua própria posição naquele gráfico.
Como funciona o WorldCoin?
Cada usuário do WorldCoin instala um aplicativo em seu telefone que gera chaves privadas e públicas, assim como uma carteira Ethereum. Depois eles foram visitar "The Orb" pessoalmente. O usuário olha para a câmera do Orb enquanto mostra ao Orb um código QR gerado pelo aplicativo Worldcoin que contém sua chave pública. O Orb escaneia os olhos do usuário e usa sofisticados escaneamentos de hardware e classificadores de aprendizado de máquina para verificar:
1. O usuário é uma pessoa real
2. A íris do usuário não corresponde à íris de nenhum outro usuário que tenha usado o sistema antes
Se ambas as varreduras forem aprovadas, o Orb assina uma mensagem aprovando um hash especializado da varredura da íris do usuário. Os hashes são enviados para um banco de dados — atualmente um servidor centralizado, que deverá ser substituído por um sistema descentralizado na cadeia assim que o mecanismo de hash for considerado eficaz. O sistema não armazena escaneamentos completos da íris; ele apenas armazena hashes, que são usados para verificar a exclusividade. A partir daí, o usuário tem um "World ID".
Os detentores de World ID podem provar que são a única pessoa gerando um ZK-SNARK, provando que possuem a chave privada que corresponde à chave pública no banco de dados, sem revelar qual chave possuem. Então, mesmo que alguém escaneie novamente suas íris, essa pessoa não conseguirá ver nenhuma ação sua.
Quais são os principais problemas com a construção do WorldCoin?
Quatro riscos principais vêm imediatamente à mente:
● Privacidade: os registros de escaneamento de íris podem vazar informações. No mínimo, se outra pessoa escanear sua íris, ela poderá verificar no banco de dados para determinar se você tem um World ID. Um exame de íris pode revelar mais informações.
● Acessibilidade: A menos que haja esferas suficientes que sejam facilmente acessíveis a qualquer pessoa no mundo, o World ID não será acessível de forma confiável.
● Centralização: Orb é um dispositivo de hardware e não podemos verificar se ele foi construído corretamente e não possui backdoors. Portanto, mesmo que a camada de software fosse perfeita e totalmente descentralizada, a WorldCoin Foundation ainda teria a capacidade de inserir um backdoor no sistema, permitindo-lhe criar quantas identidades humanas falsas quisesse.
● Segurança: Os telefones dos usuários poderiam ser hackeados, os usuários poderiam ser forçados a escanear suas íris enquanto apresentavam uma chave pública pertencente a outra pessoa, e seria possível imprimir em 3D um "manequim" que poderia ter a íris escaneada e receber uma World ID.
É importante distinguir entre (i) problemas que são exclusivos das escolhas feitas pela WorldCoin, (ii) problemas que inevitavelmente existem com qualquer prova biométrica de personalidade e (iii) problemas que existem com qualquer prova de personalidade em geral. Por exemplo, assinar uma “prova de humanidade” significa publicar seu rosto na internet. Participar do BrightID Verification Party não faz isso completamente, mas ainda pode expor sua identidade a muitas pessoas. Participar de Círculos expõe seu gráfico social publicamente. O WorldCoin é significativamente melhor em proteger a privacidade do que ambos. Por outro lado, a WorldCoin depende de hardware especializado, o que cria o desafio de confiar que o fabricante da esfera construiu a esfera corretamente — um desafio que não tem análogo no Proof of Humanity, BrightID ou Circles. É até concebível que, no futuro, alguém diferente da WorldCoin crie uma solução de hardware especializada diferente, com compensações diferentes.
Como as soluções de verificação de identidade biométrica abordam questões de privacidade?
A violação de privacidade mais óbvia e com maior potencial de qualquer sistema de identidade é vincular cada ação que uma pessoa realiza a uma identidade do mundo real. A escala desse vazamento de dados é muito grande, tão grande que pode ser considerada inaceitavelmente grande, mas felizmente é fácil de resolver usando tecnologia de prova de conhecimento zero. Em vez de assinar diretamente com uma chave privada cuja chave pública correspondente está no banco de dados, um usuário pode fazer um ZK-SNARK para provar que possui uma chave privada cuja chave pública correspondente está em algum lugar no banco de dados, sem revelar qual chave específica ele possui. Isso geralmente pode ser feito usando ferramentas como o Sismo, e o WorldCoin tem sua própria implementação integrada. Fornecer prova “cripto-nativa” de personalidade é realmente importante aqui: eles realmente se importam em dar esse passo fundamental para fornecer anonimato, o que essencialmente todas as soluções de identidade centralizadas não fazem.
Uma violação de privacidade mais sutil, mas ainda significativa, é a existência de um registro público de varreduras biométricas. Em termos de Prova da Humanidade, são muitos dados: você pode obter vídeos de todos os participantes da Prova da Humanidade, o que deixa bem claro para qualquer pessoa no mundo que esteja disposta a investigar quem são todos os participantes da Prova da Humanidade. No caso da WorldCoin, o vazamento foi muito mais limitado: a Orb computa e publica localmente apenas um “hash” da varredura da íris de cada pessoa. Este hash não é um hash regular como o SHA256; em vez disso, é um algoritmo especializado baseado em filtros Gabor que usam aprendizado de máquina para lidar com as imprecisões inerentes a qualquer varredura biométrica e garantir que hashes sucessivos obtidos da íris da mesma pessoa tenham resultados semelhantes.
Azul: A porcentagem de dígitos que diferem entre duas digitalizações da íris da mesma pessoa. Laranja: A porcentagem de dígitos que diferem entre duas varreduras de íris de duas pessoas diferentes.
Esses hashes de íris vazam apenas pequenas quantidades de dados. Se um adversário puder escanear suas íris por força bruta (ou secretamente), ele poderá calcular o hash da sua íris e compará-lo com um banco de dados de hashes de íris para determinar se você está participando do sistema. Essa capacidade de verificar se alguém está registrado é necessária para que o próprio sistema impeça que as pessoas se registrem várias vezes, mas sempre há o potencial de abuso. Além disso, os hashes de íris têm o potencial de revelar uma certa quantidade de dados médicos (gênero, raça e talvez condições médicas), mas esse vazamento é muito menor do que o que pode ser capturado por quase qualquer outro sistema de coleta de dados em massa em uso hoje (por exemplo, até mesmo câmeras de rua). No geral, a privacidade de armazenar hashes de íris parece boa o suficiente para mim.
Se outros discordarem desse julgamento e decidirem projetar um sistema com mais privacidade, há duas maneiras de fazer isso:
1. Se o algoritmo de hash da íris puder ser melhorado para que a diferença entre duas varreduras da mesma pessoa seja menor (por exemplo, inversões de bits confiáveis abaixo de 10%), o sistema poderá armazenar um número menor de bits de correção de erro de hash da íris em vez de armazenar o hash completo da íris (veja: extrator fuzzy). Se a diferença entre as duas varreduras for menor que 10%, o número de bits que precisam ser publicados será reduzido em pelo menos um fator de 5.
2. Se quisermos dar um passo adiante, podemos armazenar o banco de dados de hash da íris em um sistema de computação multipartidária (MPC) que só pode ser acessado por Orbs (com limites de taxa), tornando os dados completamente inacessíveis, mas ao custo da complexidade do protocolo e da complexidade social de gerenciar o conjunto de participantes do MPC. A vantagem disso é que, mesmo que um usuário quisesse, ele não seria capaz de provar uma conexão entre dois World IDs diferentes que ele tinha em momentos diferentes.
Infelizmente, essas técnicas não são adequadas para prova de humanidade, o que exige que o vídeo completo de cada participante seja tornado público para que, se houver indícios de que é falso (incluindo falsificações geradas por IA), ele possa ser contestado e, nesses casos, investigado com mais detalhes.
No geral, apesar da sensação distópica de olhar para uma esfera e vê-la escanear seus olhos profundamente, parece que sistemas de hardware especializados fazem um bom trabalho de proteção de privacidade. No entanto, o outro lado é que sistemas de hardware dedicados introduzem maiores problemas de centralização. Então parece que nós, cypherpunks, estamos presos em um dilema: temos que equilibrar um valor cypherpunk profundamente arraigado com outro.
Quais são os problemas de acessibilidade em sistemas de identidade biométrica?
Hardware especializado cria problemas de acessibilidade porque é menos facilmente acessível. Atualmente, entre 51% e 64% dos africanos subsaarianos possuem um smartphone, uma proporção que deverá aumentar para 87% até 2030. Mas embora existam bilhões de smartphones, existem apenas algumas centenas de Orbs. Mesmo com a fabricação distribuída em maior escala, seria difícil alcançar um mundo onde houvesse um orbe a cinco quilômetros de cada pessoa.
Também vale a pena notar que muitas outras formas de personalidade apresentam problemas de acessibilidade ainda piores. Participar de um sistema de prova de personalidade baseado em gráfico social é muito difícil, a menos que você já conheça alguém no gráfico social. Isso faz com que seja fácil que tais sistemas fiquem confinados a uma única comunidade em um único país.
Até mesmo sistemas de identidade centralizados aprenderam esta lição: o sistema de identificação Aadhaar da Índia é baseado em biometria porque era a única maneira de integrar rapidamente sua grande população, evitando fraudes em massa causadas por duplicatas e contas falsas (economizando assim custos enormes), embora, é claro, o sistema Aadhaar como um todo seja muito mais fraco em termos de privacidade do que qualquer coisa proposta em escala dentro da comunidade de criptomoedas.
De uma perspectiva de acessibilidade, o sistema com melhor desempenho é, na verdade, um como o Proof of Humanity, onde você pode se inscrever usando nada mais do que seu smartphone - embora, como vimos e veremos, tais sistemas venham com todos os tipos de outras compensações.
Quais são os problemas de centralização com sistemas de verificação de identidade biométrica?
Existem três tipos:
1. Risco de centralização da governança de alto nível do sistema (especialmente quando a decisão final de alto nível é tomada por diferentes participantes do sistema e seus julgamentos subjetivos são inconsistentes).
2. Riscos de centralização exclusivos de sistemas que usam hardware dedicado.
3. Existe um risco de centralização se algoritmos proprietários forem usados para determinar quem são os participantes reais.
Qualquer sistema de identidade deve lidar com (1), exceto talvez aquele em que o conjunto de IDs “aceites” é inteiramente subjetivo. Se um sistema usa incentivos denominados em ativos externos (por exemplo, ETH, USDC, DAI), ele não pode ser totalmente subjetivo e, portanto, o risco de governança é inevitável.
2. Para o WorldCoin, o risco é muito maior do que o do Proof of Humanity (ou BrightID) porque o WorldCoin depende de hardware especializado, enquanto outros sistemas não.
3. Isso é um risco, especialmente em sistemas “logicamente centralizados”, onde apenas um sistema faz a verificação, a menos que todos os algoritmos sejam de código aberto e possamos garantir que eles estejam realmente executando o código que afirmam estar. Para sistemas que dependem apenas de usuários verificando outros usuários (como o Proof of Humanity), isso não é um risco.
Como o WorldCoin resolve o problema da centralização de hardware?
Atualmente, a entidade afiliada à WorldCoin "Tools for Humanity" é a única organização que produz Orbs. No entanto, o código-fonte do Orb é em grande parte público: você pode ver as especificações de hardware neste repositório do GitHub, e o restante do código-fonte deve ser lançado em breve. A licença é uma daquelas licenças de “código-fonte compartilhado, mas tecnicamente não de código aberto até daqui a quatro anos”, semelhante à BSL da Uniswap e, além de evitar bifurcações, também impede o que eles consideram comportamento antiético — eles listam especificamente vigilância em massa e três declarações internacionais de direitos civis.
O objetivo declarado da equipe é permitir e encorajar outras organizações a criar Orbs e, com o tempo, fazer a transição dos Orbs criados pela Tools for Humanity para ter algum tipo de DAO que aprove e governe quais organizações podem criar Orbs aprovados pelo sistema.
Esse design pode falhar de duas maneiras: ele não consegue ser verdadeiramente descentralizado. Isso pode ter ocorrido devido a uma armadilha comum de acordos conjuntos: um fabricante acaba dominando na prática, levando a uma recentralização do sistema. Presumivelmente, a governança poderia limitar o número de esferas válidas que cada fabricante pode produzir, mas isso exigiria uma gestão cuidadosa e colocaria muita pressão sobre a governança para ser descentralizada, ao mesmo tempo em que monitora o ecossistema e responde às ameaças de forma eficaz: uma tarefa mais difícil do que as outras. Um DAO bastante estático que lida apenas com tarefas de resolução de disputas de alto nível.
1. Provou ser impossível tornar esse mecanismo de fabricação distribuída seguro. Vejo dois riscos aqui:
○ Vulnerabilidade contra fabricantes de Orbs maliciosos: mesmo que um fabricante de Orbs seja malicioso ou tenha sido hackeado, ele pode gerar um número ilimitado de hashes de escaneamento de íris falsos e fornecer a eles IDs mundiais.
○ Restrições governamentais sobre Orbs: governos que não querem que seus cidadãos participem do ecossistema WorldCoin podem proibir a entrada de Orbs em seus países. Além disso, eles poderiam até mesmo forçar os cidadãos a escanear suas íris, dando ao governo acesso às suas contas, sem que os cidadãos pudessem responder.
Para tornar o sistema mais robusto contra fabricantes ruins de Orbs, a equipe da Worldcoin recomenda que os Orbs sejam auditados regularmente, verificando se foram construídos corretamente, se os principais componentes de hardware foram construídos de acordo com as especificações e se não foram adulterados posteriormente. É uma tarefa desafiadora: é basicamente como a burocracia de inspeção nuclear da Agência Internacional de Energia Atômica, mas para Orbs. Esperamos que mesmo uma implementação muito imperfeita do sistema de auditoria reduza significativamente a quantidade de manipulação de resultados.
Para limitar o dano causado por quaisquer orbes ruins que passem, faz sentido tomar uma segunda medida de mitigação. IDs mundiais registrados por diferentes fabricantes de Orbs devem ser distinguíveis entre si. Se essas informações forem privadas e armazenadas apenas no dispositivo do titular do World ID, tudo bem; mas elas precisam ser comprovadas mediante solicitação. Isso permite que o ecossistema responda a ataques (inevitáveis) removendo fabricantes individuais de Orbs ou até mesmo Orbs individuais da lista de permissões sob demanda. Se víssemos algum governo forçando as pessoas a escanear seus globos oculares, esses orbes e quaisquer contas que eles gerassem provavelmente seriam desativados retroativamente imediatamente.
Questões de segurança na certificação geral de personalidade
Além de problemas específicos do WorldCoin, também há problemas que afetam o design de identidade em geral. Os principais que consigo pensar são:
1. Manequins impressos em 3D: as pessoas podem usar IA para gerar fotos de manequins, ou até mesmo manequins impressos em 3D, que sejam convincentes o suficiente para serem aceitos pelo software Orb. Mesmo que apenas um grupo faça isso, eles podem gerar um número infinito de identidades.
2. Possibilidade de vender IDs: Alguém pode fornecer a chave pública de outra pessoa em vez da sua própria ao se registrar, dando a essa pessoa o controle sobre sua ID registrada em troca de dinheiro. Parece que isso já aconteceu. Além de vender, os IDs também podem ser alugados para uso de curto prazo em um aplicativo.
3. Hacking de telefone: se o telefone de uma pessoa for hackeado, o hacker pode roubar a chave que controla seu World ID.
4. Roubo compulsório de identidade: O governo pode exigir que seus cidadãos verifiquem quando apresentam um código QR pertencente ao governo. Dessa forma, um governo malicioso poderia obter acesso a milhões de identidades. Em sistemas biométricos, isso pode até ser feito secretamente: um governo poderia usar esferas de ofuscação para extrair uma identidade mundial de cada pessoa que entrasse em seu país no controle de passaportes.
1. Específico para sistemas biométricos. (2) e (3) são comuns tanto aos modelos biométricos quanto aos não biométricos. (4) também é comum a ambos, embora as técnicas necessárias nos dois casos sejam bastante diferentes; nesta seção, vou me concentrar na questão do caso biométrico.
Essas são fraquezas bastante sérias. Algumas dessas questões já foram abordadas em protocolos existentes, algumas podem ser abordadas por meio de melhorias futuras e algumas parecem ser limitações fundamentais.
O que devemos fazer quando nos deparamos com pessoas hipócritas?
Para a WorldCoin, isso é muito menos arriscado do que sistemas como o Proof of Humanity: uma varredura pessoal pode verificar muitas características de uma pessoa e é muito mais difícil de falsificar do que um vídeo deepfake sozinho. Hardware especializado é inerentemente mais difícil de enganar do que hardware comum, que por sua vez é mais difícil de enganar do que os algoritmos digitais usados para autenticar fotos e vídeos enviados remotamente.
Alguém poderia finalmente criar hardware dedicado por meio de impressão 3D? talvez. Espero que em algum momento veremos uma tensão crescente entre os objetivos de manter os mecanismos abertos e mantê-los seguros: algoritmos de IA de código aberto são inerentemente mais suscetíveis ao aprendizado de máquina adversário. Algoritmos de caixa preta são mais protegidos, mas é difícil dizer que um algoritmo de caixa preta não foi treinado para conter um backdoor. Talvez a tecnologia ZK-ML possa nos dar o melhor dos dois mundos. Embora em algum momento no futuro mais distante, até mesmo os melhores algoritmos de IA possam ser enganados pelos melhores manequins impressos em 3D.
No entanto, a partir das minhas discussões com as equipes da Worldcoin e da Proof of Humanity, parece que nenhum dos protocolos sofreu ataques deepfake sérios até agora, pela simples razão de que é relativamente barato e fácil contratar trabalhadores reais com baixos salários para se registrarem em seu nome.
Podemos impedir a venda de documentos de identidade?
No curto prazo, é difícil parar essa terceirização porque a maior parte do mundo nem conhece o protocolo de identificação, e se você disser para eles mostrarem um código QR e escanearem seus olhos por US$ 30, eles farão isso. Quando mais pessoas perceberem o que é o protocolo de comprovação de identidade, uma mitigação bastante simples se tornará possível: permitir que pessoas com documentos de identidade registrados se registrem novamente, cancelando o documento de identidade anterior. Isso torna a “venda de identidade” muito menos confiável, pois a pessoa que lhe vendeu a identidade pode se registrar novamente, cancelando assim a identidade que acabou de vender. No entanto, para chegar a esse ponto, o protocolo precisaria ser muito conhecido e os Orbs precisariam ser amplamente utilizados para tornar o registro sob demanda viável.
Esta é uma das razões pelas quais é valioso integrar a UBI Coin em um sistema de comprovação de identidade: a UBI Coin fornece um incentivo fácil de entender para as pessoas (i) aprenderem sobre o protocolo e se registrarem, e (ii) se registrarem novamente imediatamente se tiverem se registrado em nome de outra pessoa. O novo registro também protege contra invasão telefônica.
Podemos evitar a coerção em sistemas biométricos?
Depende de que tipo de coerção estamos falando. Possíveis formas de coerção incluem:
● Os governos escaneiam os olhos das pessoas (ou rostos, ou…) nos controles de fronteira e outros pontos de verificação governamentais de rotina e os usam para registrar (e muitas vezes registrar novamente) seus cidadãos
● Governo proíbe Orbs no país para impedir que pessoas se registrem novamente de forma independente
● Após a compra de um cartão de identificação, uma pessoa ameaçou prejudicá-lo/a se descobrisse que seu cartão de identificação era inválido devido ao novo registro
● Um aplicativo (presumivelmente administrado pelo governo) que pede às pessoas que “façam login” diretamente usando uma assinatura de chave pública, permitindo que elas vejam a varredura biométrica correspondente e um link entre a ID atual do usuário e quaisquer IDs futuras que eles obtenham por meio de novo registro. Há uma preocupação generalizada de que isso torna muito fácil criar um "registro permanente" que acompanha uma pessoa por toda a sua vida.
Especialmente nas mãos de usuários não qualificados, parece bastante difícil evitar completamente essas situações. Os usuários podem deixar seu país e (re)registrar-se no Orb em um país mais seguro, mas esse é um processo difícil e caro. Em um ambiente jurídico verdadeiramente hostil, procurar um orbe autônomo parecia muito difícil e arriscado.
O que pode funcionar é tornar esse abuso mais irritante e fácil de detectar. Uma abordagem de prova de pessoa que exige que uma pessoa diga uma frase específica ao se registrar é um bom exemplo: isso pode ser suficiente para evitar varreduras ocultas, exigindo que a coerção seja mais flagrante, e a frase de registro pode até incluir uma declaração confirmando que a pessoa pesquisada está ciente de seu direito de se registrar novamente de forma independente e potencialmente receber moedas UBI ou outras recompensas. Se for detectada coerção, os direitos de acesso aos dispositivos usados para realizar coletivamente o registro coercitivo poderão ser revogados. Para evitar que aplicativos vinculem as IDs atuais e anteriores das pessoas e tentem deixar um “registro permanente”, aplicativos de comprovação de identidade padrão podem bloquear a chave de um usuário em hardware confiável, impedindo que qualquer aplicativo use essa chave diretamente sem uma camada ZK-SNARK anônima intermediária. Se o governo ou os desenvolvedores de aplicativos quiserem consertar isso, eles precisam exigir o uso de seus próprios aplicativos personalizados.
Ao combinar essas técnicas com vigilância ativa, parece possível manter afastados os regimes verdadeiramente hostis e manter honestos aqueles que são apenas moderadamente ruins (o que é o caso em grande parte do mundo). Isso poderia ser feito por projetos como Worldcoin ou Proof of Humanity, mantendo sua própria burocracia para realizar isso, ou revelando mais informações sobre como uma ID foi registrada (por exemplo, na Worldcoin, de qual orbe ela veio) e deixando essa tarefa de classificação para a comunidade. Podemos impedir o aluguel de documentos de identificação (por exemplo, para vender votos)?
O novo registro não impede que seu documento de identidade seja alugado. Isso é aceitável em algumas aplicações: o custo de alugar seu direito de coletar a cota de UBI Coin daquele dia será apenas o valor da cota de UBI Coin daquele dia. Mas em aplicações como votação, a facilidade de vender bilhetes é um grande problema.
Um sistema como o MACI poderia impedir que você vendesse seu voto de forma confiável, permitindo que você votasse novamente mais tarde, invalidando seu voto anterior para que ninguém pudesse saber se você realmente votou. No entanto, isso não ajuda se o subornador controlar a chave que você recebeu quando se inscreveu.
Vejo duas soluções aqui:
1. Execute o aplicativo inteiro no MPC. Isso também abrange o processo de novo registro: quando uma pessoa se registra no MPC, o MPC atribui a ela um ID que é separado e não pode ser vinculado ao seu ID de identificação e, quando uma pessoa se registra novamente, somente o MPC sabe qual conta desativar. Isso impede que os usuários provem suas ações, já que cada etapa significativa é realizada dentro do MPC usando informações privadas conhecidas apenas pelo MPC.
2. Cerimônia de registro dispersa. Basicamente, implemente um protocolo semelhante ao protocolo de registro de chaves presencial, que exige que quatro participantes locais selecionados aleatoriamente registrem alguém em conjunto. Isso garante que o registro seja um processo "confiável" que os invasores não podem espionar.
Sistemas baseados em gráficos sociais podem realmente ter um desempenho melhor aqui, pois podem criar automaticamente processos de registro descentralizados nativos como um subproduto da maneira como funcionam.
Como a biometria se compara ao outro principal candidato para comprovação de identidade: autenticação baseada em gráficos sociais?
Além dos métodos biométricos, o outro principal candidato à prova de personalidade até o momento é a autenticação baseada em gráficos sociais. Todos os sistemas de verificação baseados em gráficos sociais funcionam com o mesmo princípio: se houver um grande conjunto de identidades verificadas existentes que atestem a validade da sua identidade, então você provavelmente é válido e também deve receber o status de verificado.
Os defensores da autenticação baseada em gráficos sociais geralmente a descrevem como uma alternativa melhor à biometria pelos seguintes motivos:
● Não depende de hardware dedicado, o que facilita a implantação
● Evita uma corrida armamentista perpétua entre fabricantes que tentam fazer manequins e Orbs que precisam ser atualizados para rejeitar tais manequins
● Não há necessidade de coletar dados biométricos, melhor proteção da privacidade
● É potencialmente mais amigável ao pseudonimato, porque se alguém escolher dividir sua vida na internet em múltiplas identidades separadas umas das outras, ambas as identidades podem ser potencialmente verificadas (mas manter múltiplas identidades autênticas e independentes sacrifica os efeitos de rede e é custoso, então não é algo que um invasor pode fazer facilmente)
● As abordagens biométricas dão uma pontuação binária de “é humano” ou “não é humano”, o que é frágil: pessoas que são rejeitadas acidentalmente acabarão não tendo nenhum RBU e podem ser incapazes de participar da vida online. Abordagens baseadas em gráficos sociais podem fornecer pontuações numéricas mais diferenciadas, o que pode ser um pouco injusto para alguns participantes, mas é menos provável que “despersonalizem” alguém completamente.
Minha opinião sobre esses argumentos é que basicamente concordo com eles! Essas são vantagens reais das abordagens baseadas em gráficos sociais e devem ser levadas a sério. No entanto, também vale a pena considerar as fraquezas das abordagens baseadas em gráficos sociais:
● Integração: para que um usuário ingresse em um sistema baseado em gráfico social, ele deve conhecer alguém que já esteja no gráfico. Isso dificulta a adoção em massa e tem o potencial de excluir regiões inteiras do mundo que não tiveram sorte durante o processo inicial de bootstrapping.
● Privacidade: embora as abordagens baseadas em gráficos sociais evitem a coleta de dados biométricos, elas frequentemente acabam vazando informações sobre os relacionamentos sociais de uma pessoa, o que pode levar a riscos maiores. É claro que técnicas de conhecimento zero podem atenuar isso (veja, por exemplo, a proposta de Barry Whitehat), mas as interdependências inerentes ao gráfico e a necessidade de realizar análises matemáticas no gráfico tornam muito mais difícil atingir o mesmo nível de ocultação de dados que a biometria.
● Desigualdade: Cada pessoa só pode ter uma identificação biométrica, mas uma pessoa rica e bem relacionada pode aproveitar suas conexões para gerar muitas identificações. Essencialmente, a mesma flexibilidade que pode permitir que um sistema baseado em gráficos sociais ofereça vários pseudônimos para pessoas que realmente precisam do recurso (como ativistas) também pode significar que pessoas mais poderosas e mais bem conectadas podem obter mais pseudônimos do que pessoas menos poderosas e mais bem conectadas.
● Risco de cair na centralização: a maioria das pessoas tem preguiça de perder tempo informando aos aplicativos de internet quem é real e quem não é. Portanto, há um risco de que, com o tempo, o sistema tenda a uma abordagem "simples" de naturalização que depende de autoridades centralizadas, e o "gráfico social" dos usuários do sistema se tornará efetivamente um gráfico social de quais países reconhecem quais pessoas como cidadãos - nos dando KYC centralizado e etapas extras desnecessárias.
As provas de personalidade são compatíveis com pseudônimos do mundo real?
Em princípio, a prova de personalidade é compatível com todos os tipos de pseudônimos. O aplicativo foi projetado de tal forma que uma pessoa com um único documento de identidade pode criar até cinco perfis no aplicativo, deixando espaço para contas pseudônimas. Você pode até usar uma fórmula quadrática: N é equivalente a um custo de $N². Mas será que vão conseguir?
No entanto, um pessimista pode argumentar que é ingênuo tentar criar uma forma de identificação mais favorável à privacidade e esperar que ela possa realmente ser adotada da maneira correta, porque aqueles que estão no poder não são favoráveis à privacidade e, se um ator poderoso obtiver uma ferramenta que possa ser usada para obter mais informações sobre uma pessoa, ele a usará dessa maneira. Alguns argumentam que, em tal mundo, a única abordagem realista é, infelizmente, jogar areia nas engrenagens de qualquer solução de identidade e defender um mundo de anonimato completo e ilhas digitais de comunidades de alta confiança.
Entendo as razões por trás dessa maneira de pensar, mas me preocupa que, mesmo que tenha sucesso, isso levará a um mundo onde ninguém poderá fazer nada para compensar a concentração de riqueza e governança, porque uma pessoa sempre pode fingir ser dez mil. Por outro lado, um ponto de poder tão centralizado pode ser facilmente ocupado por aqueles que estão no poder. Em vez disso, prefiro uma abordagem moderada, na qual defendemos fortemente soluções de identidade com forte privacidade, talvez até incluindo um mecanismo de “N contas para $N²” no nível do protocolo, se necessário, e criamos algo com valores favoráveis à privacidade que tenha uma chance de ser aceito pelo mundo exterior.
Então...o que eu acho?
Não existe uma forma ideal de prova de caráter. Em vez disso, temos pelo menos três paradigmas metodológicos diferentes, cada um com seus próprios pontos fortes e fracos. Um gráfico de comparação pode ser parecido com este:
O ideal seria vermos essas três tecnologias como complementares e combiná-las todas. Como demonstra o Aadhaar da Índia, a biometria de hardware dedicada tem a vantagem de ser segura em escala. Eles são muito fracos em descentralização, embora isso possa ser corrigido responsabilizando esferas individuais. Hoje em dia, a biometria de uso geral é facilmente adotada, mas sua segurança está diminuindo rapidamente e ela pode funcionar apenas por mais 1 a 2 anos. Sistemas baseados em gráficos sociais, liderados por algumas centenas de pessoas socialmente próximas da equipe fundadora, podem enfrentar uma troca constante de perder totalmente grandes partes do mundo ou ficar vulneráveis a ataques dentro de comunidades que não podem ver. No entanto, um sistema baseado em gráficos sociais guiado por dezenas de milhões de portadores de identificação biométrica poderia realmente funcionar. A orientação biométrica pode funcionar melhor no curto prazo.
Todas essas equipes têm o potencial de cometer muitos erros, e inevitavelmente haverá tensão entre os interesses comerciais e as necessidades da comunidade em geral, por isso é importante permanecer vigilante. Como comunidade, podemos e devemos expandir as zonas de conforto de todos os participantes na tecnologia de código aberto, exigindo auditorias de terceiros, até mesmo software escrito por terceiros, e outros controles e equilíbrios. Também precisamos de mais alternativas em cada uma dessas três categorias.
Ao mesmo tempo, também é importante reconhecer o trabalho que já foi feito: muitas das equipes que executam esses sistemas demonstraram disposição em levar a privacidade mais a sério do que quase qualquer sistema de identidade executado por um governo ou grande empresa, e esse é um sucesso que devemos desenvolver.
O problema de construir um sistema de comprovação de identidade eficaz e confiável, especialmente nas mãos de pessoas distantes da comunidade criptográfica existente, parece ser bastante desafiador. Definitivamente não invejo aqueles que tentam essa tarefa, e pode levar anos para encontrar uma fórmula que funcione. Em princípio, o conceito de prova de personalidade parece muito valioso e, embora várias implementações tenham seus riscos, não ter nenhuma prova de personalidade também tem: um mundo sem prova de personalidade parece mais provavelmente ser um mundo dominado por soluções de identidade centralizadas, dinheiro, pequenas comunidades fechadas ou alguma combinação dos três. Espero ver mais progresso em todos os tipos de provas de personalidade e ver as diferentes abordagens eventualmente convergirem em um todo coerente.