Оригинальный текст V God: Что я думаю о биометрическом подтверждении личности?
Автор: В Бог
Особая благодарность команде Worldcoin, сообществу Proof of Humanity и Эндрю Миллеру за обсуждения.
Один из самых сложных, но, вероятно, самых ценных гаджетов, которые пытались создать люди в сообществе Ethereum, — это децентрализованное решение для подтверждения личности. Аттестация личности, также известная как «уникально человеческая проблема», представляет собой ограниченную форму реальной идентичности, которая утверждает, что данная зарегистрированная учетная запись контролируется реальным человеком (и реальным человеком, отличным от других зарегистрированных учетных записей) и в идеале не раскрывается. какой это настоящий человек.
Были предприняты некоторые попытки решить эту проблему: примерами являются Proof of Humanity, BrightID, Idena и Circles. Некоторые из них поставляются со своими собственными приложениями (обычно токены UBI), а некоторые используются в Gitcoin Passport для проверки того, какие учетные записи действительны для вторичного голосования. Технологии с нулевым разглашением информации, такие как Sismo, повышают конфиденциальность многих решений. Недавно мы стали свидетелями появления более крупного и амбициозного проекта, подтверждающего личность: WorldCoin.
WorldCoin был основан Сэмом Альтманом, наиболее известным как генеральный директор OpenAI. Идея проекта проста: ИИ создаст огромное и обильное богатство для человечества, но он также, вероятно, отнимет у многих людей рабочие места и сделает практически невозможным определить, кто человек, а кто робот. Поэтому нам нужно заполнить эту дыру путем: (i) создания действительно хорошей системы подтверждения личности, чтобы люди могли доказать, что они на самом деле люди, и (ii) предоставления UBI для каждого. WorldCoin уникален тем, что он основан на сложной биометрической технологии и использует специальное оборудование, называемое «Сфера», для сканирования радужной оболочки каждого пользователя:
Цель WorldCoin — производить большое количество этих сфер, распространять их по всему миру и размещать в общественных местах, чтобы каждый мог легко получить удостоверение личности. К чести WorldCoin, он также стремится к децентрализации с течением времени. Прежде всего, это означает техническую децентрализацию: использование стека Optimism для того, чтобы стать L2 на Ethereum, а также использование ZK-SNARK и других криптографических технологий для защиты конфиденциальности пользователей. Затем оно включает в себя децентрализованное управление самой системой.
WorldCoin подвергалась критике за проблемы с конфиденциальностью и безопасностью Orb, проблемы с дизайном ее «монеты» и этические проблемы с некоторыми решениями, принятыми компанией. Некоторая критика очень конкретна: она сосредоточена на решениях, принятых проектом, которые легко могли быть приняты по-другому — решениях, которые, по сути, сам проект Worldcoin, возможно, захочет изменить. Другие, однако, выразили более фундаментальную обеспокоенность по поводу того, является ли биометрия — не только биометрия, сканирующая глаза WorldCoin, но и человеческие доказательства, а также более простые игры для загрузки и проверки видео с лицами, используемые в Idena — хорошей идеей. Другие критикуют сертификацию характера в целом. Риски включают неизбежные нарушения конфиденциальности, дальнейшее снижение способности людей анонимно пользоваться Интернетом, принуждение со стороны авторитарных правительств и возможность децентрализации при сохранении безопасности.
В этой статье будут обсуждаться эти проблемы и приводятся некоторые аргументы, которые помогут вам решить, хорошая ли идея поклониться и просканировать ваши глаза (или лицо, или голос, или...) перед нашим новым сферическим повелителем, и есть ли естественные альтернативы - использовать доказательства персонажей на основе социальных графов или вообще отказаться от доказательств персонажей - лучше.
Что такое доказательство характера и почему это важно?
Самый простой способ определить систему подтверждения личности — создать список открытых ключей, где система гарантирует, что каждый ключ контролируется уникальным человеком. Другими словами, если вы человек, вы можете поместить в список один ключ, но не два ключа, а если вы робот, вы не можете поместить в список ни одного ключа.
Личность оказывается ценной, поскольку она решает проблемы защиты от спама и централизации, с которыми сталкиваются многие, позволяет избежать зависимости от центрального органа и раскрывает минимально возможный объем информации. Если не заняться доказательством личности, децентрализованное управление (включая «микроуправление», такое как голосование в социальных сетях) станет легче захватить очень богатым субъектам, в том числе враждебным правительствам. Многие службы можно защитить от атак типа «отказ в обслуживании», только установив цену за доступ, а иногда цена, достаточно высокая, чтобы сдержать злоумышленников, слишком высока для многих законных пользователей с низким доходом.
Многие крупные приложения в мире сегодня решают эту проблему, используя поддерживаемые государством системы идентификации, такие как кредитные карты и паспорта. Это решает проблему, но приносит огромную и, возможно, неприемлемую жертву конфиденциальности и может стать объектом незначительных нападок со стороны самого правительства.
Во многих проектах с доказательством личности — не только WorldCoin, но и Proof of Humanity, Circles и т. д. — «флагманским приложением» является встроенное «N токенов на человека» (иногда называемое «Токены UBI»). Каждый пользователь, зарегистрированный в системе, получает определенное фиксированное количество токенов каждый день (или ежечасно, или еженедельно). Но есть много других приложений для:
● Аирдроп распределения токенов.
● Продажа токенов или NFT на более выгодных условиях для менее обеспеченных пользователей.
● Голосуйте в DAO.
● Метод «засева» графовых систем репутации.
● Вторичное голосование (а также финансирование и выплаты внимания)
● Предотвращение атак ботов/сивилл в социальных сетях.
● Альтернатива CAPTCHA для предотвращения DoS-атак.
Во многих из этих случаев общей нитью является желание создать открытые и демократические механизмы, позволяющие избежать централизованного контроля со стороны операторов проектов и доминирования самых богатых пользователей. Последнее особенно важно в децентрализованном управлении. Во многих из этих случаев существующие сегодня решения полагаются на (i) крайне непрозрачные алгоритмы искусственного интеллекта, которые оставляют много возможностей для незаметной дискриминации пользователей, которые просто не нравятся оператору связи, и (ii) централизованную идентификацию, также известную как «KYC». ». Эффективное решение для проверки личности было бы лучшей альтернативой, которая могла бы обеспечить свойства безопасности, необходимые этим приложениям, не страдая от недостатков существующих централизованных подходов.
Каковы были первые попытки сертификации персонажей?
Существует две основные формы доказательства личности: на основе социограмм и биометрия. Доказательство личности на основе социальных графов опирается на некоторую форму гарантии: если Алиса, Боб, Чарли и Дэвид — проверенные люди, и все они говорят, что Эмили — проверенный человек, то, вероятно, и Эмили является проверенным человеком. . Полномочия часто подкрепляются стимулами: если Алиса говорит, что Эмили — человек, а оказывается, что это не так, и Алиса, и Эмили могут быть наказаны. Биометрическое доказательство личности включает проверку определенных физических или поведенческих характеристик Эмили, которые отличают людей от роботов (и между отдельными людьми). В большинстве проектов используется комбинация этих двух методов.
Четыре системы, которые я упомянул в начале статьи, работают примерно следующим образом:
Доказательство человечности: вы загружаете собственное видео и вносите залог. Чтобы получить одобрение, существующие пользователи должны поручиться за вас, и пройдет некоторое время, прежде чем они смогут бросить вам вызов. Если возникнет оспаривание, децентрализованный суд Kleros решит, является ли ваше видео аутентичным. В противном случае вы потеряете свой депозит, а претендент получит вознаграждение.
BrightID: вы присоединяетесь к видеовызову «аутентификатор» с другими пользователями, и все аутентифицируют друг друга. Более высокий уровень проверки доступен через Bitu, систему, в которой вы можете пройти проверку, если за вас поручится достаточное количество других пользователей, проверенных Bitu.
Идена: вы играете в игру CAPTCHA в определенный момент времени (чтобы люди не могли участвовать более одного раза); часть игры CAPTCHA включает в себя создание и проверку CAPTCHA, которые затем используются для проверки других CAPTCHA.
Круги: существующие пользователи Кругов поддержат вас. Circles уникален тем, что он не пытается создать «глобальный проверяемый идентификатор», вместо этого он создает график доверия, в котором чью-либо надежность можно проверить только с точки зрения вашей собственной позиции в этом графике.
Как работает WorldCoin?
Каждый пользователь WorldCoin устанавливает на свой телефон приложение, которое генерирует закрытые и открытые ключи, как кошелек Ethereum. Затем они сами отправились посетить «Сферу». Пользователь смотрит в камеру Orb, показывая Orb QR-код, сгенерированный его приложением Worldcoin, который содержит его открытый ключ. Orb сканирует глаза пользователя и использует сложное аппаратное сканирование и классификаторы машинного обучения, чтобы проверить:
1. Пользователь — реальный человек
2. Радужная оболочка пользователя не совпадает с радужной оболочкой любого другого пользователя, ранее использовавшего систему.
Если оба сканирования пройдены успешно, Orb подписывает сообщение, утверждающее специальный хэш сканирования радужной оболочки глаза пользователя. Хэши загружаются в базу данных — в настоящее время это централизованный сервер, который планируется заменить децентрализованной системой цепочки, как только будет установлено, что механизм хеширования эффективен. Система не хранит полное сканирование радужной оболочки глаза; она хранит только хэши, которые используются для проверки уникальности. С этого момента у пользователя есть «World ID».
Владельцы World ID могут доказать, что они являются единственным человеком, создав ZK-SNARK, доказывая, что они владеют закрытым ключом, соответствующим открытому ключу в базе данных, не раскрывая, какой ключ они имеют. Таким образом, даже если кто-то повторно просканирует ваши радужные оболочки, он не сможет увидеть какие-либо ваши действия.
Каковы основные проблемы со строительством WorldCoin?
На ум сразу приходят четыре основных риска:
● Конфиденциальность. Реестр сканирования радужной оболочки глаза может привести к утечке информации. По крайней мере, если кто-то другой отсканирует ваши радужные оболочки, он сможет свериться с базой данных, чтобы узнать, есть ли у вас World ID. Сканирование радужной оболочки может показать больше.
● Доступность: World ID не будет надежно доступен, если не будет достаточно сфер, к которым легко сможет получить доступ любой человек в мире.
● Централизация: Orb — это аппаратное устройство, и мы не можем проверить, правильно ли оно сконструировано и не имеет ли оно бэкдоров. Таким образом, даже если бы уровень программного обеспечения был идеальным и полностью децентрализованным, WorldCoin Foundation все равно имела бы возможность вставить в систему бэкдор, позволяющий ей создавать столько поддельных человеческих личностей, сколько он захочет.
● Безопасность: телефоны пользователей могут быть взломаны, пользователи могут быть вынуждены сканировать свою радужную оболочку, предъявляя открытый ключ, принадлежащий кому-то другому, и может быть возможно напечатать на 3D-принтере «манекен», который можно будет сканировать через радужную оболочку и передать Всемирный идентификатор.
Важно различать (i) проблемы, специфичные для выбора, сделанного WorldCoin, (ii) проблемы, которые неизбежны при любом биометрическом подтверждении личности, и (iii) проблемы, которые присутствуют при любом общем доказательстве личности. Например, подписать «сертификат человечности» — значит опубликовать свое лицо в Интернете. Присоединение к верификатору BrightID не дает этого полностью, но все же может раскрыть вашу личность многим людям. Присоединение к кругам делает ваш социальный график общедоступным. WorldCoin значительно лучше защищает конфиденциальность, чем оба. WorldCoin, с другой стороны, полагается на специализированное оборудование, что ставит задачу доверить производителю сферы правильное создание сферы — задачу, не имеющую аналогов в человеческом доказательстве, BrightID или Circles. Вполне возможно, что в будущем другие компании за пределами WorldCoin создадут другие специализированные аппаратные решения с другими компромиссами.
Как решения биометрической идентификации решают проблемы конфиденциальности?
Наиболее очевидным и самым большим потенциальным нарушением конфиденциальности любой системы проверки личности является привязка каждого действия, совершаемого человеком, к реальной личности. Масштаб этой утечки данных очень велик, его можно назвать неприемлемо большим, но, к счастью, его легко решить с помощью технологии доказательства с нулевым разглашением. Вместо того, чтобы напрямую подписываться с помощью соответствующего закрытого ключа в базе данных, пользователи могут создать ZK-SNARK, чтобы доказать, что они владеют закрытым ключом, соответствующий открытый ключ которого находится где-то в базе данных, не раскрывая, каким именно ключом они владеют. Обычно это можно сделать с помощью таких инструментов, как Sismo, а WorldCoin имеет собственную встроенную реализацию. Предоставление «крипто-родного» доказательства личности здесь очень важно: они действительно заботятся о том, чтобы сделать этот базовый шаг для обеспечения анонимности, чего практически не делают все централизованные решения для идентификации.
Более тонким, но все же важным нарушением конфиденциальности является существование публичного реестра биометрических сканирований. Что касается доказательства человечности, то это большой объем данных: вы можете получить видео каждого участника доказательства человечности, что дает понять любому человеку в мире, кто желает выяснить, кем являются все участники доказательства человечности. В случае с WorldCoin утечка гораздо более ограничена: Orb локально вычисляет и публикует только «хэш» сканирования радужной оболочки каждого человека. Этот хеш не является обычным хешем, таким как SHA256, а представляет собой специализированный алгоритм, основанный на фильтре Габора машинного обучения, который используется для обработки неточностей, присущих любому биометрическому сканированию, и обеспечения идентификации одного и того же человека. выходы.
Синий: процент цифр, которые различаются на двух сканах радужной оболочки одного и того же человека. Оранжевый: процент цифр, которые различаются на двух сканах радужной оболочки двух разных людей.
Эти хеши радужной оболочки передают лишь небольшой объем данных. Если злоумышленник может принудительно (или скрытно) просканировать вашу радужную оболочку, он сможет самостоятельно вычислить хэш вашей радужной оболочки и сравнить его с базой данных хэшей радужной оболочки, чтобы определить, участвуете ли вы в системе. Эта возможность проверять, зарегистрирован ли кто-то, необходима самой системе, чтобы предотвратить повторную регистрацию людей, но всегда существует вероятность злоупотребления ею. Кроме того, хэши радужной оболочки глаза могут привести к утечке определенного количества медицинских данных (пол, раса и, возможно, состояние здоровья), но эта утечка гораздо меньше, чем почти любая другая система массового сбора данных, используемая сегодня (например, даже уличные камеры). данные, которые могут быть зафиксированы. В целом, конфиденциальности хранения хэшей Iris мне кажется достаточно.
Если другие не согласны с этим суждением и решают разработать систему с большей конфиденциальностью, есть два способа сделать это:
1. Если алгоритм хеширования радужной оболочки можно улучшить так, чтобы разница между двумя сканами одного и того же человека была меньше (например, достоверно менее 10% переворота битов), то система сможет хранить меньшее количество битов, исправляющих ошибки. iris hash вместо хранения полного хеша радужной оболочки глаза (см.: Fuzzy Extractor). Если разница между двумя сканами составляет менее 10%, количество битов, которые необходимо опубликовать, уменьшится как минимум в 5 раз.
2. Если мы хотим пойти еще дальше, мы можем хранить хэш-базу данных радужной оболочки глаза в системе многосторонних вычислений (MPC), к которой могут получить доступ только Orbs (с ограничениями скорости), что делает данные полностью недоступными, но при этом стоимость управления сложностью протокола MPC и социальной сложностью наборов актеров. Преимущество этого в том, что пользователи не могут доказать связь между двумя разными World ID, которые у них есть в разное время, даже если бы они этого захотели.
К сожалению, эти методы не подходят для Proof of Humanity, которое требует обнародовать полное видео каждого участника, чтобы его можно было оспорить при наличии признаков того, что оно фейковое (в том числе фейки, созданные ИИ), и провести более детальную проверку. расследование по данному делу.
В целом, несмотря на антиутопическое ощущение, когда вы смотрите в сферу и глубоко сканируете ваши глазные яблоки, специализированные аппаратные системы, похоже, неплохо справляются с защитой конфиденциальности. Однако есть и обратная сторона: выделенные аппаратные системы создают большие проблемы с централизацией. Итак, мы, шифропанки, похоже, находимся в затруднительном положении: нам приходится сопоставлять одну глубоко укоренившуюся ценность шифропанка с другой.
Каковы проблемы доступности в системах биометрической идентификации?
Специализированное оборудование создает проблемы с доступностью, поскольку специализированное оборудование менее доступно. В настоящее время от 51% до 64% жителей стран Африки к югу от Сахары владеют смартфоном, и ожидается, что к 2030 году эта доля увеличится до 87%. Но несмотря на то, что смартфонов существуют миллиарды, Сфер всего несколько сотен. Даже при крупномасштабном распределенном производстве будет сложно создать мир, в котором шар находится в пределах пяти километров от каждого.
Также стоит отметить, что многие другие формы личности имеют более серьезные проблемы с доступностью. Присоединиться к системе проверки личности на основе социального графа очень сложно, если вы уже не знаете кого-то из социального графа. Это позволяет легко ограничить использование таких систем одним сообществом в одной стране.
Даже централизованные системы идентификации усвоили этот урок: индийская система идентификации Aadhaar основана на биометрических данных, поскольку это был единственный способ быстро подключить к себе огромное население, избегая при этом массового мошенничества с использованием дубликатов и фальшивых учетных записей (что позволяет сэкономить значительные средства) и, конечно же, Aadhaar. Система в целом намного слабее с точки зрения конфиденциальности, чем любая система, предложенная в масштабе криптосообщества.
С точки зрения доступности, лучше всего работают такие системы, как Proof of Humanity, где вы можете зарегистрироваться, используя только свой смартфон, хотя, как мы видели и увидим, такие системы привносят и другие компромиссы.
Каковы проблемы централизации систем биометрической идентификации?
Есть три типа:
1. Риск централизации управления системой на высшем уровне (особенно систем, которые принимают окончательные решения на высшем уровне, когда разные участники системы имеют противоречивые субъективные суждения).
2. Риски централизации присущи только системам, использующим специализированное оборудование.
3. Если для определения реальных участников используются собственные алгоритмы, существует риск централизации.
Любая система идентификации должна бороться с (1), за исключением, пожалуй, той, в которой «принятый» набор идентификаторов полностью субъективен. Если система использует стимулы, выраженные во внешних активах (например, ETH, USDC, DAI), то она не может быть полностью субъективной, и поэтому риск управления неизбежен.
2. Для WorldCoin риск намного выше, чем человеческое доказательство (или BrightID), поскольку WorldCoin полагается на специализированное оборудование, которого нет в других системах.
3. Это риск, особенно в «логически централизованных» системах, где проверку выполняет только одна система, если только все алгоритмы не имеют открытый исходный код и мы не можем гарантировать, что они действительно выполняют код, за который они выдают себя. Для систем, которые полагаются исключительно на проверку пользователей другими пользователями (например, доказательство человечности), это не представляет риска.
Как Worldcoin решает проблему аппаратной централизации?
В настоящее время аффилированная с WorldCoin организация «Инструменты для человечества» является единственной организацией, производящей сферы. Однако исходный код Orb в основном общедоступен: характеристики оборудования можно посмотреть в этом репозитории на github, а остальная часть исходного кода, как ожидается, будет опубликована в ближайшее время. Эта лицензия является одной из тех лицензий, которые «разделяют исходный код, но технически не открываются до тех пор, пока не пройдет четыре года», аналогичных лицензиям Uniswap BSL, и помимо предотвращения форков она также предотвращает то, что они считают неэтичным поведением. Они выделили массовое наблюдение и в частности, три международные декларации о гражданских правах.
Заявленная цель команды — позволить и поощрять другие организации создавать сферы и со временем перейти от сфер, созданных Tools for Humanity, к созданию своего рода DAO, который одобряет и управляет тем, какие организации могут создавать сферы, санкционированные системой.
Эта конструкция может потерпеть неудачу по двум причинам: она не может быть по-настоящему децентрализованной. Это может произойти из-за распространенной ошибки совместных соглашений: на практике доминирует один производитель, что приводит к рецентрализации системы. Предположительно, управление может ограничить количество действительных сфер, которые может производить каждый производитель, но этим нужно будет управлять осторожно, и это оказывает большое давление на управление как по децентрализации и мониторингу экосистемы, так и по эффективной борьбе с угрозами: это более сложная задача. задание, чем другие. Довольно статичный DAO, который выполняет только задачи разрешения споров верхнего уровня.
1. Оказывается, невозможно сделать этот механизм распределенного производства безопасным. Здесь я вижу два риска:
○ Уязвимость к плохим создателям сфер: даже если создатель сфер является злонамеренным или взломан, он может генерировать неограниченное количество поддельных хэшей сканирования радужной оболочки глаза и предоставлять им мировые идентификаторы.
○ Правительственные ограничения на сферы: правительства, которые не хотят, чтобы их граждане участвовали в экосистеме WorldCoin, могут запретить сферам ввоз в свою страну. Кроме того, они могут даже заставить граждан сканировать радужную оболочку глаз, чтобы предоставить правительству доступ к их учетным записям, при этом у граждан не будет возможности ответить.
Чтобы сделать систему более устойчивой к плохим производителям Orb, команда Worldcoin рекомендует проводить регулярные проверки Orb, чтобы убедиться, что они построены правильно, что ключевые аппаратные компоненты созданы в соответствии со спецификациями и не были изменены постфактум. Это непростая задача: по сути, это похоже на бюрократию ядерных инспекций МАГАТЭ, только для Сфер. Мы надеемся, что даже если внедрение системы аудита будет очень несовершенным, это позволит существенно сократить количество договорных матчей.
Чтобы ограничить урон от любых проскакивающих плохих сфер, имеет смысл иметь второе смягчение. Мировые идентификаторы, зарегистрированные разными производителями сфер, должны различать друг друга. Ничего страшного, если эта информация является конфиденциальной и хранится только на устройстве владельца World ID, но она требует подтверждения по требованию; Это позволяет экосистеме реагировать на (неизбежные) атаки, удаляя отдельных производителей Сфер или даже отдельные Сферы из белого списка по требованию. Если бы мы увидели, как правительство заставляет людей сканировать свои глазные яблоки, эти шары и любые созданные ими аккаунты, скорее всего, будут немедленно запрещены задним числом.
Проблемы безопасности при общей сертификации личности
Помимо проблем, специфичных для WorldCoin, существуют также проблемы, влияющие на общий дизайн идентификатора. Основные из них, о которых я могу думать, это:
1. Манекены, напечатанные на 3D-принтере. Люди могут использовать искусственный интеллект для создания фотографий манекенов, даже манекенов, напечатанных на 3D-принтере, которые даже достаточно убедительны, чтобы их могло принять программное обеспечение Orb. Даже если это сделает только одна группа, они смогут генерировать неограниченное количество личностей.
2. Возможность продажи идентификатора: кто-то может предоставить чужой открытый ключ вместо своего собственного открытого ключа при регистрации, что позволяет этому человеку контролировать зарегистрированный идентификатор в обмен на деньги. Кажется, это произошло. Помимо продажи, идентификаторы также можно арендовать для краткосрочного использования внутри приложения.
3. Взлом телефона. Если телефон человека взломан, хакер может украсть ключи, которые контролируют его World ID.
4. Принудительная кража личных данных. Правительство может потребовать от своих граждан пройти проверку при предъявлении QR-кода, принадлежащего правительству. Таким образом, злонамеренное правительство может получить миллионы идентификаторов. В биометрических системах это можно делать даже скрытно: правительства могут использовать сферы запутывания для извлечения удостоверений личности во всем мире у каждого, кто въезжает в их страну на паспортном контроле.
1. Специально для систем биометрической идентификации. (2) и (3) являются общими как для биометрических, так и для небиометрических конструкций. (4) также является общим для обоих случаев, хотя методы, необходимые в обоих случаях, совершенно разные; в этом разделе я сосредоточусь на проблеме биометрического случая.
Это довольно серьезные недостатки. Некоторые проблемы уже решены в существующих протоколах, некоторые могут быть решены с помощью будущих улучшений, а некоторые представляют собой фундаментальные ограничения.
Что нам следует делать, когда мы сталкиваемся с лицемерными людьми?
Для WorldCoin это гораздо менее рискованно, чем такая система, как Proof of Humanity: сканирование лицом к лицу может проверить многие характеристики человека, и его гораздо сложнее подделать, чем просто дипфейковое видео. Специализированное оборудование по своей природе труднее подделать, чем коммерческое оборудование, которое, в свою очередь, труднее подделать, чем цифровые алгоритмы, которые аутентифицируют удаленно отправленные изображения и видео.
Сможет ли кто-нибудь наконец обмануть специализированное оборудование для 3D-печати? возможно. Я прогнозирую, что в какой-то момент мы увидим растущее противоречие между целями сохранения механизмов открытыми и обеспечения их безопасности: алгоритмы ИИ с открытым исходным кодом по своей сути более восприимчивы к состязательному машинному обучению. Алгоритмы «черного ящика» более защищены, но трудно утверждать, что алгоритмы «черного ящика» не обучены сдерживать бэкдоры. Возможно, технология ZK-ML сможет дать нам лучшее из обоих миров. Хотя в какой-то момент в более отдаленном будущем даже лучшие алгоритмы ИИ могут быть обмануты лучшими 3D-напечатанными манекенами.
Однако из моих обсуждений с командами Worldcoin и Proof of Humanity выяснилось, что ни один из протоколов до сих пор не подвергался серьезным дипфейковым атакам по той простой причине, что нанимать реальных низкооплачиваемых работников для регистрации от вашего имени довольно дешево и легко.
Можем ли мы предотвратить продажу удостоверений личности?
В краткосрочной перспективе остановить этот аутсорсинг будет сложно, потому что большинство людей в мире даже не знают о протоколе идентификации, и если вы скажете им поднять QR-код и отсканировать глаза за 30 долларов, они это сделают. . Как только люди поймут, что такое протокол идентификации, станет возможным довольно простое смягчение последствий: разрешить людям с зарегистрированными идентификаторами перерегистрироваться, аннулировав свои предыдущие идентификаторы. Это делает «удостоверение личности на продажу» гораздо менее заслуживающим доверия, поскольку человек, продающий вам удостоверение личности, может перерегистрироваться, тем самым аннулируя только что проданное удостоверение личности. Однако, чтобы достичь этого момента, протокол должен быть хорошо известен, а сферы должны широко использоваться, чтобы сделать регистрацию по требованию практичной.
Это одна из причин, почему интеграция UBI Coin в системы подтверждения личности ценна: UBI Coin обеспечивает простой для понимания стимул для людей (i) понять протокол и зарегистрироваться, и (ii) если они представляют кого-то другого, зарегистрируйтесь, затем немедленно перерегистрируйтесь. Перерегистрация также защищает от взлома телефона.
Можем ли мы предотвратить принуждение в биометрических системах?
Это зависит от того, о каком принуждении мы говорим. К возможным формам принуждения относятся:
● Правительства сканируют глаза (или лица, или…) людей на пограничном контроле и других обычных государственных контрольно-пропускных пунктах и используют это для регистрации (а часто и перерегистрации) своих граждан.
● Правительство запрещает Сферы в стране, чтобы помешать людям самостоятельно перерегистрироваться.
● После приобретения удостоверения личности гражданин угрожал причинить ему вред, если его удостоверение личности окажется недействительным из-за перерегистрации.
● Приложение (возможно, государственное) требует, чтобы люди «входили в систему» напрямую, используя подпись с открытым ключом, что позволяет им видеть соответствующее биометрическое сканирование и связь между текущим идентификатором пользователя и любым будущим идентификатором, который они получат путем перерегистрации. . Широко распространена обеспокоенность тем, что из-за этого слишком легко создать «постоянную запись», которая будет храниться на протяжении всей жизни человека.
Полное предотвращение подобных ситуаций может показаться весьма трудным, особенно в руках неквалифицированных пользователей. Пользователи могут покинуть свою страну и (пере) зарегистрироваться на Orb в более безопасной стране, но это сложный и дорогостоящий процесс. В поистине враждебной правовой среде найти независимый шар кажется слишком сложным и рискованным.
Что работает, так это то, что подобные злоупотребления становятся более раздражающими и их легче обнаружить. Хорошим примером являются методы доказательства гуманности, требующие от человека произнести определенную фразу при регистрации: этого может быть достаточно, чтобы предотвратить скрытое сканирование, требуя, чтобы принуждение было более явным, а регистрационная фраза может даже включать заявление, подтверждающее, что лицо, находящееся под следствием знает, что у них есть права. Перерегистрируйтесь самостоятельно и можете получить монеты UBI или другие награды. В случае обнаружения принудительного исполнения доступ к устройствам, используемым для коллективного обеспечения принудительного исполнения, может быть отозван. Чтобы приложения не могли связывать текущие и предыдущие идентификаторы людей и пытаться оставить «постоянную запись», приложение для проверки личности по умолчанию может заблокировать ключ пользователя на доверенном оборудовании, не позволяя любому приложению использовать ключ напрямую. Никакого промежуточного анонимного уровня ZK-SNARK. требуется. Если правительства или разработчики приложений хотят решить эту проблему, им необходимо обязать использование своих собственных приложений.
Сочетая эти методы с активной бдительностью, кажется возможным не допустить этих действительно враждебных режимов и сохранить честность тех, которые лишь умеренно плохи (как это имеет место в большинстве стран мира). Это может быть достигнуто с помощью таких проектов, как Worldcoin или Proof of Humanity, поддерживающих собственную бюрократию, или путем раскрытия дополнительной информации о том, как идентификатор был зарегистрирован (например, в Worldcoin, из какой сферы он получен) и выполнения этой задачи. Задача классификации оставлена на усмотрение сообщество. Можем ли мы предотвратить аренду удостоверений личности (например, продажу голосов)?
Перерегистрация не помешает сдаче вашего удостоверения в аренду. В некоторых приложениях это нормально: стоимость аренды вашего права на получение дневной доли монет UBI будет равна стоимости дневной доли монет UBI. Но в таких приложениях, как голосование, простая продажа билетов является большой проблемой.
Такие системы, как MACI, могут помешать вам достоверно продать свой голос, позволяя вам отдать еще один голос позже, аннулируя ваш предыдущий голос, так что никто не сможет узнать, действительно ли вы проголосовали за него. Однако это не поможет, если взяткодатель контролирует ключ, который вам дали при регистрации.
Я вижу здесь два решения:
1. Запустите все приложение в MPC. Это также охватывает процесс перерегистрации: когда человек регистрируется в MPC, MPC присваивает ему идентификатор, который является отдельным и не связанным с его идентификационным идентификатором, а когда человек перерегистрируется, только MPC знает, какой из учетных записей деактивировать. . Это не позволяет пользователям подтверждать свои действия, поскольку каждый важный шаг выполняется внутри MPC с использованием частной информации, известной только MPC.
2. Децентрализованная церемония регистрации. По сути, реализуйте протокол, аналогичный протоколу личной регистрации ключей, который требует, чтобы четыре случайно выбранных локальных участника совместно зарегистрировали кого-либо. Это гарантирует, что регистрация является «доверенным» процессом, который злоумышленники не смогут отследить.
Системы на основе социальных графов могут на самом деле работать здесь лучше, поскольку они могут автоматически создавать локальный децентрализованный процесс регистрации как побочный продукт своей работы.
Чем биометрия отличается от другого ведущего кандидата для подтверждения личности (проверка на основе социальных графов)?
Помимо биометрических методов, основным претендентом на доказательство личности на данный момент является проверка на основе социальных графов. Все системы проверки на основе социальных графов работают по одному и тому же принципу: если существует несколько существующих проверенных личностей, которые подтверждают действительность вашей личности, то вы, вероятно, действительны и также должны получить подтвержденный статус.
Сторонники аутентификации на основе социальных графов часто описывают ее как лучшую альтернативу биометрии по следующим причинам:
● Он не требует специального оборудования, что упрощает развертывание.
● Это позволяет избежать постоянной гонки вооружений между производителями, пытающимися создать манекены, и сферами, которые необходимо обновлять, чтобы отказаться от таких манекенов.
● Нет необходимости собирать биометрические данные, больше защиты конфиденциальности.
● Это может быть более псевдонимным, потому что, если кто-то решит разделить свою интернет-жизнь на несколько личностей, отдельных друг от друга, обе личности могут быть проверены (но поддержание нескольких реальных и независимых личностей происходит за счет сетевых эффектов, и цена высока, поэтому это не то, что злоумышленник может сделать легко)
● Биометрические методы дают двоичную оценку «является человеком» или «не является человеком», что является хрупким: люди, которым случайно отказали, вообще не получат UBI и, возможно, не смогут участвовать в онлайн-жизни. Методы, основанные на социальных графах, могут давать более детальные числовые оценки, что, конечно, может быть немного несправедливо по отношению к некоторым участникам, но с меньшей вероятностью полностью «обезличивает» кого-либо.
Я отношусь к этим аргументам так, что я в целом с ними согласен! Это реальные преимущества подходов, основанных на социальных графах, и к ним следует относиться серьезно. Однако стоит также учитывать слабые стороны подходов, основанных на социальных графах:
● Рекомендации: чтобы пользователь мог присоединиться к системе на основе социальных графов, он должен знать кого-то, кто уже присутствует в графе. Это затрудняет массовое внедрение и рискует исключить целые регионы мира, которым не повезло во время первоначального процесса загрузки.
● Конфиденциальность. Хотя подходы, основанные на социальных графах, позволяют избежать сбора биометрических данных, они часто в конечном итоге раскрывают информацию о социальных отношениях человека, что может привести к большим рискам. Конечно, методы с нулевым разглашением могут смягчить это (см., например, предложение Барри Уайтхэта), но внутренние взаимозависимости в графиках и необходимость выполнения математического анализа на графиках делают достижение того же уровня сокрытия данных, что и биометрия, более сложной задачей.
● Неравенство: каждый человек может иметь только один биометрический идентификатор, но богатый человек с хорошими связями может использовать свои связи для создания множества идентификаторов. По сути, такая же гибкость может позволить системе, основанной на социальных графах, предоставлять несколько псевдонимов людям, которым действительно нужна эта функция (например, активистам), что также может означать, что более влиятельные люди и люди с хорошими связями могут получить больше, чем люди с меньшей властью. и лучшие связи имеют больше псевдонимов.
● Риск централизации: Большинству людей лень тратить время на то, чтобы сообщить интернет-приложениям, кто является реальным человеком, а кто нет. Поэтому существует риск того, что со временем система будет склоняться к «простому» подходу к натурализации, опирающемуся на централизованный орган власти, и что «социальный граф» пользователей системы фактически станет социальной картой, которую страны признают. кого как граждане – предоставляет нам централизованный KYC и ненужные дополнительные шаги.
Совместимы ли удостоверения личности с псевдонимами в реальном мире?
В принципе, доказательство личности совместимо с различными псевдонимами. Приложение спроектировано таким образом, что человек с одним идентификационным идентификатором может создать в приложении до пяти профилей, оставляя место для псевдонимных учетных записей. Вы даже можете использовать квадратичную формулу: N = $N² стоимости. Но будут ли они?
Однако пессимист может возразить, что наивно пытаться создать более безопасную для конфиденциальности форму удостоверения личности и надеяться, что она действительно будет принята правильно, потому что власть имущие не заботятся о конфиденциальности, и если могущественные силы однажды человеку дан инструмент, который он может использовать, чтобы получить больше информации о человеке, и он будет использовать его таким образом. Утверждается, что в таком мире единственный реалистичный подход, к сожалению, — это бросить песок в механизмы любого решения по идентификации и защитить мир цифровых хранилищ полной анонимности и сообществ с высоким уровнем доверия.
Я понимаю причины такого образа мышления, но меня беспокоит, что этот подход, даже в случае успеха, приведет к миру, в котором никто не сможет ничего сделать, чтобы противодействовать концентрации богатства и концентрации управления, потому что один человек всегда может притвориться, что быть 10 000. В свою очередь, такие централизованные точки власти легко захватываются власть имущими. Вместо этого я предпочитаю использовать более мягкий подход, при котором мы решительно выступаем за решения для проверки личности с строгой конфиденциальностью, возможно, даже включение механизма «N учетных записей за N²» на уровне протокола, если это необходимо, а также создание безопасных для конфиденциальности значений и Что-то, что имеет шанс быть принятым внешним миром.
Итак... что я думаю?
Идеальной формы доказательства характера не существует. Вместо этого у нас есть как минимум три разные методологические парадигмы, каждая из которых имеет свои уникальные сильные и слабые стороны. Сравнительная таблица может выглядеть так:
В идеале мы должны рассматривать эти три технологии как взаимодополняющие и объединять их все. Как показывает индийская компания Aadhaar, специализированная аппаратная биометрия имеет преимущество в плане безопасности в масштабе. Они очень слабы в децентрализации, хотя эту проблему можно решить, возложив ответственность на отдельные сферы. Универсальная биометрия сегодня легко внедряется, но ее безопасность быстро снижается и может работать еще 1-2 года. Системы, основанные на социальных графах и управляемые сотнями людей, социально близких к команде основателей, могут столкнуться с постоянным компромиссом: либо полностью пропустить большую часть мира, либо оказаться уязвимыми для атак внутри сообществ, которые они не видят. Однако система на основе социальных графов, созданная десятками миллионов владельцев биометрических удостоверений личности, действительно может работать. Биометрическое руководство может работать лучше в краткосрочной перспективе.
Все эти команды могут совершить множество ошибок, и существует неизбежная напряженность между коммерческими интересами и потребностями более широкого сообщества, поэтому важно сохранять максимальную бдительность. Как сообщество, мы можем и должны расширять зоны комфорта всех участников, когда дело касается технологий с открытым исходным кодом, требуя стороннего аудита и даже программного обеспечения, написанного третьими лицами, а также других сдержек и противовесов. Нам также нужно больше альтернатив в каждой из этих трех категорий.
В то же время важно признать проделанную работу: многие команды, использующие эти системы, продемонстрировали готовность относиться к конфиденциальности более серьезно, чем почти любая система идентификации, управляемая правительством или крупными корпорациями, и это успех, который мы должны продолжать. работать в направлении .
Проблема создания эффективной и надежной системы проверки личности, особенно в руках человека, далекого от существующего криптосообщества, кажется довольно сложной. Я определенно не завидую тем, кто пытается выполнить эту задачу, и, возможно, потребуются годы, чтобы найти работающую формулу. В принципе, концепция подтверждения личности кажется очень ценной, и хотя различные реализации имеют свои риски, отсутствие какого-либо доказательства личности также имеет свои риски: мир без доказательства личности, скорее всего, будет миром, в котором доминирует централизованная идентификация. решения, деньги, небольшие закрытые поселки или некоторая комбинация этих трех. Я с нетерпением ожидаю увидеть больший прогресс во всех типах сертификации персонажей и увидеть, как разрозненные подходы наконец объединятся в единое целое.