Я приехал в Берлин, чтобы заглянуть в будущее. Или, точнее, я поехал в Берлин, чтобы посмотреть – буквально посмотреть – на устройство, которое некоторые считают нашей лучшей надеждой на приручение и, возможно, использование будущих возможностей искусственного интеллекта. Другие видят то же самое устройство в виде ожившего эпизода «Черного зеркала», предназначенного для отслеживания и контроля за нами.

Я смотрю на «Сферу».

Сфера размером с шар для боулинга. Он хромированный, блестящий и гладкий. Мне приказано подойти ближе и посмотреть в черный круг, как вы всматриваетесь в аппарат у оптометриста. Затем Сфера использует систему инфракрасных камер, датчиков и нейронных сетей на базе искусственного интеллекта, чтобы сканировать мою радужную оболочку и убедиться, что да, на самом деле я человек.

И я далеко не первый, кто это делает. В настоящее время более двух миллионов человек посмотрели на Orb, флагманское устройство Worldcoin, проекта криптовалюты и искусственного интеллекта, соучредителями которого являются Сэм Альтман (генеральный директор OpenAI) и Алекс Блания, который сейчас является генеральным директором материнской компании Tools. для Человечества.

У Worldcoin смелая идея: ИИ будет продолжать совершенствоваться и в конечном итоге превратится в AGI (Advanced General Intelligence), то есть он умнее людей. Это будет способствовать скачку производительности. Это создаст богатство. И вместо того, чтобы это богатство было захвачено элитами, оно должно быть справедливо распределено среди всего человечества – буквально каждого – в форме UBI, или универсального базового дохода, который расширит возможности миллиардов людей. Этот UBI будет иметь форму криптовалюты. Эта криптовалюта — Worldcoin.

Достоинства UBI находили отклик у Альтмана на протяжении многих лет. «UBI мне интересен, даже если не говорить об ИИ», — говорит Альтман в недавнем интервью Zoom. «Это идея, которая нравится многим людям. Если у нас есть общество, достаточно богатое, чтобы покончить с бедностью, то у нас есть моральное обязательство выяснить, как это сделать».

Так может быть, магия ИИ сможет добиться успеха там, где грязь политики потерпела неудачу?  «В мире ИИ он [универсальный базовый доход] еще более важен по очевидным причинам», — говорит Альтман, добавляя, что он все еще ожидает, что в мире после ИИ будут рабочие места. «Но, А, я действительно думаю, что нам понадобится какая-то подушка безопасности во время перехода, и, Б, одна из причин энтузиазма по поводу ИИ заключается в том, что это более материально богатый мир».

Следуя этой логике, Worldcoin может стать ключом к раскрытию этого изобилия. Но есть одна загвоздка. Если цель состоит в том, чтобы в этом будущем с поддержкой ИИ свободно раздавать токены всем, как мы можем быть уверены, что раздаем добычу человеку, а не подделке на базе ИИ? (Это лишь вопрос времени, когда ИИ сможет смеяться над капчей.) Или что, если злоумышленники используют ИИ для создания нескольких кошельков и обмана системы?

Команда задумалась над проблемой. Они думали обо всех способах, которыми люди могут доказать, что они на самом деле люди. И рассмотрев все варианты, пришли к мучительному выводу. Им это не понравилось. «Нам действительно не хотелось этого делать», — говорит Блания. «Мы знаем, что это будет больно. Это будет дорого. Люди думают, что это странно».

Они решили, что у них нет выбора. Это было тревожно и противоречиво, а оптика — это буквально кошмар, но они считали, что это необходимо сделать: им нужно было подтвердить человечность с помощью биометрических данных. Блания, конечно же, говорит о Сфере. «По ряду причин мы не хотели идти по этому пути», — говорит он. «Но на самом деле это было единственное решение».

Это нерассказанная история этого решения и путешествие к выяснению, является ли это решением или проблемой.

Orb гладкий и минималистичный, без видимых элементов управления или ручек. Это похоже на то, что вы купили бы в магазине Apple. Это не совпадение, поскольку ведущим дизайнером Orb является Томас Мейерхоффер, который был первым сотрудником Apple, нанятым Джони Айвом. (Айв — легендарный дизайнер iMac, iPod и iPhone.) Orb должен был вызывать простоту. «Должно быть достаточно просто поговорить со всеми нами. Всем, по всему миру», — сказал однажды Мейерхоффер.

В берлинском офисе Блания показывает мне старые модели Orb и рассказывает истории о первых днях существования компании, когда они впервые возились с аппаратным обеспечением. Первоначально идея была задумана как «проект биткойнов» с целью бесплатного распространения биткойнов среди людей, как только они докажут свою человечность. Блания держит старую версию и посмеивается. У него есть слот, из которого выбрасываются физические монеты, почти как в перевернутой копилке. У него есть два глаза и рот.

Ранние Сферы даже разговаривали с вами. «Эта штука кричит на вас голосом робота», — вспоминает теперь Блания, забавляясь ностальгией. Он объясняет, что каждая из первых сфер могла содержать 15 физических монет (которые содержали ключи к реальному биткойну), и идея заключалась в том, что люди будут относиться к криптовалюте более серьезно, если будут держать что-то в руках. (Вскоре команда отказалась от этой идеи по очевидным причинам.) «Мы попробовали очень много вещей», — говорит Блания, — например, заставить Сферу вибрировать, когда она вам что-то говорит. Каждую неделю они выпускали новую версию Сферы, используя 3D-принтеры для быстрой доработки.

Читать далее: Недавно выпущенный токен WLD от Worldcoin вырос более чем на 20% на основных криптовалютных биржах

Блания — высокая, спортивная, 29-летняя девушка с детским лицом, одетая в джинсы и футболку. Он маловероятный генеральный директор. Он возглавляет один из самых амбициозных проектов на планете, но это его первая работа. Альтман назначил его генеральным директором и соучредителем после работы в Калифорнийском технологическом институте, где он исследовал нейронные сети и теоретическую физику. Блания признает, что вначале «если не считать технической глубины, я думаю, что я был плохим генеральным директором».

Итак, Альтман оказал ему помощь. «По сути, Сэм дал мне пару человек, с которыми я встречался каждую неделю», — говорит он. «По сути, каждую неделю они рассказывали мне, почему я плохо справляюсь со своей работой». Одним из таких тренеров генеральных директоров был Мэтт Мочари, который ранее тренировал Альтмана и Брайана Армстронга. Они обучали его основам управления, например, тому, как вести беседы один на один, как проводить собрания сотрудников и как выступать на публике.

У Блани нет хобби, если не считать поднятия тяжестей и медитации. Он делит свое время между Сан-Франциско и Берлином (два главных офиса Tools for Humanity), а в Берлине он начинает свой день в 9 утра, уходит из офиса в 22:00, а затем идет в спортзал. «Я стараюсь работать каждый час бодрствования».

В работу входят 50 штатных сотрудников, а некоторым было поручено создать новый криптокошелек с нуля. «Впечатление пользователей криптовалюты очень сложное», — говорит Тьяго Сада, руководитель отдела продуктов и разработок, с которым я также встречаюсь в берлинском офисе. Сада – еще один гений. (Таких много в кругах, занимающихся искусственным интеллектом.) Он вырос в Мексике и строил роботов вместе со своими друзьями, когда ему было 14 лет, затем запустил стартап «Venmo for Mexico», а позже встретил Альтмана в инкубаторе Y Combinator.

Сада изначально скептически относился к криптовалюте, потому что, по его мнению, было трудно заставить нетехнических людей легко зарегистрироваться. Когда он просил людей сделать что-то вроде загрузки расширения MetaMask, они терялись. Конечно, криптокошельки были эффективны для любителей криптовалют, но они не стали стартовой площадкой для многих из восьми миллиардов человек на планете. И основная идея Worldcoin — легко предоставить криптовалюту каждому, независимо от его технической подкованности. Что-то они могли сделать без осложнений. Что-то, что они могли сделать буквально в мгновение ока. Поэтому они создали WorldApp, который синхронизируется с Orb и обеспечивает практически мгновенную регистрацию.

Я попробовал это сам. В берлинском офисе я скачал приложение World App из App Store. Приложение синхронизировалось с The Orb, стоявшим на столе в конференц-зале. (Я предполагал, что Сфера будет стоять на каком-нибудь пьедестале в тронном зале. Увы.) Через несколько секунд я посмотрел на блестящий глобус, моя учетная запись была подтверждена, и теперь я стал счастливым обладателем 1 Worldcoin*. (*Это было бы невозможно, если бы я попробовал в США, где токены не выпускаются — по крайней мере, пока — по нормативным причинам.)

Процесс адаптации, по крайней мере для меня, прошел очень гладко. Это был, пожалуй, самый беспрепятственный ввод в эксплуатацию криптовалюты, который я когда-либо испытывал за свои пять с лишним лет работы в этой сфере, если вы готовы упустить из виду всю эту штуку со сканированием глазного яблока. (Подробнее об этом чуть позже.)

Одна из причин, по которой технология работает так гладко, — это использование искусственного интеллекта. И парадокс ИИ повсюду. Потенциальные последствия применения ИИ — как чудесные (рост производительности), так и вредоносные (глубокие фейки) — подкрепляют миссию компании, но в более повседневной жизни недавние достижения в области ИИ сделали работу инженеров более эффективной. «Worldcoin был бы невозможен без искусственного интеллекта», — говорит Сада. Множественные модели машинного обучения помогают привести в действие Сферу, и Сада говорит, что ИИ (фактически) начали обучать других ИИ, еще больше повышая их производительность.

И как ИИ тренируют ИИ?

«Люди думают, что нам нужно много данных для обучения алгоритмов», — говорит Сада. «На самом деле, многие из этих моделей позволяют нам генерировать синтетические данные». Точно так же, как вы можете использовать Dall-E для создания изображения Люка Скайуокера, забрасывающего баскетбольный мяч в стиле Караваджо — и оно возвращается через несколько секунд, — инженеры могут использовать ИИ для создания моделирования данных. «Это позволяет нам использовать значительно меньше данных», — говорит Сада. «Вот почему мы можем по умолчанию удалить все данные [биометрические данные и радужную оболочку глаз]».

Мне кажется привлекательной формулировка истории так: «Создать проблему здесь, решить проблему там». Я думаю об этом иначе.

Это подводит нас к неприятному вопросу, который преследует Worldcoin с момента его создания: что именно Worldcoin делает с помощью этих сканирований глазного яблока? Как только Альтман представил The Orb через Twitter в октябре 2021 года, на него набросились критики и скептики. «Не каталогизируйте глазные яблоки», — предостерег Эдвард Сноуден в своем твиттере. «Не используйте биометрию для борьбы с мошенничеством. На самом деле, ни для чего не используйте биометрию».

Сноуден признал, что проект использовал ZK-Proofs для сохранения конфиденциальности, но настаивал: «Отлично, умно. Все равно плохо. Человеческое тело — это не билетный пунш». Как написал мой коллега по CoinDesk Дэвид З. Моррис, «чрезвычайно и по своей сути рискованно для частной компании собирать такого рода биометрические данные обо всех на Земле», и это, кстати, название устройства «Сфера» — с тяжелые обертоны глаза Саурона — «ужасны до чертиков».

Блания, Сада и другие представители Worldcoin много-много раз сообщали мне, что Orb не собирает биометрические данные глазных яблок или, по крайней мере, не собирает, если пользователь явно не разрешит это. «Конфиденциальность — это фундаментальное право человека. Каждая часть системы Worldcoin была тщательно разработана для ее бескомпромиссной защиты. Мы не хотим знать, кто вы, мы просто хотим знать, что вы уникальны», — говорится в заявлении о конфиденциальности компании. (Тем не менее, некоторые данные собираются, если пользователь это разрешает. По умолчанию данные не собираются; пользователи могут изменить это и разрешить их сохранение, что, по словам Worldcoin, используется с узкой целью улучшения его алгоритма. Почему пользователи изо всех сил стараются сделать это выше моего понимания.)

«Самая крутая и очень сложная вещь», — говорит Сада, — это то, что Сфера выполняет все свои расчеты и проверки локально, чтобы проверить, являетесь ли вы уникальным человеком, а затем генерирует уникальный «код радужной оболочки». Думайте о своем World ID как о паспорте, говорит Сада, и все, что делает Сфера, — это ставит штамп в вашем паспорте, чтобы подтвердить, что он действителен. Он еще раз подчеркивает, что никакой карты глазного яблока не получено. Это просто код, который говорит, что вы уникальный человек, а не ваш возраст, раса, пол или цвет глаз.

(В день публичного запуска Worldcoin Виталик Бутерин написал подробный пост в блоге, в котором ставил под сомнение его претензии на конфиденциальность. Он отметил опасения, но дал ему достойную оценку. «В целом, несмотря на «антиутопическую атмосферу» взгляда на Сферу и позволения он глубоко сканирует ваши глаза, и кажется, что специализированные аппаратные системы могут вполне прилично защитить конфиденциальность», — заключил он. «Однако обратной стороной этого является то, что специализированные аппаратные системы создают гораздо большие проблемы с централизацией. Следовательно, мы. шифропанки, кажется, застряли в безвыходном положении: нам приходится обменивать одну глубоко укоренившуюся ценность шифропанка на другую».)

Как только пользователи получат свой WorldID, который, как утверждает Worldcoin, сохраняет конфиденциальность, его можно будет использовать в будущем как своего рода ключ для доступа к другим приложениям и веб-сайтам, таким как Twitter или ChatGPT. Они уже балуются этой функцией. WorldID недавно объявила об интеграции с Okta, немецким поставщиком услуг управления идентификацией и доступом, и в разработке находятся новые партнерские отношения.

WorldID — это форма независимой идентификации (некоторое время назад я подробно рассмотрел SSID), которая сама по себе является Святым Граалем для многих в пространстве Web3. В радужном и лучшем сценарии Orb может обеспечить масштабирование SSID и UBI для миллиардов людей, вырвав онлайн-идентичность у централизованных корпоративных титанов, и помочь бедным, маргинализированным сообществам получить больший доступ к финансовым возможностям. Это видение.

Читать далее: Бутерин из Ethereum выражает обеспокоенность по поводу Worldcoin Сэма Альтмана

Но кто за это платит? В текущей конфигурации системы после регистрации в Orb вы можете каждую неделю требовать 1 Worldcoin. Это раннее ядро ​​UBI. Кто оплачивает счета за этот токен, который внезапно появится в кошельках (или глазах) каждого жителя планеты? С одной стороны, конечно, есть прецедент, когда криптовалюта входит в мир как по волшебству, а затем в конечном итоге приобретает ценность. Приложение А: Биткойн. Опять же, часть ценности биткойна заключается в том, что он дефицитен, а его ограниченное количество составляет 21 миллион.

Токеномика

Токеномика Worldcoin более размыта.

Джесси Уолден, один из первых инвесторов проекта и генеральный партнер Variant, признает, что вопрос «кто платит» — это хороший вопрос, но говорит: «Я не знаю, есть ли сейчас какой-то однозначный ответ или что необходимо быть." По его мнению, «у большинства стартапов изначально нет четкой бизнес-модели», и они обычно фокусируются на росте, а рост сети в конечном итоге порождает варианты использования и ценность.

У Альтмана есть более прагматичный ответ. В краткосрочной перспективе, говорит Альтман, «есть надежда, что, поскольку люди захотят покупать этот токен, поскольку они верят, что это будущее, в эту экономику будет приток средств. Новые покупатели токенов — это то, за что эффективно платят». (Если вы чувствуете себя менее милосердным, вы можете рассматривать это как еще один вариант криптовалютных спекуляций «Number Go Up».)

Долгосрочное и более грандиозное видение, конечно же, заключается в том, что плоды ОИИ принесут финансовое вознаграждение, которое можно будет даровать человечеству. (Отсюда и название материнской компании Worldcoin — Tools for Humanity.) Как это происходит, остается только догадываться. «В конце концов, в мире после ОИИ можно представить самые разные вещи», — говорит Альтман, — «но у нас нет конкретных планов на этот счет. На данном этапе речь идет не об этом».

Мир будет двигаться вперед. По мере того как мир движется вперед, игровое поле меняется

На планете мало людей, которые лучше подготовлены к представлению мира после ОИИ, чем Альтман, который находится на любопытном пересечении этих двух проектов ИИ. Он, возможно, является самым важным игроком в развитии ИИ, и теперь он является соучредителем проекта, призванного, по крайней мере частично, служить сдерживанием демонов ИИ. Хотя он этого не видит. «Мне кажется привлекательным сформулировать историю так: «Создать проблему здесь, решить проблему там». Я об этом не так думаю», — говорит он.

Вот как он это формулирует. «Мир будет двигаться вперед. По мере того, как мир движется вперед, игровое поле меняется», — говорит Альтман. «И есть целая куча вещей, которые должны произойти, но это не похоже на решение проблемы. Это больше похоже на совместно развивающуюся экосистему. Я не думаю об одном как об ответе на другое». (Я буду первым, кто признает, что Альтман может кружить вокруг меня интеллектуально, и он кажется мне серьезным и имеющим благие намерения, но я нахожу этот ответ сбивающим с толку. На самом деле кажется, что один проект является очевидным ответ другому.)

Я задаю Альтману тот же вопрос, который задал Блании в нашем первом разговоре: как будет выглядеть мир, если Worldcoin полностью преуспеет, и все пойдет не так? Допустим, к нам присоединились миллиарды пользователей, и финансовая прибыль от AGI справедливо распределяется между всеми. Каково это будущее? В каком-то смысле это еще один способ спросить: какой во всем этом смысл?

«Я думаю, что мы все просто станем лучшей версией того, на что надеемся», — говорит Альтман. «Больше индивидуальной автономии и свободы действий. Больше времени. Больше ресурсов для дел». Он говорит быстро и без колебаний; это идеи, которые он обдумывал годами. «Как и при любой технологической революции, люди придумывают удивительные новые вещи, которые можно сделать друг для друга… Но это совсем другой и гораздо более захватывающий мир».

И какие самые большие риски и проблемы на пути реализации этого видения? Альтман считает, что «преждевременно говорить о больших проблемах», но признает, что OpenAI и Worldcoin «очень далеки от работы» и что «нам предстоит еще много работы».

Эта гора работы включает в себя развертывание Сферы в поле. И здесь все становится рискованно.

Поле

Цель сканирования восьми миллиардов глазных яблок невероятно амбициозна. С точки зрения перспективы, было бы сложной логистической задачей предоставить каждому жителю планеты бесплатную горсть конфет, даже без каких-либо биометрических данных. Как добраться до отдаленных районов? Как безопасно перевезти драгоценные сферы? Как вы объясните эту сложную взаимосвязь между надвигающимися возможностями AGI, необходимостью UBI и достоинствами криптовалюты?

По сути, идея такова: «Эй, получи немного бесплатной криптовалюты!»

Это сообщение со временем было уточнено, дополнено и дополнено нюансами, но это основная зацепка: вы можете подписаться на бесплатную криптовалюту, и с помощью этой сферы мы доказываем, что вы нигде раньше не регистрировались.

Рассмотрим самые первые полевые испытания Блании, которые напоминают что-то из комедии Джадда Апатоу. В парке в Германии Блания взяла Сферу и стала искать людей, к которым можно было бы подойти. Он заметил двух молодых женщин. Должен ли он с ними поговорить? Команда Worldcoin наблюдала за происходящим издалека. (В берлинском офисе Блания находит в своем телефоне фотографию, сделанную кем-то, и показывает ее мне; на ней чувствуется атмосфера нервного парня в баре, собирающего смелость флиртовать.)

Вернувшись в немецкий парк, они все еще находились на заре «биткойн-проекта». Итак, Блания подошел к одной из женщин, показал ей Сферу и сказал, что это может помочь дать ей бесплатные биткойны. «Единственное, что делает это устройство, — сказал он ей, — это гарантирует, что вы получите его [биткойн] только один раз, но вы получаете биткойны, и вы должны быть этому рады».

Подробнее: Джефф Уилзер — Сфера, жетон и деньги для всех: генеральный директор Worldcoin о самом смелом проекте Crypto

У женщины был простой ответ. "Вы с ума сошли?"

Она решила не сканировать радужную оболочку, но не все было потеряно, как вызвалась ее подруга.

Блания говорит с полуулыбкой: «На самом деле, я думаю, она просто нашла меня милой».

Это не так уж и удивительно; Блания красивый парень. Он также обаятелен и умен и может ясно и убедительно говорить о преимуществах, нюансах и смысле существования Worldcoin (кого бы это не впечатлило?). Но как масштабировать Алекса Бланию? Возможно, если бы Бланию удалось клонировать, он смог бы лично взять на борт все 8 миллиардов человек. (Я смиренно предлагаю «клонировать» как еще один стартап Сэма Альтмана.)

Но в нашей неклонированной реальности вначале Блания и небольшая команда просто таскали Сферу по улицам Берлина, показывая ее людям и пытаясь объяснить на лету. «Это была буквально первая книга», — говорит Блания. «Люди подходили к нам, потому что это блестящий хромированный шар, и спрашивали: «Что это за черт?»»

Это были первые сферы, которые разговаривали с пользователем странным роботизированным голосом, приказывая ему двигаться ближе или дальше, а может быть, и влево. (С тех пор команда сделала множество изобретений для автоматизации процесса.) Голос робота сбивал с толку и забавлял зрителей, а иногда они смеялись и делали селфи со Сферой.

Проблемы неоколониализма

Менее забавными были первые попытки вербовки пользователей в Найроби, Судане и Индонезии. В апреле 2022 года MIT Technology Report опубликовал статью объемом в 7000 слов под названием «Обман, эксплуатируемые работники и раздача денег: как Worldcoin завербовал свои первые полмиллиона тестовых пользователей». Сценаристы утверждают, что, несмотря на высокие амбиции проекта, «пока все, что было сделано, — это создать биометрическую базу данных на основе тел бедняков».

В резком отчете рассказывается о некачественной операции, изобилующей дезинформацией, утечками данных и неисправными шарами. «Наше расследование выявило большие разрывы между публичными сообщениями Worldcoin, направленными на защиту конфиденциальности, и тем, что испытывали пользователи», — пишут Эйлин Го и Ади Ренальди. «Мы обнаружили, что представители компании использовали мошеннические маркетинговые методы, собрали больше личных данных, чем было признано, и не смогли получить значимое информированное согласие».

Я спрашиваю Бланию и Альтмана об изобличающих сообщениях. «Первое, что нужно понять, это то, что эта статья вышла до того, как компания вышла из серии А», — говорит Блания. Он признает, что это не оправдание, но подчеркивает, что проект находился в зачаточном состоянии и с тех пор «буквально все изменилось», появились более жесткие операции и протоколы. «Я не могу вспомнить ни одной вещи, которая была бы одинаковой», — говорит он. Противоположностью этому противодействию, конечно же, является то, что сама возможность подобных ошибок – какими бы благими намерениями ни руководствовалась команда – вызывает у людей тошноту при обмене своими биометрическими данными.

Блания также недоволен тем, что эта статья была оформлена как (по его словам) «колониалистский подход, заключающийся в попытке просто подписать бедных людей во всем мире». Он говорит, что это вводит в заблуждение, поскольку более 50% регистраций в то время поступали из более богатых стран, таких как Норвегия, Финляндия и европейские страны. Их целью было протестировать регистрацию как в развитых, так и в развивающихся регионах, в жарком и холодном климате, в городах и сельской местности, чтобы лучше понять, что работает, а что нет.

Альтман считает ошибки естественными проблемами роста любой крупномасштабной операции. «При работе с любой новой системой на начальном этапе вы столкнетесь с некоторым мошенничеством», — говорит Альтман. «Это одна из причин, по которой мы занимаемся этим уже долгое время [в этот] медленный период бета-тестирования. Чтобы понять, как система может столкнуться со злоупотреблениями и как мы собираемся бороться с этим. Я не знаю ни одной системы такого масштаба и такого уровня амбиций, в которой вообще не было бы проблем с мошенничеством. Мы хотим подумать об этом».

Одним из таких смягчающих мер было изменение способа вознаграждения операторов Orb. В настоящее время на местах действуют от 200 до 250 активных Сфер и примерно два десятка операторов Сфер, каждый из которых нанимает свои собственные подгруппы помощников на местах. Вначале Worldcoin платил операторам просто за количество регистраций, что приводило к неряшливым и некачественным практикам.

Блания говорит, что операторов теперь стимулирует не только количество, но и качество регистраций, а также то, насколько хорошо пользователи понимают, что происходит; через несколько недель после сканирования Orb операторам будут платить больше, если пользователи действительно используют Worldapp. (Основной способ «использования» Worldapp прямо сейчас — это получение вашего 1 еженедельного Worldcoin.) Я разговаривал с двумя операторами в Испании, Гонсало Ресио и Хуаном Чаконом, которые в значительной степени подтвердили этот новый протокол. Однако остается открытым вопрос, внимательно ли следят за этим процессом во всем мире.

Я не знаю ни одной системы такого масштаба и такого уровня амбиций, в которой вообще не было бы проблем с мошенничеством.

Как люди могут поверить, что Worldcoin действительно решил проблемы? Альтман слышит вопросы и знает, что ему вряд ли удастся победить скептиков. Он сомневается, что у него есть какие-либо ответы, которые удовлетворили бы его, и, похоже, его это устраивает. Он считает, что более убедительные ответы дадут не он, Блания или компания, а первые пользователи Worldcoin. «Вы можете попробовать ответить на кучу вопросов и проделать все эти вещи, но на самом деле это не так», — говорит Альтман.

«Что действительно работает, — говорит он, — так это первый миллион человек, первые последователи, люди, стремящиеся вперед — убедить следующие десять миллионов. Тогда следующие десять миллионов будут ближе к норме. И они убеждают следующие сто миллионов. И это действительно нормальные люди, которые убеждают остальные несколько миллиардов».

Политика и будущее

В нашем первом разговоре Блания сказал мне, что если WorldID и UBI Worldcoin будут полностью приняты в масштабе, это будет «вероятно, один из самых глубоких технологических сдвигов, которые когда-либо происходили». Если это действительно так, не создаст ли это новый сложный набор правовых, политических и даже экзистенциальных вопросов, с которыми правительствам придется считаться?

Когда я заканчиваю сеанс в берлинском офисе, меня не дает покоя последний вопрос. Такое ощущение, что проект настолько амбициозен, настолько диок, настолько преобразующий – по крайней мере, в теории – что власть предержащие не до конца учли последствия. Если человечество будет получать компенсацию не за счет своего труда, а за счет щедрости от ОИИ, не будет ли это означать фундаментальный сдвиг в устройстве мира? И разве правительства не будут настаивать на регулировании этого? Если предположить, что ответ положительный, как Worldcoin решает этот вопрос?

Блания откидывается на спинку стула, вытягивает длинные ноги и на мгновение задумывается. «Очевидно, это важный вопрос для обсуждения», — говорит он. «Я начну с того, что сейчас волнует меня. А то, что такое высший разум, на самом деле гораздо менее сложно, чем все то, что вы только что упомянули». По словам Блании, они сосредоточены на основной проблеме нормативной неопределенности в США. Worldcoin «скорее всего, станет крупнейшим внедрением криптовалюты, которое когда-либо видел мир», — говорит Блания. «Итак, если вам не нравится криптовалюта…»

Альтман отвергает идею о том, что политики невежественны или прятали голову в песок. «Я посетил 22 страны и встретился со многими мировыми лидерами, и люди понимают это гораздо больше, чем я думал, и относятся к этому очень серьезно», — говорит он. (Неясно, имеет ли он в виду под «этим» конкретные амбиции Worldcoin или более широкие проблемы, связанные с искусственным интеллектом.) «Сейчас я трачу все больше времени не на технические вещи, — говорит он, — а на политические вызовы». В конечном счете, Альтман говорит: «Чтобы мир смог достичь хорошего результата благодаря всему этому, должно быть решение, состоящее из двух частей: технологии и политики вместе. А политическая часть в каком-то смысле может оказаться более сложной».

Препятствия со стороны политики — это один из рисков для Worldcoin. Недостаточно быстрое масштабирование представляет собой риск для Worldcoin. Дополнительные ошибки в этой области, подобные тем, которые отмечены в технологическом отчете MIT, создают еще один риск. Или потенциальная утечка данных радужной оболочки глаза. Или провал токеномики. Или подрыв доверия, который сдерживает будущие регистрации. Или логистические проблемы, связанные с доставкой Сферы в самые сложные уголки мира. Или технологические и производственные сбои. Или откровения о том, что Сферы каким-то образом были скомпрометированы. (Как отметил Виталик Бутерин: «Сфера — это аппаратное устройство, и у нас нет возможности проверить, правильно ли она сконструирована и не имеет бэкдоров».)

Или, может быть, Worldcoin никогда не стоит больше нескольких пенни, так что никого это не волнует. На невероятно долгом пути к широкому распространению Worldcoin существует множество рисков, и проект остается неудачным.

Но самый большой риск, по мнению мозгового треста компании, не связан с риском самого Worldcoin. Самый пугающий риск для них заключается в том, что будет разработано что-то вроде биометрического WorldID, только не в таком виде, который будет открытым или сохраняющим конфиденциальность.

Первоначальная логика Альтмана, которую он сформулировал задолго до того, как ChatGPT стал мейнстримом, остается убедительной: в конце концов ИИ станет настолько хорошим, что сможет легко притворяться человеком, поэтому нам понадобится способ доказать свою человечность. Возможно, биометрическое доказательство неизбежно. Кто должен быть проводником этого решения?  «Необходимо создать что-то вроде WorldID», — говорит Блания. «Вам нужно будет подтвердить свою личность онлайн. Что-то подобное произойдет. И путь по умолчанию заключается в том, что он не онлайн по своей природе, не сохраняет конфиденциальность и фрагментирован правительством и странами».

Эта версия биометрической проверки, не предполагающая конфиденциальности, для Блании является настоящим эпизодом «Черного зеркала». «Это путь по умолчанию», — говорит он. «Я думаю, что Worldcoin — единственный возможный путь».