J'ai voyagé à Berlin pour regarder vers l'avenir. Ou, plus précisément, je me suis rendu à Berlin pour observer – littéralement – ​​un appareil que certains considèrent comme notre meilleur espoir d’apprivoiser, et peut-être d’exploiter, les futurs pouvoirs de l’IA. D’autres voient ce même appareil comme un épisode de Black Mirror qui a pris vie, conçu pour nous suivre et nous contrôler.

Je regarde « The Orb ».

L'Orbe a à peu près la taille d'une boule de bowling. C’est chromé, brillant et lisse. On me demande de me rapprocher et de regarder dans un cercle noir, comme on regarde dans une machine chez l’optométriste. L'Orb utilise ensuite un système de caméras infrarouges, de capteurs et de réseaux neuronaux alimentés par l'IA pour scanner mon iris et vérifier que oui, en fait, je suis un être humain.

Et je ne suis pas le premier à le faire. Plus de deux millions d’humains ont désormais posé leurs yeux sur l’Orb, l’appareil phare de Worldcoin, le projet crypto-mêlant intelligence artificielle cofondé par Sam Altman (PDG d’OpenAI) et Alex Blania, aujourd’hui PDG de la société mère Tools for Humanity.

Worldcoin a une prémisse audacieuse : l’IA va continuer à s’améliorer et finira par évoluer vers l’AGI (Advanced General Intelligence), ce qui signifie qu’elle est plus intelligente que les humains. Cela stimulera les bonds en avant en matière de productivité. Cela créera de la richesse. Et au lieu que cette richesse soit accaparée par les élites, elle devrait être distribuée équitablement à toute l’humanité – littéralement à tout le monde – sous la forme d’un revenu de base universel, qui permettra à des milliards de personnes de s’épanouir. Ce revenu de base universel se présentera sous la forme d’une cryptomonnaie. Cette cryptomonnaie, c’est Worldcoin.

Les mérites du revenu universel trouvent un écho chez Altman depuis des années. « Le revenu universel m’intéresse même sans parler d’IA », a-t-il déclaré lors d’une récente interview sur Zoom. « C’est une idée qui plaît à beaucoup de gens. Si nous avons une société suffisamment riche pour mettre fin à la pauvreté, alors nous avons l’obligation morale de trouver comment y parvenir. »

Alors peut-être que la magie de l’IA peut réussir là où la boue de la politique a échoué ? « Dans un monde d’IA, elle [le revenu de base universel] est encore plus importante, pour des raisons évidentes », déclare Altman, qui ajoute qu’il s’attend toujours à ce qu’il y ait des emplois dans un monde post-IA. « Mais, A, je pense que nous allons avoir besoin d’une sorte de coussin pendant la transition, et B, une partie de la raison pour laquelle nous sommes enthousiasmés par l’IA est que c’est un monde plus abondant sur le plan matériel. »

Selon cette logique, Worldcoin pourrait être la clé pour débloquer cette abondance. Mais il y a un hic. Si l’objectif est de distribuer gratuitement des jetons à tout le monde, dans ce futur où l’IA est reine, comment pouvons-nous être sûrs que nous distribuons le butin à un humain et non à un faux IA ? (Ce n’est qu’une question de temps avant que l’IA puisse se moquer du captcha.) Et si des acteurs malveillants utilisaient l’IA pour créer plusieurs portefeuilles et tromper le système ?

L’équipe a réfléchi au problème. Elle a réfléchi à toutes les façons dont les humains pourraient prouver qu’ils sont réellement humains. Et après avoir envisagé toutes les options, elle est arrivée à une conclusion déchirante. Elle ne leur a pas plu. « Nous ne voulions vraiment pas faire ça », explique Blania. « Nous savons que ce sera douloureux. Cela va coûter cher. Les gens trouvent ça bizarre. »

Ils ont décidé qu’ils n’avaient pas le choix. C’était troublant et controversé, et l’image qu’on en a est littéralement un cauchemar, mais ils ont pensé que cela devait être fait : ils devaient vérifier l’humanité à l’aide de données biométriques. Blania parle, bien sûr, de l’Orb. « Pour un certain nombre de raisons, nous ne voulions pas emprunter cette voie », dit-il. « Mais c’était vraiment la seule solution. »

Voici l’histoire méconnue de cette solution, et un voyage pour découvrir si c’est une solution ou un problème.

L’Orb est élégant et minimaliste, sans commandes ni boutons visibles. Il ressemble à un produit que l’on achèterait dans un Apple Store. Ce n’est pas une coïncidence, car le concepteur principal de l’Orb est Thomas Meyerhoffer, qui a été le premier employé de Jony Ive chez Apple. (Ive est le légendaire concepteur de l’iMac, de l’iPod et de l’iPhone.) L’Orb était censé évoquer la simplicité. « Il doit être suffisamment simple pour parler à chacun d’entre nous. À tout le monde, partout dans le monde », a déclaré Meyerhoffer un jour.

Dans le bureau de Berlin, Blania me montre des modèles plus anciens de l’Orb et me raconte des anecdotes sur les débuts de l’entreprise, lorsqu’ils ont commencé à bricoler le matériel. L’idée a été conçue à l’origine sous le nom de « projet Bitcoin », avec pour objectif de distribuer gratuitement des bitcoins aux gens une fois qu’ils auraient prouvé leur humanité. Blania montre une version plus ancienne et rigole. Elle est dotée d’une fente qui crache des pièces physiques, presque comme une tirelire inversée. Elle a deux globes oculaires et une bouche.

Les premiers Orbs vous parlaient même. « Cet objet vous crie dessus avec une voix de robot », se souvient Blania, amusé par cette nostalgie. Il explique que chacun des premiers Orbs pouvait contenir 15 pièces physiques (qui contenaient les clés du bitcoin réel), et que l’idée était que les gens prendraient la cryptomonnaie plus au sérieux s’ils tenaient quelque chose dans leur main. (L’équipe a rapidement abandonné cette idée pour des raisons évidentes.) « Nous avons simplement essayé tellement de choses », explique Blania, comme faire vibrer l’Orb lorsqu’il vous disait quelque chose. Chaque semaine, ils produisaient une nouvelle version de l’Orb, en utilisant des imprimantes 3D pour itérer rapidement.

Lire la suite : Le jeton WLD récemment lancé par Worldcoin connaît une hausse de plus de 20 % sur les principales bourses de crypto-monnaies

Blania est un jeune homme de 29 ans, grand, athlétique, au visage poupin, vêtu d’un jean et d’un t-shirt. C’est un PDG improbable. Il dirige l’un des projets les plus ambitieux de la planète, mais il s’agit de son tout premier emploi. Altman l’a choisi pour être PDG et cofondateur après son passage à CalTech, où il a fait des recherches sur les réseaux neuronaux et la physique théorique. Blania admet qu’au début, « à part ma profondeur technique, je pense que j’étais un mauvais PDG ».

Altman lui a donc apporté son aide. « Sam m’a donné quelques personnes que je rencontrais chaque semaine », dit-il. « Elles m’expliquaient en gros, chaque semaine, les points sur lesquels je faisais du mauvais travail. » L’un de ces coachs de PDG était Matt Mochary, qui avait auparavant coaché ​​Altman et Brian Armstrong. Ils lui ont appris les bases du management, comme la conduite de réunions individuelles, la gestion de réunions d’équipe et la prise de parole en public.

Blania n’a pas de passe-temps, à part l’haltérophilie et la méditation. Il partage son temps entre San Francisco et Berlin (les deux principaux bureaux de Tools for Humanity) et, à Berlin, il commence sa journée à 9 heures, quitte le bureau à 22 heures et se rend ensuite à la salle de sport. « J’essaie de travailler à chaque heure de la journée. »

Le travail consiste à diriger 50 employés à temps plein, et certains ont été chargés de créer un nouveau portefeuille de crypto-monnaies à partir de zéro. « L’expérience utilisateur des crypto-monnaies est très difficile », explique Tiago Sada, responsable des produits et de l’ingénierie, que je rencontre également au bureau de Berlin. Sada est un autre génie. (Il y en a beaucoup dans les cercles de l’IA.) Il a grandi au Mexique et a construit des robots avec ses amis à l’âge de 14 ans, puis a lancé une startup « Venmo for Mexico », et a ensuite rencontré Altman à l’incubateur Y Combinator.

Au départ, Sada était sceptique à l’égard des cryptomonnaies car, selon lui, il était difficile de convaincre les personnes non techniques de s’inscrire facilement. Lorsqu’il demandait aux gens de faire des choses comme télécharger une extension MetaMask, ils étaient perdus. Bien sûr, les portefeuilles cryptographiques étaient efficaces pour les curieux de cryptomonnaies, mais ils étaient un échec pour une grande partie des huit milliards d’habitants de la planète. Et l’une des idées fondamentales de Worldcoin est de mettre les cryptomonnaies à la disposition de tous, facilement, quelle que soit leur maîtrise de la technologie. Quelque chose qu’ils pourraient faire sans complications. Quelque chose qu’ils pourraient faire, littéralement, en un clin d’œil. Ils ont donc créé WorldApp, qui se synchronise avec l’Orb et permet une intégration quasi instantanée.

J'ai essayé moi-même. Dans mon bureau de Berlin, j'ai téléchargé l'application World depuis l'App Store. L'application s'est synchronisée avec l'Orb, qui se trouvait sur une table de salle de conférence. (J'avais imaginé que l'Orb serait assis sur un piédestal dans une salle du trône. Hélas.) Quelques secondes plus tard, j'ai regardé le globe brillant, mon compte a été vérifié et j'étais maintenant l'heureux propriétaire d'un Worldcoin*. (*Cela n'aurait pas été possible si j'avais essayé aux États-Unis, où ils ne déploient pas de jetons - du moins pas encore - pour des raisons réglementaires.)

Le processus d’intégration, du moins pour moi, s’est déroulé sans accroc. C’est sans doute l’intégration la plus fluide que j’ai connue en matière de crypto-monnaies au cours de mes cinq années et plus de carrière dans ce domaine, si vous êtes prêt à faire abstraction de toute cette histoire de « balayage du globe oculaire ». (Plus d’informations à ce sujet dans un instant.)

L’une des raisons pour lesquelles la technologie fonctionne si bien est l’adoption de l’IA. Et le paradoxe de l’IA est omniprésent. Les conséquences potentielles de l’IA – à la fois merveilleuses (gains de productivité) et malveillantes (contrefaçons profondes) – alimentent la mission de l’entreprise, mais au quotidien, les récents progrès de l’IA ont rendu les ingénieurs plus efficaces. « Worldcoin ne serait pas possible sans l’IA », déclare Sada. Plusieurs modèles d’apprentissage automatique contribuent à alimenter les entrailles de l’Orb, et Sada affirme que les IA ont (en effet) commencé à former d’autres IA, augmentant encore leur productivité.

Et comment les IA forment-elles les IA ?

« Les gens pensent que nous avons besoin de beaucoup de données pour entraîner les algorithmes », explique Sada. « En fait, beaucoup de ces modèles nous permettent de générer des données synthétiques. » Tout comme vous pouvez utiliser Dall-E pour créer une image de Luke Skywalker en train de faire un dunk de basket à la manière de Caravage – et le résultat revient en quelques secondes – les ingénieurs peuvent utiliser l’IA pour créer des simulations de données. « Cela nous permet d’utiliser beaucoup moins de données », explique Sada. « C’est pourquoi nous sommes en mesure, par défaut, de supprimer les données [biométriques et d’iris] de tout le monde. »

Je comprends l’intérêt de présenter l’histoire comme « créer le problème ici, résoudre le problème là-bas ». Ce n’est pas ainsi que je le conçois.

Cela nous amène à la question gênante qui taraude Worldcoin depuis sa création : que fait exactement Worldcoin avec ces scans de globes oculaires ? Dès qu'Altman a dévoilé The Orb sur Twitter en octobre 2021, les critiques et les sceptiques se sont précipités. « Ne cataloguez pas les globes oculaires », a averti Edward Snowden dans un fil de discussion sur Twitter. « N'utilisez pas la biométrie pour lutter contre la fraude. En fait, n'utilisez la biométrie pour rien. »

Snowden a reconnu que le projet utilisait des ZK-Proofs pour préserver la confidentialité, mais a insisté sur le fait que « c’est génial, intelligent. Mais c’est quand même mauvais. Le corps humain n’est pas un poinçon ». Comme l’a écrit mon collègue de CoinDesk, David Z. Morris, il est « spectaculairement et intrinsèquement risqué pour une entreprise privée de collecter ce type de données biométriques sur tout le monde sur Terre », et que, soit dit en passant, appeler cet appareil « l’Orbe » – avec de fortes connotations de l’œil de Sauron – est « terriblement flippant ».

Blania, Sada et d’autres personnes de Worldcoin m’ont fait savoir à maintes reprises que l’Orb ne recueille pas de données biométriques sur les globes oculaires, ou du moins pas à moins que l’utilisateur ne l’autorise explicitement. « La vie privée est un droit humain fondamental. Chaque partie du système Worldcoin a été soigneusement conçue pour la défendre, sans compromis. Nous ne voulons pas savoir qui vous êtes, juste que vous êtes unique », peut-on lire dans la déclaration de confidentialité de l’entreprise. (Cela dit, certaines données sont capturées si l’utilisateur l’autorise. Le paramètre par défaut est de ne pas capturer de données ; les utilisateurs peuvent modifier ce paramètre et autoriser leur stockage, ce qui, selon Worldcoin, est utilisé dans le seul but d’améliorer son algorithme. Je ne comprends pas pourquoi les utilisateurs se donnent la peine d’activer cette fonction.)

« Ce qui est vraiment cool, et ce qui est vraiment difficile », explique Sada, c’est que l’Orb gère tous ses calculs et vérifications localement pour vérifier que vous êtes un être humain unique, puis il génère un « code d’iris » unique. Considérez votre World ID comme un passeport, explique Sada, et tout ce que fait l’Orb, c’est tamponner votre passeport pour dire qu’il est valide. Il souligne à nouveau qu’aucune carte du globe oculaire n’est capturée. Il s’agit simplement d’un code qui dit que vous êtes un être humain unique – pas votre âge, votre race, votre sexe ou la couleur de vos yeux.

(Le jour du lancement public de Worldcoin, Vitalik Buterin a écrit un article de blog détaillé qui remettait en question ses revendications en matière de confidentialité. Il a soulevé des inquiétudes mais lui a attribué des notes décentes. « Dans l’ensemble, malgré l’ambiance « dystopique » de regarder dans un Orb et de le laisser scanner profondément vos globes oculaires, il semble que les systèmes matériels spécialisés peuvent faire un travail assez décent pour protéger la vie privée », a-t-il conclu. « Cependant, le revers de la médaille est que les systèmes matériels spécialisés introduisent des problèmes de centralisation beaucoup plus importants. Par conséquent, nous, les cypherpunks, semblons être coincés dans une impasse : nous devons échanger une valeur cypherpunk profondément ancrée contre une autre. »)

Une fois que les utilisateurs ont leur WorldID – qui, selon Worldcoin, préserve la confidentialité –, il peut être utilisé, à l’avenir, comme une sorte de passe-partout pour accéder à d’autres applications et sites Web, tels que Twitter ou ChatGPT. Ils s’intéressent déjà à cette fonctionnalité. WorldID a récemment annoncé son intégration avec Okta, un fournisseur allemand de gestion des identités et des accès, et d’autres partenariats sont en cours.

WorldID est une forme d’identité auto-souveraine (j’ai fait une étude approfondie sur le SSID il y a quelque temps), qui est en soi un Saint Graal pour beaucoup dans l’espace Web3. Dans le meilleur des cas, l’Orb pourrait permettre l’extension du SSID et du UBI à des milliards de personnes – arrachant l’« identité » en ligne aux titans centralisés des entreprises – et aider à donner aux communautés les plus pauvres et marginalisées un meilleur accès à l’autonomisation financière. C’est la vision.

Lire la suite : Buterin, PDG d’Ethereum, exprime ses inquiétudes concernant le Worldcoin de Sam Altman

Mais qui paie pour cela ? Le système est configuré de la manière dont il fonctionne actuellement : une fois que vous vous êtes inscrit à l’Orb, vous pouvez réclamer chaque semaine 1 Worldcoin. C’est le noyau du revenu de base universel. Qui paie la facture de ce jeton qui apparaîtra soudainement dans les portefeuilles (ou les yeux) de tout le monde sur la planète ? D’un côté, bien sûr, il existe un précédent pour une cryptomonnaie qui entre dans le monde comme par magie, et qui finit par accumuler de la valeur. Preuve A : le Bitcoin. Mais une partie de la proposition de valeur du bitcoin réside dans sa rareté, avec une offre plafonnée à 21 millions.

La tokenomics

La tokenomique de Worldcoin est plus floue.

Jesse Walden, l’un des premiers investisseurs du projet et associé général de Variant, reconnaît que la question de savoir « qui paie » est pertinente, mais il ajoute : « Je ne sais pas s’il existe une réponse unique et définitive à cette question pour le moment, ni s’il est nécessaire d’en avoir une. » Selon lui, « la plupart des startups n’ont pas de modèle économique défini dès le départ » et elles se concentrent généralement sur la croissance, et la croissance du réseau engendre à terme des cas d’utilisation et de la valeur.

Altman a une réponse plus pragmatique. À court terme, dit Altman, « l’espoir est que les gens voudront acheter ce jeton, parce qu’ils croient que c’est l’avenir, et qu’il y aura des entrées dans cette économie. Les nouveaux acheteurs de jetons sont la façon dont ils sont payés, en fait. » (Si vous vous sentez moins charitable, vous pourriez considérer cela comme une autre forme de spéculation sur les crypto-monnaies « Number Go Up »).

La vision à long terme et la plus ambitieuse est bien sûr que les fruits de l’AGI confèreront des récompenses financières qui pourront être accordées à l’humanité. (D’où le nom de la société mère de Worldcoin – Tools for Humanity.) Personne ne sait comment cela se produira. « On peut imaginer toutes sortes de choses dans le monde post-AGI », dit Altman, « mais nous n’avons pas de plans précis pour cela. Ce n’est pas de cela qu’il s’agit, à ce stade. »

Le monde va aller de l'avant. À mesure que le monde va aller de l'avant, les règles du jeu vont changer.

Peu de gens sur la planète sont mieux placés que lui pour imaginer un monde post-IAG, car il se situe à l’intersection curieuse de ces deux projets d’IA. Il est sans doute l’acteur le plus central du développement de l’IA, et il est aujourd’hui le cofondateur d’un projet destiné, au moins en partie, à servir de frein aux démons de l’IA. Même s’il ne voit pas les choses de cette façon. « Je comprends l’intérêt de présenter l’histoire comme “créer le problème ici, résoudre le problème là”. Ce n’est pas ainsi que je vois les choses », dit-il.

Voici comment il le présente. « Le monde va aller de l’avant. À mesure que le monde va aller de l’avant, les règles du jeu vont changer », explique Altman. « Et il y a tout un tas de choses qui devraient se produire, mais ce n’est pas comme un problème-solution. C’est plutôt comme un écosystème en co-évolution. Je ne pense pas que l’un soit une réponse à l’autre. » (Je serai le premier à admettre qu’Altman peut me faire tourner en bourrique intellectuellement, et il me semble sincère et bien intentionné, mais je trouve cette réponse déroutante. En fait, il semble qu’un projet soit une réponse claire à l’autre.)

Je pose à Altman la même question que j’ai posée à Blania lors de notre première conversation : à quoi ressemblera le monde si Worldcoin réussit pleinement et que tout se passe bien ? Supposons que des milliards d’utilisateurs aient été intégrés et que les gains financiers de l’AGI soient répartis équitablement entre tous. À quoi ressemblera cet avenir ? C’est une autre façon de se demander, en un sens, à quoi sert tout cela ?

« Je pense que nous sommes tous amenés à être la meilleure version de ce que nous espérons », déclare Altman. « Plus d’autonomie individuelle, plus de liberté d’action. Plus de temps. Plus de ressources pour faire les choses. » Il parle vite et sans hésitation ; ce sont des idées qu’il médite depuis des années. « Comme dans toute révolution technologique, les gens trouvent de nouvelles choses incroyables à faire les uns pour les autres… Mais c’est un monde très différent et beaucoup plus passionnant. »

Quels sont les plus grands risques et défis à relever pour concrétiser cette vision ? Altman pense qu’il est « prématuré de parler des grands défis », mais reconnaît qu’OpenAI et Worldcoin « sont encore très loin de fonctionner » et que « nous avons une montagne de travail devant nous ».

Cette montagne de travail comprend le déploiement de l'Orb sur le terrain. Et c'est là que les choses deviennent risquées.

Le terrain

L’objectif de scanner huit milliards de paires d’yeux est presque hilarant. Pour mettre les choses en perspective, ce serait un défi logistique de taille que de donner à chaque habitant de la planète une poignée de bonbons gratuits, même sans aucun lien biométrique. Comment atteindre les zones reculées ? Comment transporter en toute sécurité les précieux globes oculaires ? Comment expliquer cette relation compliquée entre les pouvoirs imminents de l’intelligence artificielle, le besoin de revenu universel et les mérites de la cryptomonnaie ?

Le pitch est essentiellement : Hé, obtenez de la crypto gratuite !

Ce message a été affiné, massé et nuancé au fil du temps, mais c’est l’accroche de base : vous pouvez vous inscrire pour obtenir des crypto-monnaies gratuites, et cet Orb est la façon dont nous prouvons que vous ne vous êtes inscrit nulle part auparavant.

Prenons le tout premier test sur le terrain de Blania, qui semble tout droit sorti d’une comédie de Judd Apatow. Dans un parc en Allemagne, Blania a pris l’orbe et a cherché des personnes à approcher. Il a repéré deux jeunes femmes. Devait-il leur parler ? L’équipe de Worldcoin les a observées à distance. (Dans le bureau de Berlin, sur son téléphone, Blania trouve une photo que quelqu’un a prise de la scène et me la montre ; elle donne l’impression d’un type dans un bar, nerveux, rassemblant son courage pour flirter.)

De retour dans le parc allemand, ils en étaient encore aux prémices du « projet Bitcoin ». Blania s’est donc approchée d’une des femmes, il lui a montré l’Orb et lui a dit que cela pourrait l’aider à obtenir des bitcoins gratuits. « La seule chose que fait cet appareil », lui a-t-il dit, « c’est de s’assurer que vous ne l’obtenez [le bitcoin] qu’une seule fois, mais vous obtenez des bitcoins et vous devriez être ravie de cela. »

Lire la suite : Jeff Wilser – Un orbe, un jeton et de l’argent pour tous : le PDG de Worldcoin parle du projet le plus audacieux de la cryptographie

La réponse de la femme fut simple : « Es-tu folle ? »

Elle a choisi de ne pas faire scanner son iris, mais tout n’était pas perdu, car son amie s’est portée volontaire.

Blania dit avec un demi-sourire : « Je pense qu’elle me trouve simplement mignonne, en fait. »

Ce n’est pas si surprenant : Blania est un bel homme. Il est également charmant et intelligent et peut parler clairement et de manière convaincante des avantages, des nuances et de la raison d’être de Worldcoin (qui ne serait pas impressionné ?). Mais comment faire évoluer Alex Blania ? Peut-être que si Blania pouvait être cloné, il pourrait personnellement intégrer les 8 milliards de personnes. (Je suggère humblement le « clonage » comme une autre startup de Sam Altman.)

Mais dans notre réalité non clonée, au début, Blania et une petite équipe se contentaient de trimballer l’Orb dans les rues de Berlin, de le montrer aux gens et d’essayer de l’expliquer au fur et à mesure. « C’était littéralement le manuel de base », explique Blania. « Les gens nous approchaient, parce que c’était une boule chromée brillante et ils se demandaient : « Mais c’est quoi ce bordel ? » »

Il s’agissait des premiers Orbes qui parlaient à l’utilisateur avec une étrange voix robotique, lui demandant de se rapprocher, de s’éloigner ou peut-être de se déplacer vers la gauche. (Depuis, l’équipe a fait une série d’inventions pour automatiser le processus.) La voix du robot déconcertait et amusait les spectateurs, qui riaient parfois et prenaient des selfies avec les Orbes.

Les enjeux du néocolonialisme

Les premières tentatives de recrutement d’utilisateurs à Nairobi, au Soudan et en Indonésie ont été moins amusantes. En avril 2022, le MIT Technology Report a publié un article de 7 000 mots intitulé « Tromperie, travailleurs exploités et distribution d’argent : comment Worldcoin a recruté son premier demi-million d’utilisateurs tests ». Les auteurs ont fait valoir que malgré les ambitions ambitieuses du projet, « jusqu’à présent, tout ce qu’il a fait, c’est construire une base de données biométrique à partir des corps des pauvres ».

Le rapport accablant relate une opération bâclée, truffée de désinformation, de lacunes dans les données et de dysfonctionnements des orbes. « Notre enquête a révélé de larges écarts entre le message public de Worldcoin, qui mettait l’accent sur la protection de la vie privée, et ce que les utilisateurs ont vécu », écrivent Eileen Guo et Adi Renaldi. « Nous avons constaté que les représentants de l’entreprise ont eu recours à des pratiques marketing trompeuses, ont collecté plus de données personnelles qu’elle ne l’a reconnu et n’ont pas obtenu de consentement éclairé significatif. »

J’interroge Blania et Altman sur ces rapports accablants. « La première chose importante à comprendre est que cet article a été publié avant que l’entreprise ne sorte de la série A », explique Blania. Il admet que ce n’est pas une excuse, mais souligne que le projet en était à ses débuts et que depuis lors, « littéralement tout a changé », avec des opérations et des protocoles plus stricts en place. « Je ne peux pas penser à une seule chose qui soit restée la même », dit-il. La contrepartie à cette affirmation, bien sûr, est que c’est la possibilité même d’erreurs comme celle-ci – quelle que soit la bonne volonté de l’équipe – qui rend les gens mal à l’aise à l’idée de partager leurs données biométriques.

Blania s’irrite également du fait que l’article ait été présenté comme (selon ses propres termes) « une approche colonialiste visant à inscrire uniquement les pauvres du monde entier ». Il estime que cette affirmation est trompeuse, car plus de 50 % des inscriptions, à l’époque, provenaient de pays plus riches comme la Norvège, la Finlande et les pays européens. Leur objectif était de tester les inscriptions dans les régions développées et en développement, dans les climats chauds et froids, en ville et en campagne, afin de mieux comprendre ce qui fonctionne et ce qui ne fonctionne pas.

Altman considère les faux pas comme des difficultés de croissance naturelles pour toute opération à grande échelle. « Pour tout nouveau système, vous serez confronté à une certaine fraude initiale », explique Altman. « C’est en partie la raison pour laquelle nous travaillons sur ce sujet depuis longtemps maintenant [en cette] période de bêta lente. Pour comprendre comment le système peut être confronté à des abus et comment nous allons atténuer ce problème. Je ne connais aucun système à cette échelle et à ce niveau d’ambition qui ne présente aucun problème de fraude. Nous voulons y réfléchir. »

L’une de ces mesures d’atténuation a consisté à modifier la manière dont les opérateurs Orb sont rémunérés. Il y a actuellement entre 200 et 250 Orb actifs sur le terrain, et environ deux douzaines d’opérateurs Orb qui embauchent chacun leurs propres sous-équipes d’assistants sur le terrain. Au début, Worldcoin payait les opérateurs simplement en fonction du nombre brut d’inscriptions, ce qui a donné lieu à des pratiques bâclées et de mauvaise qualité.

Blania affirme que les opérateurs sont désormais motivés non seulement par la quantité mais aussi par la qualité des inscriptions et par la façon dont les utilisateurs comprennent ce qui se passe ; des semaines après le scan Orb, les opérateurs seront mieux payés si les utilisateurs utilisent réellement Worldapp. (La principale façon dont vous « utilisez » Worldapp en ce moment est de réclamer votre 1 Worldcoin hebdomadaire.) J’ai parlé avec deux opérateurs en Espagne, Gonzalo Recio et Juan Chacon, qui ont largement corroboré ce nouveau protocole. Mais la question de savoir si ce processus est strictement suivi dans le monde entier reste ouverte.

Je ne connais aucun système à cette échelle et à ce niveau d’ambition qui ne présente aucun problème de fraude.

Comment les gens peuvent-ils être convaincus que Worldcoin a vraiment résolu les problèmes ? Altman entend les questions et sait qu’il a peu de chances de convaincre les sceptiques. Il doute d’avoir des réponses qui les satisferont, et cela ne semble pas le déranger. Il pense que les réponses les plus convaincantes ne viendront pas de lui, de Blania ou de l’entreprise, mais des premiers utilisateurs de Worldcoin. « Vous pouvez essayer de répondre à un tas de questions et faire tout ce qu’il faut, mais ce n’est pas vraiment comme ça que ça marche », dit Altman.

« Ce qui fonctionne vraiment, dit-il, c’est le premier million de personnes, les early adopters, les personnes qui se penchent vers l’avant – convaincre les dix millions suivants. Ensuite, ces dix millions suivants sont plus proches des normies. Et ils convainquent les cent millions suivants. Et ce sont vraiment ces normies qui convainquent les quelques milliards restants. »

La politique et l'avenir

Lors de notre toute première conversation, Blania m’a dit que si WorldID et le revenu universel de Worldcoin étaient pleinement adoptés à grande échelle, cela constituerait « probablement l’un des changements technologiques les plus profonds qui se soient jamais produits ». Si tel est effectivement le cas, cela ne créerait-il pas un nouvel ensemble complexe de questions juridiques, politiques et même existentielles auxquelles les gouvernements devraient faire face ?

Alors que je termine ma session dans le bureau de Berlin, une dernière question me taraude. J’ai presque l’impression que le projet est si ambitieux, si fou, si transformateur – du moins en théorie – que les pouvoirs en place n’ont pas pleinement envisagé les conséquences. Si l’humanité est rémunérée non pas par la sueur de son travail, mais plutôt par la générosité de l’AGI, cela ne représenterait-il pas un changement fondamental dans la façon dont le monde est structuré ? Et les gouvernements n’insisteraient-ils pas pour réglementer cela ? En supposant que la réponse soit oui, comment Worldcoin aborde-t-il cette question ?

Blania se penche en arrière sur sa chaise, étire ses longues jambes et réfléchit un instant. « C’est évidemment un sujet de discussion majeur », dit-il. « Je vais commencer par ce qui est le plus important à l’esprit en ce moment. Et ce qui est le plus important à l’esprit est en fait bien moins sophistiqué que toutes les choses que vous venez de mentionner. » Ce sur quoi ils se concentrent, dit Blania, c’est simplement la substance de base de l’incertitude réglementaire aux États-Unis. Worldcoin est « très probablement la plus grande intégration dans la crypto que le monde ait jamais connue », dit Blania. « Donc si vous n’aimez pas la crypto… »

Altman réfute l’idée selon laquelle les décideurs politiques ne savent pas grand-chose ou ont la tête dans le sable. « Je suis allé dans 22 pays et j’ai rencontré de nombreux dirigeants mondiaux, et bien plus que je ne le pensais, les gens comprennent cela et prennent cela très au sérieux », dit-il. (On ne sait pas si par « cela » il fait référence aux ambitions particulières de Worldcoin, ou aux défis plus vastes posés par l’IA.) « Je consacre désormais une part croissante de mon temps non pas à des aspects techniques », dit-il, « mais à des défis politiques ». En fin de compte, Altman dit que « pour que le monde parvienne à un bon point de vue à travers tout cela, il faut une solution en deux parties, associant technologie et politique. Et la partie politique, dans un certain sens, pourrait s’avérer plus difficile ».

Les obstacles politiques constituent un risque pour Worldcoin. Ne pas évoluer assez rapidement est un risque pour Worldcoin. D’autres faux pas dans le domaine, comme ceux soulignés dans le rapport technologique du MIT, constituent un autre risque. Ou une violation potentielle des données d’iris. Ou un échec de la tokenomics. Ou une érosion de la confiance qui freine les futures inscriptions. Ou des défis logistiques pour amener l’Orb dans des coins les plus difficiles du monde. Ou des problèmes techniques et de fabrication. Ou des révélations selon lesquelles les Orbs ont été compromis d’une manière ou d’une autre. (Comme l’a noté Vitalik Buterin, « L’Orb est un dispositif matériel, et nous n’avons aucun moyen de vérifier qu’il a été construit correctement et qu’il n’a pas de portes dérobées. »)

Ou peut-être que Worldcoin ne vaut jamais plus que quelques centimes, et que personne ne s’en soucie. Il y a de très nombreux risques sur le chemin incroyablement long qui mène à l’adoption généralisée de Worldcoin, et le projet reste un projet ambitieux.

Mais le plus grand risque, selon les cerveaux de l’entreprise, ne concerne pas Worldcoin en lui-même. Le risque le plus effrayant, à leurs yeux, est qu’une sorte de WorldID biométrique soit développé, mais pas d’une manière ouverte ou respectueuse de la vie privée.

La logique initiale d’Altman, qu’il a formulée bien avant que ChatGPT ne devienne populaire, reste convaincante : l’IA finira par devenir si performante qu’elle pourra facilement prétendre être humaine, nous aurons donc besoin d’un moyen de prouver notre humanité. La preuve biométrique est peut-être inévitable. Qui devrait être le garant de cette solution ? « Il faudra qu’il y ait quelque chose comme WorldID », déclare Blania. « Vous devrez vous authentifier en ligne. Quelque chose de ce genre se produira. Et le chemin par défaut est que ce n’est pas en ligne par nature, ce n’est pas respectueux de la vie privée et c’est fragmenté par les gouvernements et les pays. »

Pour Blania, cette version non privée du contrôle biométrique est le véritable épisode de Black Mirror. « C’est le chemin par défaut », dit-il. « Je pense que Worldcoin est la seule autre voie possible. »