Twitter (X) a été deux dernières années tumultueuses. L'année dernière, Elon Musk a acheté la plateforme pour 44 milliards de dollars, puis a remanié le personnel, la modération du contenu, le modèle économique et la culture du site Web de l'entreprise. Ces changements pourraient avoir davantage à voir avec le soft power d'Elon Musk qu'avec des décisions politiques spécifiques. Cependant, au milieu de ces actions controversées, une nouvelle fonctionnalité sur Twitter est rapidement devenue importante et semble être appréciée par les gens de tout le spectre politique : les notes de la communauté.

Community Notes est un outil de vérification des faits qui ajoute parfois des notes contextuelles aux tweets, comme le tweet d'Elon Musk ci-dessus, comme outil de vérification des faits et de contre-désinformation. Il s’appelait à l’origine Birdwatch et a été lancé pour la première fois en tant que projet pilote en janvier 2021. Depuis lors, il s'est progressivement développé, son expansion la plus rapide ayant coïncidé avec le rachat de Twitter par Elon Musk l'année dernière. Les notes de communauté apparaissent régulièrement parmi les tweets qui font l'objet d'une large attention sur Twitter ces jours-ci, y compris ceux traitant de sujets politiques controversés. À mon avis, et selon ma conclusion après avoir discuté avec de nombreuses personnes de tout le spectre politique, ces notes sont informatives et précieuses telles qu’elles apparaissent.

Cependant, ce qui m'intéresse le plus, ce sont les Community Notes, qui, bien que n'étant pas un « projet de crypto-monnaie », sont probablement l'exemple le plus proche de « valeurs de crypto-monnaie » que nous ayons vues dans le monde grand public. Les notes de la communauté ne sont pas écrites ou organisées par des experts sélectionnés de manière centralisée ; au lieu de cela, n'importe qui peut écrire et voter, et les notes qui apparaissent ou non sont entièrement déterminées par des algorithmes open source. Le site Web de Twitter propose un guide détaillé et complet décrivant le fonctionnement de l'algorithme. Vous pouvez télécharger les données contenant des notes et des sondages publiés, exécuter l'algorithme localement et vérifier que le résultat correspond à ce qui est visible sur le site Web de Twitter. Bien qu’elle ne soit pas parfaite, elle se rapproche étonnamment de l’idéal d’une neutralité digne de confiance dans des situations assez controversées, et s’avère en même temps très utile.

Comment fonctionne l'algorithme des Notes de la Communauté ?

Toute personne possédant un compte Twitter répondant à certains critères (essentiellement : actif depuis plus de 6 mois, aucune violation des règles, numéro de téléphone mobile vérifié) peut s'inscrire pour participer aux Notes de la communauté. Actuellement, les participants sont acceptés lentement et au hasard, mais il est prévu à terme de permettre à toute personne qualifiée de se joindre au programme. Une fois accepté, vous pouvez d'abord participer à l'évaluation des notes existantes et, une fois que vos notes sont suffisamment bonnes (mesurées en voyant quelles notes correspondent aux résultats finaux pour cette note), vous pouvez également rédiger vos propres notes.

Lorsque vous rédigez une note, la note reçoit un score basé sur l'examen par d'autres membres de Community Notes. Ces avis peuvent être considérés comme des votes selon les trois niveaux « utile », « plutôt utile » et « pas utile », mais les avis peuvent également inclure d'autres étiquettes qui jouent un rôle dans l'algorithme. Sur la base de ces avis, Notes se voit attribuer une note. Si le score de la note dépasse 0,40, la note sera affichée ; sinon, la note ne sera pas affichée.

Ce qui est unique à propos de l'algorithme, c'est la façon dont les scores sont calculés. Contrairement aux algorithmes simples, qui sont conçus pour calculer simplement une sorte de somme ou de moyenne des évaluations des utilisateurs et l'utiliser comme résultat final, l'algorithme d'évaluation des notes de la communauté tente explicitement de donner la priorité à ceux qui ont reçu des avis positifs de la part de personnes ayant des perspectives différentes. Autrement dit, si des personnes qui ne sont normalement pas d'accord sur les notes finissent par être d'accord sur une note particulière, cette note sera bien notée.

Regardons de plus près comment cela fonctionne. Nous avons un ensemble d'utilisateurs et un ensemble de notes ; nous pouvons créer une matrice M où la cellule Mij représente la façon dont le i-ème utilisateur a évalué les j-ème Notes.

Pour une note donnée, la plupart des utilisateurs n'ont pas noté cette note, donc la plupart des entrées dans la matrice seront nulles, mais ce n'est pas grave. Le but de l'algorithme est de créer un modèle à quatre colonnes d'utilisateurs et de notes, en attribuant deux statistiques à chaque utilisateur, que nous pouvons appeler « convivialité » et « polarité », et deux statistiques à chaque note, que nous appelons « utilité ». " et "polarité". Le modèle tente de prédire la matrice en fonction de ces valeurs, à l'aide de la formule suivante :

Notez que je présente ici la terminologie utilisée dans l'article Birdwatch, ainsi que ma propre terminologie pour fournir une compréhension plus intuitive de la signification des variables sans impliquer de concepts mathématiques :

• μ est un paramètre de « sentiment du public » qui mesure la hauteur des notes généralement attribuées par les utilisateurs.

• iu est la « convivialité » de l'utilisateur, c'est-à-dire la probabilité que l'utilisateur ait tendance à donner une note élevée.

• Ce qui compte, c'est « l'utilité » des billets, c'est-à-dire la probabilité qu'ils obtiennent une note élevée. C'est la variable qui nous intéresse.

• fu ou fn est la « polarité » de l'utilisateur ou de Notes, c'est-à-dire leur position sur l'axe dominant des extrêmes politiques. En pratique, la polarité négative signifie à peu près « inclinaison à gauche » et la polarité positive signifie « inclinaison à droite », mais veuillez noter que les axes extrêmes sont dérivés de l'analyse des données utilisateur et Notes, et que les concepts de gauche et de droite ne sont pas codés en dur.

L'algorithme utilise un modèle d'apprentissage automatique assez basique (descente de gradient standard) pour trouver les meilleures valeurs de variables pour prédire les valeurs matricielles. L'utilité attribuée à une note particulière est la note finale de cette note. Une note sera affichée si son utilité est d'au moins +0,4.

L'intelligence principale ici est que la « polarité » absorbe les caractéristiques d'une note qui font qu'elle est appréciée par certains utilisateurs et détestée par d'autres, tandis que « l'utilité » ne mesure que les caractéristiques d'une note. Ces caractéristiques font qu'elle est appréciée par tous. utilisateurs. La sélection de l'utilité identifie ainsi les notes qui sont approuvées par toutes les tribus et exclut les notes qui sont acclamées par une tribu mais mécontentes par une autre.

Ce qui précède ne décrit que la partie centrale de l'algorithme. En fait, de nombreux mécanismes supplémentaires sont ajoutés en plus. Heureusement, ils sont décrits dans la documentation publique. Ces mécanismes comprennent les suivants :

• L'algorithme est exécuté plusieurs fois, ajoutant à chaque fois au vote des « faux votes » extrêmes générés aléatoirement. Cela signifie que le véritable résultat de l'algorithme pour chaque note est une plage de valeurs et que le résultat final dépend d'un « niveau de confiance inférieur » tiré de cette plage et comparé à un seuil de 0,32.

• Si de nombreux utilisateurs (en particulier ceux ayant une polarité Notes) évaluent une note comme « inutile » et attribuent également la même « balise » (par exemple, « langage argumentatif ou biaisé », « source inhabituelle ») « Notes de support ») comme la raison de la notation, alors le seuil d'utilité requis pour la publication des Notes passera de 0,4 à 0,5 (cela peut paraître petit, mais est très important en pratique).

• Si un Note est accepté, son utilité doit être réduite à 0,01 point en dessous du seuil requis pour accepter le Note.

• L'algorithme effectue davantage d'exécutions en utilisant plusieurs modèles, améliorant parfois Notes avec des scores d'utilité bruts compris entre 0,3 et 0,4.

Au total, vous obtenez un code Python assez complexe totalisant 6 282 lignes réparties dans 22 fichiers. Mais tout est ouvert et vous pouvez télécharger Notes et les données de notation et les exécuter vous-même pour voir si le résultat correspond à ce qui se passe réellement sur Twitter.

Alors, à quoi cela ressemble-t-il en pratique ?

La plus grande différence entre cet algorithme et le simple calcul d’un score moyen à partir des votes des gens réside probablement dans le concept de ce que j’appelle les valeurs « polaires ». La documentation de l'algorithme les appelle fu et fn, en utilisant f pour facteur car les deux termes se multiplient ; la terminologie plus générale est en partie due au désir éventuel de rendre fu et fn multidimensionnels.

La polarité est attribuée aux utilisateurs et aux notes. Le lien entre l'identifiant utilisateur et le compte Twitter sous-jacent est intentionnellement gardé secret, mais Notes est public. En fait, au moins pour l’ensemble de données anglais, la polarité générée par l’algorithme est très étroitement corrélée à la gauche et à la droite.

Voici quelques exemples de Notes avec une polarité autour de -0,8 :

Notez que je ne fais pas de sélection ici ; ce sont en fait les trois premières lignes de la feuille de calcul scoring_notes.tsv que j'ai générée lors de l'exécution de l'algorithme localement, et leurs scores de polarité (appelés coreNoteFactor1 dans la feuille de calcul) sont inférieurs à - 0,8.

Voici maintenant quelques notes avec une polarité d'environ +0,8. Il s'avère que beaucoup d'entre eux sont soit des gens qui parlent de la politique brésilienne en portugais, soit des fans de Tesla réfutant avec colère les critiques de Tesla, alors permettez-moi de choisir un peu et de trouver quelques notes qui n'entrent dans aucune des deux catégories :

Encore une fois, pour rappel, la « division gauche/droite » n’est en aucun cas codée en dur dans l’algorithme ; Cela suggère que si vous appliquez cet algorithme à d’autres contextes culturels, il peut automatiquement détecter leurs principales divisions politiques et jeter des ponts entre ces divisions.

Pendant ce temps, Notes pour une utilité maximale ressemble à ceci. Cette fois, puisque les notes apparaissent sur Twitter, je peux simplement prendre une capture d'écran :

Il y en a un autre :

Pour le deuxième Notes, il traite plus directement de sujets politiques hautement partisans, mais il s'agit d'un Notes claires, de haute qualité et informatives, ce qui lui confère une note élevée. Dans l’ensemble, l’algorithme semble fonctionner et il semble possible de vérifier le résultat de l’algorithme en exécutant le code.

Qu’est-ce que je pense de cet algorithme ?

Ce qui m’a le plus frappé en analysant cet algorithme, c’est sa complexité. Il existe une "version papier académique" qui utilise la descente de gradient pour trouver le meilleur ajustement d'équations vectorielles et matricielles à cinq termes, et puis il y a la version réelle, une série complexe d'exécutions de l'algorithme avec de nombreuses exécutions différentes et beaucoup d'arbitraire. le chemin.

Même la version académique cache la complexité sous-jacente. L'équation qu'il optimise est d'ordre quatrième négatif (car il existe un terme quadratique fu*fn dans la formule de prédiction et la fonction de coût mesure le carré de l'erreur). Bien que l'optimisation d'une équation quadratique dans un nombre quelconque de variables ait presque toujours une solution unique, que vous pouvez comprendre avec une algèbre linéaire assez basique, l'optimisation d'une équation quartique dans de nombreuses variables a généralement de nombreuses solutions, d'où les multiples séries d'algorithmes de descente de gradient différents. des réponses peuvent être obtenues. De petits changements d’entrée peuvent faire basculer la baisse d’un minimum local à un autre, modifiant considérablement les résultats de sortie.

La différence entre cela et les algorithmes que j'ai aidé à développer, comme le financement secondaire, est pour moi comme la différence entre l'algorithme d'un économiste et celui d'un ingénieur. Les algorithmes des économistes, dans le meilleur des cas, se concentrent sur la simplicité, sont relativement faciles à analyser et ont des propriétés mathématiques claires, indiquant que c'est le meilleur (ou le moins mauvais) pour la tâche à résoudre, et idéalement, cela peut également être prouvé. Quels dégâts quelqu’un peut-il causer en essayant de l’exploiter. L'algorithme d'un ingénieur, quant à lui, est dérivé d'un processus itératif d'essais et d'erreurs pour voir ce qui fonctionne et ce qui ne fonctionne pas dans l'environnement d'exploitation de l'ingénieur. Les algorithmes des ingénieurs sont pragmatiques et font le travail ; les algorithmes des économistes ne perdent pas complètement le contrôle face à des situations inattendues.

Ou, comme le dit le philosophe Internet respecté Roon (alias Tszzl) dans un fil de discussion connexe :

Bien sûr, je dirais que l'aspect « esthétique théorique » des crypto-monnaies est nécessaire pour pouvoir différencier avec précision les protocoles qui ne sont vraiment pas fiables et ceux qui semblent bons et fonctionnent bien en surface mais nécessitent en réalité la confiance dans un acteur centralisé. Ou pire encore, il pourrait s’agir d’une arnaque totale.

L’apprentissage profond est efficace dans des circonstances normales, mais il présente des faiblesses inévitables dans diverses attaques adverses d’apprentissage automatique. Si cela est bien fait, des pièges techniques et des échelles d’abstraction de haut niveau peuvent combattre ces attaques. J'ai donc une question : pouvons-nous transformer les Notes de la communauté en quelque chose qui ressemble davantage à un algorithme économique ?

Pour voir ce que cela signifie en pratique, explorons un algorithme que j'ai conçu il y a quelques années dans un but similaire : le financement quadratique limité par paires.

L'objectif du financement quadratique par paires est de combler une lacune du financement quadratique « normal », selon lequel même si deux participants s'entendent, ils peuvent contribuer des sommes très importantes à un faux projet, leur restituer les fonds et recevoir d'importantes sommes. des subventions qui drainent tout le pool de capitaux. Dans le financement quadratique délimité par paire, nous allouons un budget limité M à chaque paire d'acteurs. L'algorithme parcourt toutes les paires d'acteurs possibles, et si l'algorithme décide d'ajouter une subvention à un certain projet P parce que l'acteur A et l'acteur B le soutiennent, alors cette subvention est déduite du budget alloué à la paire (A, B ) . Par conséquent, même si k participants s’entendent, le montant qu’ils peuvent voler au mécanisme est au plus de k (k-1) M.

Cette forme d'algorithme ne fonctionne pas bien dans le contexte des Community Notes car chaque utilisateur n'exprime qu'un petit nombre de votes : en moyenne, le nombre de votes communs entre deux utilisateurs est nul, il suffit donc de regarder chaque paire individuellement. Utilisateur, l'algorithme ne peut pas comprendre la polarité de l'utilisateur. Le but d’un modèle de machine learning est justement d’essayer de « peupler » une matrice à partir de données sources très clairsemées qui ne peuvent pas être directement analysées de cette manière. Mais le défi de cette approche est qu’un effort supplémentaire est nécessaire pour éviter des résultats très volatils face à un petit nombre de mauvais votes.

Les Community Notes peuvent-elles vraiment tenir tête à gauche comme à droite ?

Nous pouvons analyser si l’algorithme Community Notes est réellement capable de résister aux extrêmes, c’est-à-dire s’il est plus performant qu’un algorithme de vote naïf. Cet algorithme de vote résiste déjà dans une certaine mesure aux extrêmes : une publication avec 200 likes et 100 dislikes sera moins performante qu'une publication avec seulement 200 likes. Mais les Notes de la communauté font-elles mieux ?

Du point de vue d’un algorithme abstrait, c’est difficile à dire. Pourquoi un poteau polarisant avec une note moyenne élevée n’aurait-il pas une forte polarité et une grande utilité ? L'idée est que si ces votes sont contradictoires, la polarité devrait « absorber » les caractéristiques qui ont amené le message à obtenir beaucoup de votes, mais le fait-il réellement ?

Pour vérifier cela, j'ai exécuté ma propre implémentation simplifiée pendant 100 tours. Les résultats moyens sont les suivants :

Dans ce test, les Notes « bonnes » ont reçu une note de +2 parmi les utilisateurs de la même affiliation politique et une note de +0 parmi les utilisateurs de l'affiliation politique opposée, et les Notes « bonnes mais plus extrêmes » ont reçu une note de +0 parmi les utilisateurs de la même affiliation politique. même affiliation politique. Il a reçu une note de +4 parmi les utilisateurs de la faction opposée et une note de -2 parmi les utilisateurs de la faction opposée. Même si les scores moyens sont les mêmes, la polarité est différente. Et en fait, l’utilité moyenne des « bons » billets semble être supérieure à celle des « bons mais à tendance plus extrême ».

Avoir un algorithme plus proche de « l’algorithme de l’économiste » donnera une histoire plus claire sur la façon dont l’algorithme pénalise les extrêmes.

Dans quelle mesure tout cela est-il utile dans des situations à enjeux élevés ?

Nous pouvons en apprendre une partie en examinant une situation spécifique. Il y a environ un mois, Ian Bremmer s'est plaint qu'une note communautaire très critique avait été ajoutée à un tweet concernant un responsable du gouvernement chinois, mais les notes avaient depuis été supprimées.

C'est une tâche difficile. C'est une chose de concevoir des mécanismes dans un environnement communautaire Ethereum où la plus grosse plainte pourrait être de 20 000 $ à un influenceur Twitter extrême. La situation est complètement différente lorsqu’il s’agit de questions politiques et géopolitiques qui touchent des millions de personnes, où chacun présume souvent raisonnablement des pires motivations. Cependant, interagir avec ces environnements aux enjeux élevés est essentiel si les concepteurs mécaniques veulent avoir un impact significatif sur le monde.

Dans le cas de Twitter, il y a une raison évidente de soupçonner une manipulation centralisée comme raison de la suppression de Notes : Elon Musk a de nombreux intérêts commerciaux en Chine, il est donc possible qu'Elon Musk ait forcé l'équipe Community Notes à interférer avec le résultat de l'algorithme. et supprimez-le Cette note particulière.

Heureusement, l'algorithme est open source et vérifiable, nous pouvons donc réellement l'explorer ! Faisons cela. L'URL du tweet original est https://twitter.com/MFA_China/status/1676157337109946369. Le numéro 1676157337109946369 à la fin est l’identifiant du tweet. Nous pouvons rechercher cet identifiant dans les données téléchargeables et identifier la ligne spécifique de la feuille de calcul contenant les notes ci-dessus :

Ici, nous obtenons l'ID de Notes lui-même, 1676391378815709184. Nous recherchons ensuite cet identifiant dans les fichiers scoring_notes.tsv et note_status_history.tsv générés par l'exécution de l'algorithme. Nous avons obtenu les résultats suivants :

La deuxième colonne du premier résultat correspond à la note actuelle de ces notes. La deuxième sortie affiche l'historique de ce Notes : son statut actuel se trouve dans la colonne sept (NEEDS_MORE_RATINGS) et le premier statut qu'il a reçu précédemment, qui n'était pas NEEDS_MORE_RATINGS, se trouve dans la colonne cinq (CURRENTLY_RATED_HELPFUL). Nous pouvons donc voir que l’algorithme lui-même a d’abord montré la note, puis l’a supprimée après que sa note ait légèrement baissé – il ne semble y avoir aucune intervention centrale impliquée.

On peut aussi aborder cette question d’une autre manière en s’intéressant au vote lui-même. Nous pouvons analyser le fichier rating-00000.tsv pour isoler toutes les évaluations de ces notes et voir combien sont notées HELPFUL et NOT_HELPFUL :

Cependant, si vous les triez par horodatage et regardez les 50 premiers votes, vous verrez qu'il y a 40 votes HELPFUL et 9 votes NOT_HELPFUL. Nous arrivons donc à la même conclusion : l'audience initiale de Notes a évalué Notes de manière plus positive, tandis que les audiences ultérieures de Notes l'ont évalué moins favorablement, de sorte que ses notes ont commencé à augmenter et ont diminué au fil du temps.

Malheureusement, il est difficile d'expliquer exactement comment Notes a changé de statut : il ne s'agit pas simplement de « auparavant, il était noté au-dessus de 0,40, maintenant il est noté en dessous de 0,40, donc il a été supprimé ». Au lieu de cela, un grand nombre de réponses NOT_HELPFUL déclenche l’une des conditions d’exception, augmentant ainsi le score d’utilité dont Notes a besoin pour rester au-dessus du seuil.

Il s’agit d’une autre excellente opportunité d’apprentissage qui nous enseigne une leçon : pour rendre un algorithme neutre digne de confiance réellement digne de confiance, il faut le garder simple. Si une note passe d’acceptée à non acceptée, il doit y avoir une histoire simple et claire expliquant pourquoi c’est le cas.

Bien sûr, il existe une manière totalement différente de manipuler ce vote : le brigadage. Quelqu'un qui voit une note qu'il désapprouve peut faire appel à une communauté très engagée (ou pire, une légion de faux comptes) pour la noter NOT_HELPFUL, et il ne faudra peut-être pas trop de votes pour faire passer Notes de "utile" à "extrême". Des analyses et des travaux supplémentaires sont nécessaires pour réduire correctement la vulnérabilité de l'algorithme à de telles attaques coordonnées. Une amélioration possible serait de ne permettre à aucun utilisateur de voter sur des notes, mais plutôt d'attribuer de manière aléatoire des notes aux évaluateurs de la manière recommandée par l'algorithme « Pour vous », et de permettre uniquement aux évaluateurs d'évaluer les notes auxquelles ils ont été attribués.

Les notes de la communauté ne sont-elles pas assez « courageuses » ?

La principale critique que je vois à l’égard de Community Notes est fondamentalement qu’elle n’en fait pas assez. J'ai vu deux articles récents mentionnant cela. Pour citer un des articles :

Le programme souffre d’une sérieuse limite : pour que les Notes communautaires soient publiques, elles doivent être universellement acceptées par un consensus de personnes de tous bords politiques.

"Il faut qu'il y ait un consensus idéologique", a-t-il déclaré. "Cela signifie que les gens de gauche et ceux de droite doivent être d'accord sur le fait que la note doit être jointe au tweet."

Essentiellement, dit-il, cela nécessite « un accord entre idéologies sur la vérité, ce qui est presque impossible à obtenir dans un environnement de plus en plus partisan ».

C'est une question difficile, mais en fin de compte, j'ai tendance à penser qu'il vaut mieux diffuser librement dix tweets de désinformation que d'avoir un seul tweet injustement annoté. Nous avons assisté à des années de vérification des faits, et c'est courageux, et c'est du point de vue du « en fait, nous connaissons la vérité, nous savons qu'une partie ment plus souvent que l'autre ». Quel sera le résultat ?

Pour être honnête, il existe une méfiance assez répandue à l’égard du concept de vérification des faits. Voici une stratégie qui dit : ignorez les critiques, rappelez-vous que les experts en vérification des faits connaissent vraiment les faits mieux que n'importe quel système électoral, et respectez-les. Mais s’engager à fond dans cette approche semble risqué. Il est utile de bâtir des institutions intertribales qui soient respectées par tous, au moins dans une certaine mesure. À l'instar de la maxime de William Blackstone et des tribunaux, j'estime que le maintien de ce respect nécessite un système qui commet des erreurs par omission plutôt que de manière proactive. Il me semble donc qu’il serait utile qu’au moins une grande organisation emprunte cette voie différente et traite son rare respect inter-tribal comme une ressource précieuse.

Une autre raison pour laquelle je pense qu'il est normal que les Notes de la communauté soient conservatrices est que je ne pense pas que chaque tweet de désinformation, ni même la plupart des tweets de désinformation, devrait recevoir une note corrective. Même si moins d’un pour cent des tweets de désinformation reçoivent des annotations fournissant un contexte ou une correction, les notes de la communauté fournissent toujours un service extrêmement précieux en tant qu’outil pédagogique. Le but n'est pas de tout corriger ; le but est plutôt de rappeler aux gens qu'il existe plusieurs points de vue, que certains messages qui semblent convaincants et engageants de manière isolée sont en réalité tout à fait faux et que vous, oui, vous pouvez généralement faire une recherche de base sur Internet. pour vérifier que c'est faux.

Les Notes communautaires ne peuvent pas être, et ne sont pas censées être, une panacée à tous les problèmes d’épistémologie publique. Quels que soient les problèmes qu’il ne résout pas, il y a beaucoup de place pour d’autres mécanismes pour y remédier, qu’il s’agisse d’un gadget nouveau comme un marché de prédiction ou d’une organisation établie employant des employés à temps plein possédant une expertise dans le domaine qui peut tenter de combler les lacunes.

en conclusion

Community Notes n’est pas seulement une expérience fascinante sur les réseaux sociaux, mais aussi un exemple d’un type émergent fascinant de conception de mécanismes : des mécanismes qui cherchent consciemment à identifier les extrêmes et tendent à promouvoir le franchissement des frontières plutôt que de perpétuer les divisions.

Deux autres exemples dans cette catégorie que je connais sont : (i) le mécanisme de financement secondaire par paire utilisé dans les subventions Gitcoin, et (ii) Polis, un outil de discussion qui utilise des algorithmes de clustering pour aider la communauté à identifier les déclarations populaires communes à toutes les personnes. qui ont souvent des opinions différentes. Ce domaine de la conception des mécanismes est précieux et j’espère que nous verrons davantage de travaux universitaires dans ce domaine.

La transparence algorithmique fournie par Community Notes n'est pas exactement la même que celle des médias sociaux entièrement décentralisés : si vous n'êtes pas d'accord avec le fonctionnement de Community Notes, il n'y a aucun moyen d'afficher le même contenu via un algorithme différent. Mais c’est ce qui se rapprochera le plus des applications hyperscale dans les prochaines années, et nous pouvons voir qu’il apporte déjà beaucoup de valeur, à la fois en empêchant les manipulations centralisées et en garantissant que les plates-formes qui ne s’engagent pas dans de telles manipulations soient reconnues. .

J'ai hâte de voir les notes de la communauté et de nombreux algorithmes similaires se développer et se développer au cours de la prochaine décennie.