Twitter (X) byl poslední dva roky bouřlivý. Loni Elon Musk koupil platformu za 44 miliard dolarů a poté přepracoval personální obsazení, moderování obsahu, obchodní model a kulturu webových stránek. Uprostřed těchto kontroverzních akcí se však nová funkce na Twitteru rychle stala důležitou a zdá se, že ji lidé napříč politickým spektrem milují: Community Notes.

Community Notes je nástroj pro kontrolu faktů, který někdy k tweetům přidává kontextové poznámky, jako je výše uvedený tweet Elona Muska, jako nástroj pro kontrolu faktů a boj proti dezinformacím. Původně se jmenoval Birdwatch a poprvé byl spuštěn jako pilotní projekt v lednu 2021. Od té doby se postupně rozrůstal, přičemž jeho nejrychlejší expanze se shodovala s loňským převzetím Twitteru Elonem Muskem. Poznámky o komunitě se pravidelně objevují mezi tweety, kterým je v těchto dnech věnována široká pozornost na Twitteru, včetně těch, které se zabývají kontroverzními politickými tématy. Podle mého názoru a mého závěru z rozhovoru s mnoha lidmi napříč politickým spektrem jsou tyto poznámky informativní a cenné, jak vypadají.

Co mě však zajímá nejvíce, jsou Community Notes, které ačkoliv nejsou „kryptoprojekty“, jsou pravděpodobně nejbližším příkladem „kryptohodnot“, které jsme v mainstreamovém světě viděli. Poznámky komunity nejsou psány nebo spravovány některými centrálně vybranými odborníky, místo toho může psát a hlasovat kdokoli, a to, které poznámky se objeví nebo ne, je určeno výhradně algoritmy s otevřeným zdrojovým kódem. Web Twitter obsahuje podrobného a komplexního průvodce, který popisuje, jak algoritmus funguje, a můžete si stáhnout data obsahující publikované poznámky a ankety, spustit algoritmus lokálně a ověřit, že výstup odpovídá tomu, co je viditelné na webu Twitteru. I když není dokonalý, překvapivě se blíží ideálu důvěryhodné neutrality v docela kontroverzních situacích a zároveň je velmi užitečný.

Jak funguje algoritmus Community Notes?

Kdokoli s účtem na Twitteru, který splňuje určitá kritéria (v zásadě: aktivní déle než 6 měsíců, žádné porušení zásad, ověřené číslo mobilního telefonu), se může přihlásit k účasti v komunitních poznámkách. V současné době jsou účastníci přijímáni pomalu a náhodně, ale nakonec je plánem umožnit připojit se každému, kdo se kvalifikuje. Po přijetí se můžete nejprve podílet na hodnocení existujících poznámek, a jakmile budou vaše hodnocení dostatečně dobrá (měřeno podle toho, která hodnocení odpovídají konečným výsledkům dané poznámky), můžete také napsat své vlastní poznámky.

Když napíšete poznámku, poznámku obdrží skóre na základě kontroly ostatními členy komunitních poznámek. Tyto recenze lze chápat jako hlasování na třech úrovních „užitečné“, „spíše užitečné“ a „neužitečné“, ale recenze mohou zahrnovat i další štítky, které hrají roli v algoritmu. Na základě těchto recenzí je Notes přiděleno skóre. Pokud skóre poznámky překročí 0,40, poznámka se zobrazí, jinak se poznámka nezobrazí.

Unikátní na algoritmu je způsob výpočtu skóre. Na rozdíl od jednoduchých algoritmů, které jsou navrženy tak, aby pouze vypočítaly nějaký součet nebo průměr uživatelských hodnocení a použily je jako konečný výsledek, algoritmus hodnocení Community Notes se výslovně snaží upřednostnit ty, kteří obdrželi pozitivní recenze od lidí s různými perspektivami Notes. To znamená, že pokud lidé, kteří normálně nesouhlasí s hodnocením, nakonec souhlasí s konkrétní poznámkou, bude tato poznámka vysoce hodnocena.

Pojďme se blíže podívat, jak to funguje. Máme sadu uživatelů a sadu poznámek, můžeme vytvořit matici M, kde buňka Mij představuje, jak i-tý uživatel ohodnotil j-té poznámky.

Pro kterékoli dané poznámky většina uživatelů tyto poznámky nehodnotila, takže většina položek v matici bude nula, ale to je v pořádku. Cílem algoritmu je vytvořit čtyřsloupcový model uživatelů a Poznámek, přičemž každému uživateli přiřadíme dvě statistiky, které můžeme nazvat „přívětivost“ a „polarita“, a dvě statistiky ke každému Poznámkám, které nazýváme „užitečnost“. “ a „polarita“. Model se pokouší předpovědět matici jako funkci těchto hodnot pomocí následujícího vzorce:

Všimněte si, že zde uvádím terminologii použitou v článku Birdwatch, stejně jako svou vlastní terminologii, abych poskytl intuitivnější pochopení významu proměnných bez použití matematických pojmů:

• μ je parametr „veřejného sentimentu“, který měří, jak vysoké hodnocení obecně uživatelé dávají.

• iu je "přívětivost" uživatele, tj. jak je pravděpodobné, že uživatel má tendenci dávat vysoké hodnocení.

• v tom je „užitečnost“ Dluhopisů, tedy jaká je pravděpodobnost, že Dluhopisy budou vysoce hodnoceny. To je proměnná, na které nám záleží.

• fu nebo fn je „polarita“ uživatele nebo Notes, tedy jejich pozice na dominantní ose politických extrémů. V praxi záporná polarita zhruba znamená „naklonění doleva“ a kladná polarita znamená „naklonění doprava“, ale mějte na paměti, že extrémní osy jsou odvozeny analýzou uživatelských dat a dat Notes a koncepty vlevo a vpravo nejsou pevně zakódovány.

Algoritmus používá poměrně základní model strojového učení (standardní gradientní sestup) k nalezení nejlepších proměnných hodnot pro předpovídání hodnot matice. Užitečnost přiřazená konkrétní poznámce je konečným skóre této poznámky. Poznámka se zobrazí, pokud je její užitečnost alespoň +0,4.

Hlavní chytrost je v tom, že „polarita“ absorbuje vlastnosti poznámky, které způsobují, že se některým uživatelům líbí a jiným nelíbí, zatímco „užitečnost“ měří pouze vlastnosti poznámky. Tyto vlastnosti vedou k tomu, že se líbí všem uživatelů. Výběr užitečnosti tak identifikuje poznámky, které jsou podporovány napříč kmeny, a vyloučí poznámky, které jeden kmen vítá, ale jiný je nenávidí.

Výše uvedené pouze popisuje základní část algoritmu. Ve skutečnosti je k tomu přidáno mnoho dalších mechanik. Naštěstí jsou popsány ve veřejné dokumentaci. Tyto mechanismy zahrnují následující:

• Algoritmus se spustí několikrát, pokaždé, když se k hlasování přidají nějaké náhodně vygenerované extrémní „falešné hlasy“. To znamená, že skutečným výstupem algoritmu pro každou poznámku je rozsah hodnot a konečný výsledek závisí na "nižší spolehlivosti" z tohoto rozsahu a ve srovnání s prahem 0,32.

• Pokud mnoho uživatelů (zejména ti s polaritou Notes) ohodnotí poznámku jako „neužitečnou“ a také přiřadí stejnou „značku“ (například „argumentativní nebo neobjektivní jazyk“, „neobvyklý zdroj“) „Poznámky podpory“) jako důvod pro hodnocení, pak se práh užitečnosti požadovaný pro vydání Dluhopisů zvýší z 0,4 na 0,5 (to se může zdát málo, ale v praxi je to velmi důležité).

• Pokud je Dluhopis přijat, jeho užitečnost musí být snížena na 0,01 bodu pod prahovou hodnotu potřebnou pro přijetí Dluhopisu.

• Algoritmus provádí více běhů pomocí více modelů, někdy zvyšuje poznámky s hrubým skóre užitečnosti mezi 0,3 a 0,4.

Celkově vzato získáte nějaký docela složitý kód Pythonu o celkovém počtu 6282 řádků rozložených do 22 souborů. Ale vše je otevřené a můžete si stáhnout poznámky a data hodnocení a sami je spustit, abyste zjistili, zda výstup odpovídá tomu, co se skutečně děje na Twitteru.

Jak to tedy vypadá v praxi?

Pravděpodobně největší rozdíl mezi tímto algoritmem a prostým získáním průměrného skóre z hlasů lidí je koncept toho, čemu říkám „polární“ hodnoty. Dokumentace algoritmu je označuje jako fu a fn, přičemž používá f jako faktor, protože tyto dva termíny se navzájem násobí, což je částečně způsobeno touhou učinit fu a fn vícerozměrnými.

Polarita je přiřazena uživatelům a poznámkám. Spojení mezi ID uživatele a základním účtem Twitter je záměrně uchováváno v tajnosti, ale prostředí Notes je veřejné. Ve skutečnosti, alespoň pro anglický datový soubor, polarita generovaná algoritmem velmi úzce koreluje s levou a pravou.

Zde je několik příkladů Notes s polaritou kolem -0,8:

Všimněte si, že zde nevybírám třešničku, toto jsou ve skutečnosti první tři řádky v tabulce score_notes.tsv, kterou jsem vygeneroval, když jsem spouštěl algoritmus lokálně, a jejich skóre polarity (nazvané coreNoteFactor1 v tabulce) jsou menší než -0,8.

Zde jsou některé poznámky s polaritou přibližně +0,8. Ukazuje se, že mnozí z nich jsou buď lidé, kteří mluví o brazilské politice v portugalštině, nebo fanoušci Tesly rozzlobeně odmítají kritiku Tesly, takže mi dovolte trochu vybrat a najít nějaké poznámky, které nespadají do žádné kategorie:

Opět pro připomenutí, „rozdělení zleva a doprava“ není do algoritmu nijak pevně zakódováno, je zjištěno výpočtově. To naznačuje, že pokud použijete tento algoritmus na jiné kulturní kontexty, může automaticky detekovat jejich hlavní politické rozdělení a postavit mosty mezi těmito rozděleními.

Poznámky pro maximální užitečnost mezitím vypadají takto. Tentokrát, protože se poznámky skutečně zobrazují na Twitteru, mohu pořídit snímek obrazovky:

Je tu další:

U druhých Zápisků se sice přímoji zabývá vysoce stranickými politickými tématy, ale jde o Zápisky přehledné, kvalitní a informativní, takže dostává vysoké hodnocení. Celkově se zdá, že algoritmus funguje a zdá se proveditelné ověřit výstup algoritmu spuštěním kódu.

Co si o tomto algoritmu myslím?

Při analýze tohoto algoritmu mě nejvíce zarazila jeho složitost. Existuje „akademická papírová verze“, která používá gradientní sestup k nalezení nejlepší shody pětičlenných vektorových a maticových rovnic, a pak je tu skutečná verze, složitá řada provedení algoritmu s mnoha různými provedeními a spoustou libovůle. způsob.

Dokonce i verze akademického papíru skrývá základní složitost. Rovnice, kterou optimalizuje, je záporného čtvrtého řádu (protože v predikčním vzorci je kvadratický člen fu*fn a nákladová funkce měří druhou mocninu chyby). Zatímco optimalizace kvadratické rovnice v libovolném počtu proměnných bude mít téměř vždy jedinečné řešení, které můžete zjistit pomocí poměrně základní lineární algebry, optimalizace kvartické rovnice v mnoha proměnných má obvykle mnoho řešení, a proto několik kol algoritmů sestupu gradientu Různé odpovědi lze dosáhnout. Malé změny vstupu mohou způsobit překlopení poklesu z jednoho lokálního minima do druhého, což výrazně změní výsledky výstupu.

Rozdíl mezi tímto a algoritmy, které jsem pomáhal vyvinout, jako je sekundární financování, je pro mě jako rozdíl mezi algoritmem ekonoma a algoritmem inženýra. Algoritmy ekonomů se v nejlepším případě soustředí na jednoduchost, jsou relativně snadno analyzovatelné a mají jasné matematické vlastnosti, což naznačuje, že je to nejlepší (nebo nejméně špatné) pro vyřešení úlohy a v ideálním případě ji lze také dokázat. Kolik škody může někdo způsobit, když se ho snaží zneužít. Na druhé straně algoritmus inženýra je odvozen iterativním procesem pokusů a omylů, aby se zjistilo, co funguje a co nefunguje v operačním prostředí inženýra. Algoritmy inženýrů jsou pragmatické a algoritmy ekonomů zcela neztrácejí kontrolu, když čelí neočekávaným situacím.

Nebo, jak to uvádí respektovaný internetový filozof roon (aka tszzl) do souvisejícího vlákna:

Samozřejmě bych řekl, že aspekt „teoretické estetiky“ kryptoměn je nezbytný k tomu, aby bylo možné přesně rozlišovat mezi těmi protokoly, které jsou skutečně nedůvěryhodné, a těmi, které vypadají dobře a fungují dobře na povrchu, ale ve skutečnosti vyžadují důvěru v nějakého centralizovaného aktéra. Nebo ještě hůř, může to být úplný podvod.

Hluboké učení je za normálních okolností efektivní, ale má nevyhnutelné slabiny v různých nepřátelských útocích strojového učení. Pokud se to provede dobře, technické pasti a žebříky abstrakce na vysoké úrovni mohou těmto útokům zabránit. Takže mám otázku: Můžeme samotné Community Notes proměnit v něco více jako ekonomický algoritmus?

Abychom viděli, co to znamená v praxi, pojďme prozkoumat algoritmus, který jsem před několika lety navrhl pro podobný účel: párově ohraničené kvadratické financování.

Cílem párově ohraničeného kvadratického financování je zaplnit mezeru v „běžném“ kvadratickém financování, přičemž i když se dva účastníci dohodnou, mohou přispět velmi vysokými částkami na falešný projekt, vrátit jim prostředky a získat velké částky. dotace, které odčerpávají celý kapitálový fond. V párově ohraničeném kvadratickém financování přidělujeme každému páru aktérů omezený rozpočet M. Algoritmus prochází všemi možnými dvojicemi aktérů, a pokud se algoritmus rozhodne přidat dotaci k určitému projektu P, protože jej podporují jak aktér A, tak aktér B, pak se tato dotace odečte z rozpočtu přiděleného dvojici (A, B ). Proto, i když se k účastníků domluví, množství, které mohou z mechanismu ukrást, je maximálně k (k-1) M.

Tato forma algoritmu nefunguje dobře v kontextu komunitních poznámek, protože každý uživatel odevzdá pouze malý počet hlasů: v průměru je počet společných hlasů mezi libovolnými dvěma uživateli nula, takže jednoduše při pohledu na každý pár jednotlivě Uživatel, algoritmus nerozumí polaritě uživatele. Cílem modelu strojového učení je právě pokusit se „naplnit“ matici z velmi řídkých zdrojových dat, která nelze tímto způsobem přímo analyzovat. Problémem tohoto přístupu je však to, že je zapotřebí zvláštního úsilí, aby se zabránilo vysoce kolísavým výsledkům tváří v tvář malému počtu špatných hlasů.

Mohou Community Notes skutečně obstát nalevo a napravo?

Můžeme analyzovat, zda je algoritmus Community Notes skutečně schopen odolávat extrémům, tedy zda funguje lépe než naivní hlasovací algoritmus. Tento hlasovací algoritmus už do jisté míry odolává extrémům: příspěvek s 200 lajky a 100 nelajky bude mít horší výkon než příspěvek s pouhými 200 lajky. Ale jsou na tom Community Notes lépe?

Z pohledu abstraktního algoritmu je těžké říci. Proč by polarizační příspěvek s vysokým průměrným hodnocením neměl silnou polaritu a vysokou užitečnost? Myšlenka je taková, že pokud jsou tyto hlasy protichůdné, polarita by měla „absorbovat“ vlastnosti, které způsobily, že příspěvek získal mnoho hlasů, ale skutečně to dělá?

Abych to ověřil, spustil jsem svou vlastní zjednodušenou implementaci na 100 kol. Průměrné výsledky jsou následující:

V tomto testu získaly „dobré“ Notes hodnocení +2 mezi uživateli stejné politické příslušnosti a hodnocení +0 mezi uživateli opačné politické příslušnosti a „dobré, ale extrémnější“ Notes získaly hodnocení +0 mezi uživateli stejné politické příslušnosti získalo hodnocení +4 mezi uživateli opačné frakce a hodnocení -2 mezi uživateli opačné frakce. Přestože jsou průměrné výsledky stejné, polarita je odlišná. A ve skutečnosti se zdá, že průměrná užitečnost „dobrých“ Notes je vyšší než u „dobrých, ale extrémně nakloněných“ Notes.

Algoritmus, který je bližší „Economist's Algorithm“, bude mít jasnější příběh o tom, jak algoritmus penalizuje extrémy.

Jak užitečné je to všechno v situacích s vysokými sázkami?

Něco z toho se můžeme naučit, když se podíváme na konkrétní situaci. Asi před měsícem si Ian Bremmer stěžoval, že do tweetu o čínském vládním úředníkovi byla přidána vysoce kritická komunitní poznámka, ale poznámky byly mezitím odstraněny.

To je obtížný úkol. Jedna věc je navrhnout mechanismus v prostředí komunity Ethereum, kde největší stížností může být 20 000 dolarů, které dostane extrémní ovlivňovač Twitteru. Zcela jiná situace je u politických a geopolitických problémů, které se dotýkají milionů lidí, kde každý často důvodně předpokládá ty nejhorší motivy. Interakce s těmito vysoce důležitými prostředími je však nezbytná, pokud chtějí mít konstruktéři mechaniků významný dopad na svět.

V případě Twitteru existuje zřejmý důvod podezírat centralizovanou manipulaci jako důvod odstranění Notes: Elon Musk má v Číně mnoho obchodních zájmů, takže je možné, že Elon Musk donutil tým Community Notes zasahovat do výstupu algoritmu. a odeberte jej Tento konkrétní poznámky.

Naštěstí je algoritmus open source a ověřitelný, takže se do něj můžeme skutečně ponořit! Pojďme to udělat. Adresa URL původního tweetu je https://twitter.com/MFA_China/status/1676157337109946369. Číslo 1676157337109946369 na konci je ID tweetu. Toto ID můžeme vyhledat v datech ke stažení a identifikovat konkrétní řádek v tabulce, který obsahuje výše uvedené poznámky:

Zde získáme samotné ID Notes, 1676391378815709184. Toto ID pak hledáme v souborech score_notes.tsv a note_status_history.tsv generovaných spuštěním algoritmu. Získali jsme následující výsledky:

Druhý sloupec v prvním výstupu je aktuální hodnocení pro tyto poznámky. Druhý výstup zobrazuje historii Notes: jejich aktuální stav je ve sloupci sedm (NEEDS_MORE_RATINGS) a první stav, který dříve obdržel a který nebyl NEEDS_MORE_RATINGS, je ve sloupci pět (CURRENTLY_RATED_HELPFUL). Můžeme tedy vidět, že samotný algoritmus nejprve ukázal poznámku a poté ji odstranil poté, co její hodnocení mírně kleslo – nezdá se, že by se jednalo o nějaký centrální zásah.

Můžeme se na tento problém podívat i jinak, když se podíváme na samotné hlasování. Můžeme naskenovat soubor ratingů-00000.tsv, abychom izolovali všechna hodnocení pro dané poznámky a zjistili, kolik z nich má hodnocení HELPFUL a NOT_HELPFUL:

Pokud je však seřadíte podle časového razítka a podíváte se na prvních 50 hlasů, uvidíte, že existuje 40 UŽITEČNÝCH hlasů a 9 hlasů NEUŽITEČNÝCH. Dostáváme se tedy ke stejnému závěru: Počáteční publikum Notes hodnotilo Notes pozitivněji, zatímco následné publikum Notes ho hodnotilo méně příznivě, takže jeho hodnocení začalo vyšší a postupem času klesalo.

Bohužel, jak přesně Notes změnil status, je těžké vysvětlit: nejde o jednoduchou záležitost „dříve měl hodnocení nad 0,40, nyní má hodnocení pod 0,40, takže byl odstraněn“. Místo toho velký počet NOT_HELPFUL odpovědí spouští jednu z podmínek výjimky, čímž se zvyšuje skóre užitečnosti, které musí Notes zůstat nad prahovou hodnotou.

Toto je další skvělá příležitost k učení, která nám dává lekci: učinit důvěryhodný neutrální algoritmus skutečně důvěryhodným vyžaduje, aby byl jednoduchý. Pokud se poznámky změní z přijaté na nepřijatou, měl by existovat jednoduchý a jasný příběh vysvětlující, proč tomu tak je.

Samozřejmě existuje úplně jiný způsob, jak zmanipulovat toto hlasování: Brigáda. Někdo, kdo uvidí poznámky, se kterými nesouhlasí, může vyzvat vysoce angažovanou komunitu (nebo ještě hůř, legii falešných účtů), aby to ohodnotila NE_POMOCNÝM, a přesun poznámek z „Užitečné“ se stane „extrémním“ nemusí vyžadovat příliš mnoho hlasů. K řádnému snížení zranitelnosti algoritmu vůči takovým koordinovaným útokům je zapotřebí více analýzy a práce. Možným vylepšením by bylo nedovolit žádnému uživateli hlasovat o jakýchkoli poznámkách, ale místo toho náhodně přidělovat poznámky hodnotitelům způsobem doporučeným algoritmem „For You“ a umožnit hodnotitelům hodnotit pouze ty poznámky, ke kterým byly přiřazeny.

Nejsou Community Notes dostatečně „odvážné“?

Hlavní kritika, kterou vidím vůči Community Notes, je v zásadě to, že nedělá dost. Viděl jsem dva nedávné články, které to zmiňovaly. Abych citoval jeden z článků:

Program trpí vážným omezením, které spočívá v tom, že aby byly Community Notes veřejné, musí být všeobecně přijaty konsensem lidí napříč politickým spektrem.

"Musí mít ideologický konsensus," řekl. "To znamená, že lidé nalevo a lidé napravo musí souhlasit s tím, že poznámka musí být připojena k tweetu."

V podstatě to podle něj vyžaduje „křížovou ideologickou shodu na pravdě, které je téměř nemožné dosáhnout ve stále více stranickém prostředí“.

Je to těžká otázka, ale nakonec se přikláním k názoru, že je lepší nechat volně šířit deset tweetů dezinformací, než mít jeden tweet nespravedlivě anotovaný. Zažili jsme roky ověřování faktů a je to odvážné a je to z pohledu „ve skutečnosti známe pravdu, víme, že jedna strana lže častěji než druhá“. Jaký bude výsledek?

Abych byl upřímný, ke konceptu ověřování faktů panuje poměrně rozšířená nedůvěra. Zde je strategie, která říká: Ignorujte kritiky, pamatujte, že odborníci na kontrolu faktů skutečně znají fakta lépe než jakýkoli volební systém, a držte se jich. Ale jít all-in na tento přístup se zdá riskantní. Má cenu budovat mezikmenové instituce, které jsou všemi alespoň do určité míry respektovány. Stejně jako zásada Williama Blackstonea a soudy mám pocit, že zachování tohoto respektu vyžaduje systém, který dělá chyby spíše opomenutím než proaktivně. Zdá se mi tedy, že má cenu alespoň jedna velká organizace jít touto odlišnou cestou a zacházet se svým vzácným mezikmenovým respektem jako se vzácným zdrojem.

Dalším důvodem, proč si myslím, že je v pořádku, aby byly Community Notes konzervativní, je to, že si nemyslím, že každý dezinformační tweet, nebo dokonce většina dezinformačních tweetů, by měla dostat opravnou poznámku. I když méně než jedno procento dezinformačních tweetů obsahuje anotace, které poskytují kontext nebo opravu, Community Notes stále poskytuje mimořádně cennou službu jako vzdělávací nástroj. Cílem není vše napravit, spíše je cílem připomenout, že existuje několik úhlů pohledu, že některé příspěvky, které vypadají přesvědčivě a osamoceně, jsou ve skutečnosti docela špatné a že vy, ano, obvykle umíte základní vyhledávání na internetu; ověřit, že je to špatně.

Community Notes nemohou být a ani nemají být všelékem na všechny problémy ve veřejné epistemologii. Ať už to nevyřeší jakékoli problémy, existuje spousta prostoru pro jiné mechanismy, které jej zaplní, ať už se jedná o nový gadget, jako je trh s předpověďmi, nebo zavedenou organizaci zaměstnávající zaměstnance na plný úvazek s odborností v dané oblasti, která se může pokusit zaplnit mezery.

na závěr

Community Notes nejsou jen fascinujícím experimentem na sociálních sítích, ale také příkladem fascinujícího vznikajícího typu návrhu mechanismu: mechanismů, které se vědomě snaží identifikovat extrémy a mají tendenci podporovat překračování hranic spíše než udržovat rozdělení.

Dva další příklady v této kategorii, o kterých vím, jsou: (i) párový sekundární mechanismus financování používaný v Gitcoinových grantech a (ii) Polis, diskusní nástroj, který používá shlukovací algoritmy, aby pomohl komunitě identifikovat společné populární výroky mezi lidmi kteří mají často různé názory. Tato oblast návrhu mechanismu je cenná a doufám, že v této oblasti uvidíme více akademické práce.

Algoritmická transparentnost poskytovaná Community Notes není úplně stejná jako u plně decentralizovaných sociálních médií – pokud nesouhlasíte s tím, jak Community Notes fungují, neexistuje způsob, jak zobrazit stejný obsah pomocí jiného algoritmu. Ale to je to nejblíže, k čemu se hyperškálové aplikace dostanou v příštích několika letech, a vidíme, že to již poskytuje velkou hodnotu, a to jak v prevenci centralizované manipulace, tak v zajištění toho, že platformy, které se do takové manipulace nezapojují, budou uznány .

Těším se, až uvidím poznámky komunity a mnoho podobně zaměřených algoritmů, jak se vyvinou a porostou během příštího desetiletí.