Twitter (X) pēdējos divus gadus ir bijis nemierīgs. Pagājušajā gadā Elons Masks iegādājās platformu par 44 miljardiem ASV dolāru un pēc tam pārveidoja uzņēmuma personāla komplektāciju, satura regulēšanu, biznesa modeli un vietņu kultūru. Šīs izmaiņas var būt vairāk saistītas ar Elona Maska maigo varu., nevis konkrētiem politiskiem lēmumiem. Tomēr šo pretrunīgo darbību laikā jauna funkcija pakalpojumā Twitter ir ātri kļuvusi svarīga, un šķiet, ka to iecienījuši cilvēki visā politiskajā spektrā: kopienas piezīmes.

Kopienas piezīmes ir faktu pārbaudes rīks, kas dažkārt pievieno kontekstuālas piezīmes tvītiem, piemēram, Īlona Maska tvītā iepriekš, kā faktu pārbaudes un pretdezinformācijas rīku. Sākotnēji tas tika saukts par Birdwatch un pirmo reizi tika uzsākts kā izmēģinājuma projekts 2021. gada janvārī. Kopš tā laika tas ir pakāpeniski paplašinājies, un tā straujākā paplašināšanās sakrīt ar Elona Muska Twitter pārņemšanu pagājušajā gadā. Kopienas piezīmes regulāri parādās starp tvītiem, kam šajās dienās Twitter tiek pievērsta plaša uzmanība, tostarp tiem, kas attiecas uz strīdīgām politiskām tēmām. Manuprāt un mans secinājums, runājot ar daudziem cilvēkiem visā politiskā spektrā, šīs piezīmes ir informatīvas un vērtīgas, kā tās parādās.

Tomēr mani visvairāk interesē Kopienas piezīmes, kas, lai arī nav "kriptoprojekts", iespējams, ir tuvākais "kripto vērtību" gadījums, ko esam redzējuši galvenajā pasaulē. Kopienas piezīmes neraksta vai nepārvalda daži centralizēti atlasīti eksperti, tā vietā ikviens var rakstīt un balsot, un to, kuras piezīmes tiek rādītas vai neparādās, pilnībā nosaka atvērtā pirmkoda algoritmi. Twitter tīmekļa vietnē ir detalizēts un visaptverošs ceļvedis, kurā aprakstīts, kā darbojas algoritms, un jūs varat lejupielādēt datus, kas satur publicētas piezīmes un aptaujas, palaist algoritmu lokāli un pārbaudīt, vai rezultāts atbilst Twitter vietnē redzamajam. Lai gan tas nav ideāls, tas ir pārsteidzoši tuvu uzticamas neitralitātes ideālam diezgan strīdīgās situācijās, un tajā pašā laikā ir ļoti noderīgs.

Kā darbojas Kopienas piezīmju algoritms?

Ikviens, kam ir Twitter konts, kas atbilst noteiktiem kritērijiem (pamatā: aktīvs vairāk nekā 6 mēnešus, nav politikas pārkāpumu, verificēts mobilā tālruņa numurs), var reģistrēties dalībai kopienas piezīmēs. Pašlaik dalībnieki tiek pieņemti lēni un nejauši, bet galu galā plāns ir ļaut pievienoties ikvienam, kas atbilst prasībām. Kad tas ir pieņemts, vispirms varat piedalīties esošo piezīmju vērtēšanā un, tiklīdz jūsu vērtējumi ir pietiekami labi (novērtējot, kuri vērtējumi atbilst šīs piezīmes galīgajiem rezultātiem), varat arī rakstīt savas piezīmes.

Rakstot piezīmi, piezīme saņem punktu, pamatojoties uz citu kopienas piezīmju dalībnieku atsauksmēm. Šīs atsauksmes var uzskatīt par balsojumu trīs līmeņos “noderīgs”, “nedaudz noderīgs” un “nav noderīgs”, taču atsauksmēs var iekļaut arī citus apzīmējumus, kam ir nozīme algoritmā. Pamatojoties uz šīm atsauksmēm, programmai Notes tiek piešķirts vērtējums. Ja piezīmes rezultāts pārsniedz 0,40, notis tiks parādīts pretējā gadījumā.

Algoritma unikāls ir tas, kā tiek aprēķināti rādītāji. Atšķirībā no vienkāršiem algoritmiem, kas ir paredzēti, lai tikai aprēķinātu lietotāju vērtējumu summu vai vidējo vērtību un izmantotu to kā gala rezultātu, Kopienas piezīmju vērtēšanas algoritms nepārprotami mēģina piešķirt prioritāti tiem, kuri ir saņēmuši pozitīvas atsauksmes no cilvēkiem ar dažādām piezīmēm. Tas ir, ja cilvēki, kuri parasti nepiekrīt par vērtējumiem, vienojas par konkrētu piezīmi, šī piezīme tiks novērtēta augstu.

Apskatīsim tuvāk, kā tas darbojas. Mums ir lietotāju kopa un piezīmju kopa, mēs varam izveidot matricu M, kur šūna Mij attēlo to, kā i-tais lietotājs novērtēja j-tās piezīmes.

Lielākā daļa lietotāju nav novērtējuši šīs piezīmes, tāpēc vairums ierakstu matricā būs nulle, taču tas ir labi. Algoritma mērķis ir izveidot četru sleju lietotāju un piezīmju modeli, katram lietotājam piešķirot divus statistiku, ko varam saukt par "draudzīgumu" un "polaritāti", un divus statistiku katrai piezīmei, ko mēs to saucam par "lietderību". " un "polaritāte". Modelis mēģina paredzēt matricu kā funkciju no šīm vērtībām, izmantojot šādu formulu:

Ņemiet vērā, ka šeit es prezentēju Birdwatch rakstā izmantoto terminoloģiju, kā arī terminus, ko es piedāvāju, lai nodrošinātu intuitīvāku izpratni par mainīgo nozīmi, neiesaistot matemātiskus jēdzienus:

• μ ir "sabiedrības noskaņojuma" parametrs, kas mēra, cik augstus vērtējumus parasti piešķir lietotāji.

• iu ir lietotāja "draudzīgums", t.i., cik liela ir iespējamība, ka lietotājs mēdz dot augstu novērtējumu.

• in ir Parādzīmju "lietderība", tas ir, cik liela ir iespējamība, ka Parādzīmes tiks novērtētas augstu. Šis ir mainīgais, kas mums rūp.

• fu vai fn ir lietotāja vai piezīmju "polaritāte", t.i., viņu pozīcija uz politisko galējību dominējošās ass. Praksē negatīvā polaritāte aptuveni nozīmē "svērumu pa kreisi" un pozitīvā polaritāte nozīmē "svērumu pa labi", taču, lūdzu, ņemiet vērā, ka galējās asis tiek iegūtas, analizējot lietotāja un Notes datus, un kreisās un labās puses jēdzieni nav stingri iekodēti.

Algoritms izmanto diezgan vienkāršu mašīnmācīšanās modeli (standarta gradienta nolaišanās), lai atrastu labākās mainīgās vērtības, lai prognozētu matricas vērtības. Noderīgums, kas piešķirts konkrētai piezīmei, ir šīs piezīmes galīgais rezultāts. Piezīme tiks parādīta, ja tās lietderība ir vismaz +0,4.

Galvenā gudrība šeit ir tāda, ka "polaritāte" absorbē Notes īpašības, kas izraisa to, ka tā patīk dažiem lietotājiem, bet nepatīk citiem, savukārt "lietderība" mēra tikai piezīmes īpašības. Šīs funkcijas noved pie tā, ka tā patīk visiem lietotājiem. Tādējādi, izvēloties lietderību, tiek identificētas piezīmes, kuras ir atbalstītas visās ciltīs, un tiek izslēgtas piezīmes, kuras viena cilts uzmundrina, bet cita apmierina.

Iepriekš minētais apraksta tikai algoritma galveno daļu. Faktiski tam ir pievienotas daudzas papildu mehānikas. Par laimi, tie ir aprakstīti publiskajā dokumentācijā. Šajos mehānismos ietilpst:

• Algoritms tiek palaists vairākas reizes, katru reizi balsojumam pievienojot dažas nejauši ģenerētas ārkārtējas "viltus balsis". Tas nozīmē, ka katras piezīmes algoritma patiesā izvade ir vērtību diapazons, un gala rezultāts ir atkarīgs no "zemākas ticamības", kas ņemta no šī diapazona un salīdzināta ar slieksni 0,32.

• Ja daudzi lietotāji (īpaši tie, kuriem ir piezīmju polaritāte) novērtē piezīmi kā "Nav noderīgs" un viņi arī piešķir to pašu "tagu" (piemēram, "argumentatīva vai neobjektīva valoda", "neparasts avots") "Atbalsta piezīmes") vērtējuma iemeslu, tad piezīmju publicēšanai nepieciešamais lietderības slieksnis palielināsies no 0,4 līdz 0,5 (tas var šķist maz, bet praksē ir ļoti svarīgi).

• Ja piezīme tiek pieņemta, tās lietderība ir jāsamazina līdz 0,01 punktam zem sliekšņa, kas nepieciešams, lai piezīmi pieņemtu.

• Algoritms veic vairāk darbību, izmantojot vairākus modeļus, dažkārt paaugstinot Notes ar neapstrādātiem lietderības rādītājiem no 0,3 līdz 0,4.

Kopumā jūs saņemat diezgan sarežģītu Python kodu, kurā kopā ir 6282 rindas, kas sadalītas 22 failos. Bet tas viss ir atvērts, un jūs varat lejupielādēt piezīmes un vērtēšanas datus un palaist tos pats, lai redzētu, vai rezultāts atbilst tam, kas patiesībā notiek pakalpojumā Twitter.

Tātad, kā tas izskatās praksē?

Iespējams, lielākā atšķirība starp šo algoritmu un vienkāršu vidējo punktu skaitu no cilvēku balsīm ir jēdziens, ko es saucu par "polārajām" vērtībām. Algoritma dokumentācijā tie tiek apzīmēti kā fu un fn, faktoriem izmantojot f, jo šie divi termini viens otru reizina, jo vispārīgākā terminoloģija daļēji ir saistīta ar iespējamo vēlmi padarīt fu un fn daudzdimensionālus.

Polaritāte tiek piešķirta lietotājiem un piezīmēm. Saikne starp lietotāja ID un pamatā esošo Twitter kontu tiek apzināti turēta noslēpumā, taču piezīmes ir publiskas. Faktiski, vismaz angļu datu kopai, algoritma ģenerētā polaritāte ļoti cieši korelē ar kreiso un labo pusi.

Šeit ir daži piezīmju piemēri ar polaritāti ap -0,8:

Ņemiet vērā, ka es šeit neņemu vērā, ka šīs ir pirmās trīs rindas scored_notes.tsv izklājlapā, ko ģenerēju, palaižot algoritmu lokāli, un to polaritātes rādītāji (izklājlapā saukti par coreNoteFactor1) ir mazāki par - 0,8.

Tagad šeit ir dažas piezīmes ar polaritāti aptuveni +0,8. Izrādās, ka daudzi no viņiem ir vai nu cilvēki, kas portugāļu valodā runā par Brazīlijas politiku, vai arī Teslas fani, kas dusmīgi atspēko Teslas kritiku, tāpēc ļaujiet man nedaudz izvēlēties un atrast dažas piezīmes, kas neietilpst nevienā no kategorijām:

Atgādinām, ka "kreisais un labējais dalījums" nekādā veidā nav iekodēts algoritmā. Tas liek domāt, ka, ja lietojat šo algoritmu citos kultūras kontekstos, tas var automātiski noteikt to galvenās politiskās šķelšanās un veidot tiltus starp šiem dalījumiem.

Tikmēr Piezīmes maksimālai lietderībai izskatās šādi. Šoreiz, tā kā piezīmes faktiski tiek rādītas Twitter, es varu vienkārši uzņemt ekrānuzņēmumu:

Ir vēl viens:

Otrajām piezīmēm tiešāk tiek aplūkotas ļoti partizānas politiskās tēmas, taču tās ir skaidras, kvalitatīvas un informatīvas piezīmes, tāpēc tas saņem augstu novērtējumu. Kopumā šķiet, ka algoritms darbojas, un šķiet, ka ir iespējams pārbaudīt algoritma izvadi, palaižot kodu.

Ko es domāju par šo algoritmu?

Analizējot šo algoritmu, mani visvairāk pārsteidza tā sarežģītība. Ir "akadēmiskā papīra versija", kas izmanto gradienta nolaišanos, lai atrastu vislabāko piecu termiņu vektoru un matricu vienādojumu atbilstību, un tad ir reālā versija, sarežģīta algoritma izpildes sērija ar daudzām dažādām izpildēm un daudzām patvaļām. veids.

Pat akadēmiskā papīra versija slēpj pamatā esošo sarežģītību. Tā optimizētais vienādojums ir negatīvs ceturtais (jo prognozēšanas formulā ir kvadrātisks fu*fn termins un izmaksu funkcija mēra kļūdas kvadrātu). Lai gan optimizējot kvadrātvienādojumu jebkādā skaitā mainīgo, gandrīz vienmēr būs unikāls risinājums, ko varat izdomāt ar diezgan vienkāršu lineāro algebru, kvartiskā vienādojuma optimizācijai daudzos mainīgajos parasti ir daudz risinājumu, līdz ar to vairākas gradienta nolaišanās algoritmu kārtas. atbildes var tikt sasniegtas. Nelielas ievades izmaiņas var izraisīt krituma pārslēgšanos no viena lokālā minimuma uz citu, būtiski mainot izvades rezultātus.

Atšķirība starp šo un algoritmiem, kurus es palīdzēju izstrādāt, tāpat kā sekundārais finansējums, man ir kā atšķirība starp ekonomista algoritmu un inženiera algoritmu. Ekonomistu algoritmi labākajā gadījumā ir vērsti uz vienkāršību, ir salīdzinoši viegli analizējami un ar skaidrām matemātiskām īpašībām, kas norāda, ka tas ir vislabākais (vai vismazāk sliktākais) risināmajam uzdevumam un ideālā gadījumā to var arī pierādīt. Cik lielu kaitējumu kāds var nodarīt, mēģinot to izmantot. No otras puses, inženiera algoritms tiek iegūts iteratīvā izmēģinājumu un kļūdu procesā, lai redzētu, kas darbojas un kas nedarbojas inženiera darbības vidē. Inženieru algoritmi ir pragmatiski, un ekonomistu algoritmi pilnībā nezaudē kontroli, saskaroties ar negaidītām situācijām.

Vai arī, kā cienījamais interneta filozofs Roons (aka tszzl) to izsaka saistītā pavedienā:

Protams, es teiktu, ka kriptovalūtu "teorētiskās estētikas" aspekts ir nepieciešams, lai varētu precīzi atšķirt tos protokolus, kas ir patiesi neuzticami, no tiem, kas izskatās labi un labi darbojas virspusē, bet patiesībā prasa uzticību kādam centralizētam dalībniekam. Vai vēl ļaunāk, tā varētu būt pilnīga krāpniecība.

Padziļināta mācīšanās ir efektīva normālos apstākļos, taču tai ir neizbēgami trūkumi dažādos pretējos mašīnmācīšanās uzbrukumos. Ja tas tiek darīts labi, tehniskie slazdi un augsta līmeņa abstrakcijas kāpnes var cīnīties ar šiem uzbrukumiem. Tātad, man ir jautājums: vai mēs varam pārvērst Kopienas piezīmes par kaut ko vairāk līdzīgu ekonomikas algoritmam?

Lai redzētu, ko tas nozīmē praksē, izpētīsim algoritmu, ko pirms dažiem gadiem izstrādāju līdzīgam mērķim: pāriem ierobežots kvadrātiskais finansējums.

Pa pāriem ierobežota kvadrātiskā finansējuma mērķis ir aizpildīt nepilnības "parastajā" kvadrātiskajā finansēšanā, tādējādi pat tad, ja divi dalībnieki savstarpēji vienojas, viņi var ieguldīt ļoti lielas summas viltus projektā, atdot viņiem līdzekļus un saņemt lielus līdzekļus. subsīdijas, kas iztukšo visu kapitāla fondu. Pāru robežās kvadrātiskajā finansējumā mēs piešķiram ierobežotu budžetu M katram dalībnieku pārim. Algoritms atkārtojas caur visiem iespējamiem dalībnieku pāriem, un, ja algoritms nolemj pievienot subsīdiju noteiktam projektam P, jo to atbalsta gan aktieris A, gan aktieris B, tad šī subsīdija tiek atskaitīta no pārim piešķirtā budžeta (A, B). ) . Tāpēc, pat ja k dalībnieki vienojas, summa, ko viņi var nozagt no mehānisma, ir ne vairāk kā k (k-1) M.

Šī algoritma forma nedarbojas labi kopienas piezīmju kontekstā, jo katrs lietotājs nodod tikai nelielu skaitu balsu: vidēji kopīgo balsu skaits starp diviem lietotājiem ir nulle, tāpēc, aplūkojot katru pāri atsevišķi. Lietotājs, algoritms nevar saprast lietotāja polaritāti. Mašīnmācīšanās modeļa mērķis ir tieši mēģināt "aizpildīt" matricu no ļoti retiem avota datiem, kurus nevar tieši analizēt šādā veidā. Taču šīs pieejas izaicinājums ir tāds, ka ir jāpieliek papildu pūles, lai izvairītos no ļoti nepastāvīgiem rezultātiem, saskaroties ar nelielu skaitu sliktu balsojumu.

Vai Kopienas piezīmes patiešām var izturēt kreiso un labo pusi?

Mēs varam analizēt, vai Kopienas piezīmju algoritms patiešām spēj pretoties galējībām, tas ir, vai tas darbojas labāk nekā naivs balsošanas algoritms. Šis balsošanas algoritms jau zināmā mērā pretojas galējībām: ziņa ar 200 atzīmēm Patīk un 100 Nepatīk būs sliktāka nekā ziņa ar tikai 200 atzīmēm Patīk. Bet vai Kopienas piezīmes darbojas labāk?

No abstrakta algoritma viedokļa to ir grūti pateikt. Kāpēc polarizējošam ierakstam ar augstu vidējo vērtējumu nebūtu spēcīgas polaritātes un augstas lietderības? Ideja ir tāda, ka, ja šīs balsis ir pretrunīgas, polaritātei vajadzētu "absorbēt" iezīmes, kuru dēļ ziņa saņēma daudz balsu, bet vai tas tiešām to dara?

Lai to pārbaudītu, es veicu savu vienkāršoto ieviešanu 100 kārtās. Vidējie rezultāti ir šādi:

Šajā testā Notes saņēma vērtējumu +2 starp vienas un tās pašas politiskās piederības lietotājiem un +0 vērtējumu starp lietotājiem ar pretēju politisko piederību, bet "labi, bet ekstrēmāki" Notes saņēma vērtējumu +0 starp lietotāju vidū tā pati politiskā piederība Saņēmusi vērtējumu +4 starp pretējās frakcijas lietotājiem un -2 vērtējumu starp pretējās frakcijas lietotājiem. Lai gan vidējie rādītāji ir vienādi, polaritāte ir atšķirīga. Un patiesībā šķiet, ka "labo" piezīmju vidējā lietderība ir augstāka nekā "labām, bet ekstrēmākām" piezīmēm.

Izmantojot algoritmu, kas ir tuvāks “Ekonomista algoritmam”, būs skaidrāks stāsts par to, kā algoritms sodīs galējības.

Cik tas viss noder augstu likmju situācijās?

Mēs to varam uzzināt, aplūkojot konkrētu situāciju. Apmēram pirms mēneša Ians Bremers sūdzējās, ka tviterī par Ķīnas valdības amatpersonu tika pievienota ļoti kritiska kopienas piezīme, taču kopš tā laika piezīmes tika noņemtas.

Tas ir grūts uzdevums. Viena lieta ir izstrādāt mehānismu Ethereum kopienas vidē, kur lielākā sūdzība varētu būt tikai 20 000 USD, kas tiek novirzīti kādam galējam Twitter ietekmētājam. Situācija ir pavisam citāda, ja runa ir par politiskiem un ģeopolitiskiem jautājumiem, kas skar miljoniem cilvēku, kur ikviens bieži vien pamatoti uzņemas ļaunākos motīvus. Tomēr mijiedarbība ar šīm augsto likmēm vidēm ir būtiska, ja mehāniķu dizaineri vēlas būtiski ietekmēt pasauli.

Twitter gadījumā ir acīmredzams iemesls aizdomām par centralizētu manipulāciju kā iemeslu Notes noņemšanai: Elonam Muskam ir daudz biznesa interešu Ķīnā, tāpēc iespējams, ka Elons Masks piespieda Community Notes komandu iejaukties algoritma izvadē. un noņemiet to Šīs īpašās piezīmes.

Par laimi algoritms ir atvērtā koda un pārbaudāms, tāpēc mēs varam tajā iedziļināties! Darām to. Sākotnējā tvīta URL ir https://twitter.com/MFA_China/status/1676157337109946369. Numurs 1676157337109946369 beigās ir tvīta ID. Mēs varam meklēt šo ID lejupielādējamos datos un identificēt konkrēto izklājlapas rindu, kurā ir iepriekš minētās piezīmes:

Šeit mēs iegūstam pašu piezīmju ID 1676391378815709184. Pēc tam mēs meklējam šo ID failos scored_notes.tsv un note_status_history.tsv, kas ģenerēti, izpildot algoritmu. Mēs saņēmām šādus rezultātus:

Pirmās izvades otrā sleja ir šo piezīmju pašreizējais vērtējums. Otrajā izvadā ir parādīta piezīmju vēsture: tās pašreizējais statuss ir septītajā kolonnā (NEEDS_MORE_RATINGS), un pirmais statuss, ko tas iepriekš saņēma un kas nebija NEEDS_MORE_RATINGS, ir piektajā kolonnā (CURRENTLY_RATED_HELPFUL). Tātad mēs varam redzēt, ka pats algoritms vispirms parādīja piezīmi un pēc tam noņēma to pēc tam, kad tās vērtējums nedaudz samazinājās — šķiet, ka tajā nav iesaistīta nekāda centrālā iejaukšanās.

Mēs varam uz šo jautājumu paskatīties arī citādi, skatoties uz pašu balsojumu. Mēs varam skenēt vērtējumu-00000.tsv failu, lai izolētu visus šo piezīmju vērtējumus un redzētu, cik daudz ir novērtēti NODERĪGI un NAV_NODERĪGI:

Tomēr, ja sakārtosit tos pēc laikspiedola un apskatīsit pirmās 50 balsis, redzēsit, ka ir 40 NODERĪGI balsojumi un 9 NE_NODERĪGI balsojumi. Tātad mēs nonākam pie tāda paša secinājuma: Notes sākotnējā auditorija novērtēja Notes pozitīvāk, bet nākamā Notes auditorija to novērtēja ne tik labvēlīgi, tāpēc tās vērtējumi sākās augstāki un laika gaitā samazinājās.

Diemžēl ir grūti izskaidrot, kā tieši Notes mainīja statusu: tas nav vienkāršs jautājums: "iepriekš tas tika novērtēts virs 0,40, tagad tas ir zem 0,40, tāpēc tas tika noņemts". Tā vietā liels skaits NOT_HELPFUL atbilžu aktivizē vienu no izņēmuma nosacījumiem, palielinot lietderības rādītāju, kas programmai Notes ir nepieciešams, lai tas nepārsniegtu slieksni.

Šī ir vēl viena lieliska mācību iespēja, kas mums māca: lai uzticams neitrāls algoritms būtu patiesi uzticams, tas ir jāsaglabā vienkārši. Ja piezīmes kļūst no pieņemtas uz nepieņemšanu, ir jābūt vienkāršam un skaidram stāstam, kas izskaidro, kāpēc tas tā ir.

Protams, ir pavisam cits veids, kā manipulēt ar šo balsojumu: brigādes. Ikviens, kurš redz piezīmes, kuras viņš neapstiprina, var aicināt ļoti iesaistītu kopienu (vai vēl ļaunāk, viltus kontu leģionu) novērtēt to NOT_HELPFUL, un, iespējams, nav vajadzīgs pārāk daudz balsu, lai pārvietotu piezīmes no sadaļas “Noderīgi” un kļūst par “ekstrēmu”. Nepieciešama lielāka analīze un darbs, lai pareizi samazinātu algoritma neaizsargātību pret šādiem koordinētiem uzbrukumiem. Iespējamais uzlabojums būtu neļaut nevienam lietotājam balsot par piezīmēm, bet tā vietā nejauši piešķirt piezīmes vērtētājiem, kā ieteikts algoritmā "Jums", un ļaut vērtētājiem novērtēt tikai tās piezīmes, kurām tie ir piešķirti.

Vai Kopienas piezīmes nav pietiekami "drosmīgas"?

Galvenā kritika, ko es redzu attiecībā uz kopienas piezīmēm, būtībā ir tā, ka tās nedara pietiekami daudz. Es redzēju divus nesenos rakstus, kuros tas tika minēts. Citējot vienu no rakstiem:

Programma cieš no nopietniem ierobežojumiem, proti, lai kopienas piezīmes būtu publiski pieejamas, tai ir jābūt vispārpieņemtai, vienojoties ar visu politisko spektru.

"Tam ir jābūt ideoloģiskai vienprātībai," viņš teica. "Tas nozīmē, ka cilvēkiem pa kreisi un cilvēkiem ir jāpiekrīt, ka piezīme ir jāpievieno tvītam."

Pēc viņa teiktā, būtībā tas prasa "starp ideoloģisku vienošanos par patiesību, ko ir gandrīz neiespējami panākt arvien partizālākā vidē".

Tas ir grūts jautājums, bet galu galā es sliecos domāt, ka labāk ir, ja desmit dezinformācijas tvīti tiek izplatīti brīvi, nekā viens tvīts negodīgi anotēts. Mēs esam redzējuši gadiem ilgu faktu pārbaudi, un tas ir drosmīgi, un tas ir no viedokļa "patiesībā mēs zinām patiesību, mēs zinām, ka viena puse melo biežāk nekā otra". Kāds būs rezultāts?

Godīgi sakot, pastāv diezgan plaši izplatīta neuzticēšanās faktu pārbaudes jēdzienam. Šeit ir stratēģija, kas saka: ignorējiet kritiķus, atcerieties, ka faktu pārbaudes eksperti patiešām zina faktus labāk nekā jebkura balsošanas sistēma, un pieturieties pie tā. Taču pilnībā izmantot šo pieeju šķiet riskanti. Ir vērts veidot starpcilšu institūcijas, kuras visi vismaz zināmā mērā ciena. Tāpat kā Viljama Blekstona maksima un tiesas, es uzskatu, ka šīs cieņas saglabāšanai ir nepieciešama sistēma, kas pieļauj kļūdas, izlaižot, nevis aktīvi. Tāpēc man šķiet, ka ir vērtība, ja vismaz viena liela organizācija izvēlas šo atšķirīgo ceļu un izturas pret savu reto cilšu cieņu kā pret vērtīgu resursu.

Vēl viens iemesls, kādēļ es uzskatu, ka Kopienas piezīmēm ir jābūt konservatīvām, ir tas, ka es nedomāju, ka katram dezinformācijas tvītam vai pat lielākajai daļai dezinformācijas tvītu būtu jāsaņem koriģējoša piezīme. Lai gan mazāk nekā viens procents dezinformācijas tvītu saņem anotācijas, kas sniedz kontekstu vai labojumus, Kopienas piezīmes joprojām nodrošina ārkārtīgi vērtīgu pakalpojumu kā izglītojošu līdzekli. Mērķis nav visu labot, bet gan atgādināt cilvēkiem, ka ir vairāki viedokļi, ka daži ieraksti, kas šķiet pārliecinoši un izolēti, patiesībā ir diezgan nepareizi un ka jūs, jā, parasti varat veikt vienkāršu meklēšanu internetā; lai pārliecinātos, ka tas ir nepareizi.

Kopienas piezīmes nevar būt un arī nav paredzēts, lai tā būtu panaceja visām publiskās epistemoloģijas problēmām. Neatkarīgi no problēmām, kuras tas neatrisina, ir daudz vietas citiem mehānismiem, lai to aizpildītu, neatkarīgi no tā, vai tas ir jauns sīkrīks, piemēram, prognožu tirgus, vai izveidota organizācija, kas nodarbina pilnas slodzes darbiniekus ar domēna kompetenci un var mēģināt aizpildīt nepilnības.

noslēgumā

Community Notes ir ne tikai aizraujošs sociālo mediju eksperiments, bet arī aizraujoša jauna veida mehānismu dizaina piemērs: mehānismi, kas apzināti cenšas identificēt galējības un tiecas veicināt robežu šķērsošanu, nevis iemūžināt šķelšanos.

Divi citi piemēri šajā kategorijā, par kuriem es zinu, ir: (i) pāru sekundārais finansēšanas mehānisms, ko izmanto Gitcoin Grants, un (ii) Polis, diskusiju rīks, kas izmanto klasterizācijas algoritmus, lai palīdzētu kopienai identificēt izplatītākos populāros paziņojumus, kas attiecas uz cilvēkiem. kuriem bieži ir dažādi uzskati. Šī mehānisma dizaina joma ir vērtīga, un es ceru, ka mēs redzēsim vairāk akadēmiskā darba šajā jomā.

Kopienas piezīmju nodrošinātā algoritmiskā caurspīdīgums nav gluži tas pats, kas pilnībā decentralizēti sociālie saziņas līdzekļi — ja nepiekrītat Kopienas piezīmju darbības veidam, nav iespējams skatīt to pašu saturu, izmantojot citu algoritmu. Bet tas ir tuvākais, ko tuvāko gadu laikā iegūs hiperskalas lietojumprogrammas, un mēs varam redzēt, ka tas jau tagad sniedz lielu vērtību, gan novēršot centralizētas manipulācijas, gan nodrošinot, ka platformas, kas nenodarbojas ar šādām manipulācijām, saņem savu atzinību .

Ar nepacietību gaidu, kad nākamajā desmitgadē attīstīsies un attīstīsies kopienas piezīmes un daudzi līdzīga gara algoritmi.