verifiableinterference

Dnes jsem se díval na své pozice $OPG test z před více než týdne a přistihl jsem se, že přemýšlím o něčem, co obvykle ignoruji: jak vlastně víme, že rozhodnutí AI bylo učiněno ze správných důvodů?

Stále se nezapojuji do velkých pozic, jen sleduji a učím se, ale co mě zaujalo u @OpenGradient , je důraz na ověřitelnou inferenci.

Zajímavé na tom není jen chytřejší AI agenti — jde o vytvoření způsobu, jakým si lidé mohou zkontrolovat proces za výstupem.

Myslím, že první významné experimenty pravděpodobně nebudou provádět obrovské společnosti nebo vlády. Budou to menší komunity řízené AI, kde agenti spravují zdroje, pravidla nebo rozhodnutí.

V těchto nastaveních se důvěra testuje rychle, protože se všichni ptají na to samé: „Proč si AI vybrala toto?”

Krypto nás už naučilo ověřovat transakce místo důvěřování slibům.

Vidět, že se tento koncept aplikuje na uvažování AI, je to, co považuji za hodnotné sledovat.

#OPG #OpenGradient #VerifiableInterference #AI