Одна річ, про яку я останнім часом думала, має дуже мало спільного з тим, наскільки розумний AI стає. Йдеться про дещо набагато тихіше. Коли ці системи ухвалюють дедалі більше рішень за нас, ми стаємо кращими в тому, щоб бачити, що саме вони зробили, але гіршими в тому, щоб розуміти, чому вони це зробили. Сьогодні ця різниця здається незначною, проте я підозрюю, що вона дуже швидко зросте, коли автоматизація поширюватиметься. Саме тому мій інтерес привернув Newton Protocol. Не тому, що він обіцяє більше автоматизації, а тому, що він піднімає глибше питання про те, чи майбутні ринки взагалі будуть так само цінувати історію рішень, як і самі рішення.
Крипто завжди було хорошим у тому, щоб доводити результати. Сталася транзакція. Укладена угода. Перемістилися кошти. Ці речі відносно легко перевірити. Але ШІ додає ще один рівень. Рішення більше не приходять напряму від людей. Вони з’являються з систем, що реагують на змінну інформацію, зміщені стимули та попередні дії. Десь у цьому процесі контекст починає зникати. Машина діє, але міркування гасне майже одразу. Мені здається, ми недостатньо про це говоримо.
Тут є дивна суперечність. Ми продовжуємо будувати ШІ, щоб прибрати людські зусилля, але кожен шар автоматизації також робить людям складнішим зрозуміти, що відбувається під капотом. Усе стає ефективнішим, але водночас менш видимим. Можливо, це прийнятний компроміс. Можливо, ні. Чесно кажучи, я не впевнений. Просто відчувається, ніби це одна з тих тихих змін, яка стає очевидною лише після того, як ми вже адаптувалися до неї.
Це робить перевірку цікавішою, ніж вона виглядає на перший погляд. У проєктах на кшталт Newton Protocol перевірка — це не лише про підтвердження того, що щось сталося коректно. Це про те, щоб дати майбутнім учасникам достатньо впевненості, аби зрозуміти, як автоматизовані системи дійшли до важливих моментів. Звісно, у цьому є межа. Криптографія може зберігати докази. Вона не може довести мудрість. Навіть ідеально перевірена помилка все одно є помилкою.
Я також думаю, чи повільно ми змінюємо те, що означає репутація. Для людей репутація зазвичай будувалася через повторювану поведінку з часом. ШІ може бути не дуже відмінним. Одна успішна рішення означає надто мало. Важливо, чи поведінка залишається зрозумілою протягом сотень або тисяч взаємодій. Можливо, довіра до машин не походить лише від інтелекту. Можливо, вона походить від послідовності, яку інші люди можуть перевірити, не покладаючись на сліпу віру.
Це створює проблему координації, яка здається більшою, ніж будь-яка окрема модель. Системи ШІ більше не працюють у ізоляції. Рішення одного агента змінює середовище для іншого. Окремі стратегії починають впливати одна на одну способами, яких ніхто до кінця не планував. Раптом проблема — не в тому, щоб генерувати кращі виходи. Проблема — зробити так, щоб тисячі незалежних систем могли співіснувати, не створюючи ненавмисної нестабільності. Це зовсім інша інфраструктурна задача.
Ринки зазвичай не винагороджують таку роботу одразу. Вони, як правило, святкують видимі продукти, а не невидимі запобіжники. Якщо інфраструктура тихо запобігає проблемам, люди часто припускають, що в цьому не було необхідності. Я бачив, як цей патерн повторюється в усьому крипто. Надійність рідко стає захопливою, аж доки її не стає.
Ускладнюється й управління. Коли ШІ починає брати участь в економічних системах більш напряму, управлінню може бути потрібно менше часу на ухвалення рішень щодо окремих дій і більше — на визначення прийнятних меж. Звучить розумно, але це створює ще один тип напруги. Розробники природно прагнуть гнучкості. Інституції зазвичай хочуть передбачуваності. Ці стимули не завжди рухаються в одному напрямку. Я підозрюю, що таким екосистемам, як NEWT, у майбутньому доведеться балансувати між цими вимогами — при цьому так повністю й не розв’язуючи це назавжди.
Є ще дещо, що мене постійно турбує. Ми часто припускаємо, що краща перевірка автоматично створює більше довіри. Я не думаю, що це так просто. Перевірка каже нам, що сталося. Довіра — усе ще людське судження. Двоє людей можуть дивитися на абсолютно ті самі докази й дійти цілком різних висновків. Технології зменшують невизначеність щодо фактів. Але вони не усувають розбіжності щодо значення.
Після того як я спостерігав, як крипто еволюціонує через стільки різних наративів, я стаю обережним щоразу, коли хтось каже, що довіра може зникнути повністю. Зазвичай так не буває. Просто вона переходить кудись в інше місце. Можливо, саме тому Newton Protocol мені й видається цікавим. Не тому, що він доводить певне майбутнє, а тому, що тихо запитує, куди дівається довіра, коли машини починають приймати дедалі більше рішень, що формують наші ринки. Я не маю переконливої відповіді. Я лише знаю, що на це питання стає важче не звертати уваги.@NewtonProtocol #Newt #newt $NEWT 
