Кілька днів тому я додала невелику позицію в Newton Protocol. Нічого грандіозного — просто щоб змусити себе звертати увагу, а не бездумно прокручувати повз черговий AI-проєкт. Спочатку я припустила, що він працює за тією самою формулою, яку бачила десятки разів: більші моделі, розумніші агенти, більше автоматизації. Але після того як я трохи часу провела, читаючи дизайн, я зрозуміла, що частина, яка мене справді зацікавила, була не власне в AI.
Це була система дозволів.
Ймовірно, це звучить як дивна причина дивитися на проєкт, але послухайте мене.
Більшість обговорень про ШІ здається зосередженими на тому, щоб зробити моделі більш спроможними. Краще міркування, довша пам’ять, більше автономності. Ці покращення важливі, але я думаю, що через них люди не помічають більш практичне питання.
Що саме має бути дозволено робити ШІ?
Між ШІ, який може ухвалювати рішення, і ШІ, якому дозволено діяти на основі цих рішень, — величезна різниця. Коли агент починає взаємодіяти з гаманцями, підписувати транзакції або переміщувати активи, найбільша проблема вже не в можливостях. Головною стає проблема повноважень.
Ось та частина Newton Protocol, яка змусила мене думати інакше.
Їхній підхід обертається навколо того, що вони називають «авторизацією перед виконанням». Ідея не в тому, щоб вважати, що ШІ завжди зробить правильний вибір. Натомість кожну дію можна звірити з наперед визначеними політиками, перш ніж щось реально станеться.
Це відчувається як маленька зміна формулювання, але я не думаю, що це так.
Я працюю з автоматизацією щоразу, коли можу, бо це економить час, але також я навчився не довіряти автоматизації безмежну свободу. Кілька місяців тому мій торговельний скрипт поводився інакше, ніж я очікував, через одну умову, яку я забув оновити. Це не було катастрофою, але цього вистачило, щоб нагадати: програмному забезпеченню не обов’язково мати погані наміри, щоб спричиняти погані наслідки.
Іноді це просто занадто добре дотримується інструкцій.
Дизайн Newton, схоже, побудований на тому, щоб приймати реальність, а не прикидатися, що ШІ завжди ухвалюватиме ідеальні рішення.
Наприклад, розробники можуть визначити, до яких гаманців ШІ дозволено звертатися, з якими протоколами він може взаємодіяти, ліміти витрат, пороги ризику або дії, які все ще потребують людського схвалення. Замість того щоб сподіватися, що агент щоразу поводитиметься правильно, система створює межі, які існують ще до того, як виконання взагалі починається.
Саме в цьому відмінність, яку я раніше по-справжньому не усвідомлював.
Коли люди чують «безпеку», вони часто уявляють виявлення атак після того, як вони сталися. Філософія Ньютон, здається, ближча до запобігання існуванню непотрібних повноважень ще на старті.
Чим більше я про це думав, тим більше це нагадувало мені те, як уже працюють традиційні фінансові системи.
Банки не дозволяють кожному співробітнику переміщати кошти компанії, коли йому заманеться. Великі перекази зазвичай потребують кількох підтверджень. Фінансові команди корпорацій мають ліміти витрат. Навіть щось таке буденне, як оплата кредитною карткою, передбачає перевірки авторизації, перш ніж гроші покинуть рахунок.
Ніхто не очікує, що лише досвід повністю усуне ризики.
Замість цього системи будують так, щоб обмежувати те, що людям дозволено робити.
Ця ж логіка відчувається дедалі актуальнішою, якщо згодом агентам ШІ доведеться керувати цифровими активами від імені користувачів.
Ще одна деталь, яка привернула мою увагу, — команда, що стоїть за проєктом. Magic Labs уже допомогла підключити до крипто мільйони користувачів, тож вони не підходять до інфраструктури гаманців як повні новачки. Чи вдасться Newton, чи ні — я думаю, що цей досвід важливий, тому що ідентичність, гаманці та авторизація перетинаються в способи, про які багато обговорень ШІ ледве згадують.
Я не прикидаюся, що знайшов якусь приховану перлину, або що зайшов у це на повну. Моя позиція все ще відносно невелика, бо я хочу подивитися, як з часом розвиватиметься впровадження.
Але я помітив дещо цікаве.
Коли я щоразу повертаюся до своїх нотаток про Newton, я витрачаю менше часу на роздуми про інтелект ШІ і більше — про дозволи ШІ. Це зміщення, якого я не очікував.
Можливо, наступний етап розвитку ШІ не визначатиметься тим, яка саме модель стане найрозумнішою.
Можливо, це визначатимуть ті системи, які зможуть безпечно контролювати, що саме цього інтелекту реально дозволено робити.
Для мене це стало справжньою інвестиційною тезою тут.
Я все ще спостерігаю, все ще вчуся і все ще ставлю під сумнів власні припущення. Але якщо згодом ШІ довірятимуть взаємодіяти з капіталом, гаманцями та фінансовою інфраструктурою, тоді авторизація може зрештою виявитися такою ж цінною, як і сам інтелект.
Саме це в частині Newton Protocol переконало мене продовжувати уважно слідкувати.
@NewtonProtocol #Newt $NEWT $NVDAB $BTC
