Несколько месяцев назад я ждал в аэропорту, когда пассажира остановили на пункте досмотра. Сначала ничего не казалось подозрительным. Посадочный талон был действителен, паспорт — действителен, и даже багаж прошёл проверку. Затем сотрудник службы безопасности спокойно объяснил, что не выполнено одно небольшое требование в правилах поездки, поэтому пассажир не мог продолжить путь, пока вопрос не будет урегулирован. Этот момент запомнился мне, потому что система не решала, является ли путешественник хорошим человеком или плохим. Она просто проверяла, соответствует ли следующее действие правилам, которые уже были заранее определены. Я снова задумался об этом, читая про Newton Mainnet Beta. В большинстве обсуждений ИИ в криптосфере акцент делается на том, чтобы агенты становились умнее, но я думаю, что более важный вопрос — можно ли предотвратить их действия за пределами тех рамок, которые мы уже одобрили.
Вот что привлекло моё внимание в @NewtonProtocol. Насколько я это понял, каждое действие в блокчейне оценивается по заранее заданным правилам перед тем, как будет выполнено. Если запрос не соответствует этим условиям, он не проходит дальше. Для меня это куда более практичная основа для автономных финансов. Банки, аэропорты и платёжные сети не остаются защищёнными потому, что они слепо доверяют всем. Они остаются защищёнными потому, что важные действия проверяют по чётким правилам ещё до того, как им позволят произойти. Я думаю, что DeFi, движимый ИИ, в конечном итоге будет нуждаться в той же философии.
Поскольку бета-версия Newton Mainnet продолжает развиваться, меня стало меньше интересовать то, насколько «умными» становятся интеллектуальные ИИ-агенты, и больше интересует вопрос о том, будут ли их решения оставаться прозрачными, предсказуемыми и подотчётными. Если автономные системы собираются управлять реальным капиталом, я считаю, что надёжные ограничительные рамки могут стать не менее важными, чем сам интеллект. Как вы думаете, что будет иметь большее значение в ближайшие несколько лет: более умные ИИ-агенты или лучше продуманные границы вокруг них?