Несколько дней назад я читал статью о безопасности ПО с открытым исходным кодом. Один момент особенно запал в память. Когда тысячи разработчиков полагаются на один и тот же фрагмент кода, главное преимущество очевидно: никому не нужно заново изобретать колесо. Но если этот общий код скрывает уязвимость, которую еще никто не заметил, проблема не остается локальной. Она распространяется на всех, кто его использует.
Это заставило меня взглянуть на @NewtonProtocol по-другому.
Большинство обсуждений вокруг его Policy Economy сосредоточены на скорости и эффективности — и это справедливо. Если надежная политика уже существует, разработчикам не нужно писать ту же логику с нуля. Это экономит время, снижает затраты и помогает ИИ-системам становиться более согласованными.
Но возник и другой вопрос.
Что произойдет, когда тысячи ИИ-агентов начнут полагаться на одну и ту же политику?
Возможно, ничего не пойдет не так. Но если в этой политике есть изъян, который еще не обнаружен, проблема больше не ограничится одним пользователем или одним приложением. Она может затронуть целую экосистему одновременно. Мы уже видели похожие ситуации в мире ПО: одна уязвимость в широко используемой библиотеке в итоге повлияла на бесчисленное множество проектов.
Для меня реальное обсуждение заключается не в том, как не допустить копирования политик. Если каждому разработчику пришлось бы создавать все с нуля, вся идея Policy Economy потеряла бы значительную часть своей ценности.
Более важный вопрос в том, может ли сеть распознавать, когда политика стала настолько широко распространенной, что начинает превращаться в концентрацию риска.
Поэтому я не думаю, что $NEWT следует оценивать только по тому, сколько политик существует в сети. Лучший показатель — может ли протокол идентифицировать и отслеживать системный риск, когда слишком много ИИ-агентов зависят от одной и той же политики.
Возможно, именно это окажется одним из качеств, которое отличает масштабируемую Policy Economy от устойчивой.#Newt
$ESPORTS
$TAG
Это заставило меня взглянуть на @NewtonProtocol по-другому.
Большинство обсуждений вокруг его Policy Economy сосредоточены на скорости и эффективности — и это справедливо. Если надежная политика уже существует, разработчикам не нужно писать ту же логику с нуля. Это экономит время, снижает затраты и помогает ИИ-системам становиться более согласованными.
Но возник и другой вопрос.
Что произойдет, когда тысячи ИИ-агентов начнут полагаться на одну и ту же политику?
Возможно, ничего не пойдет не так. Но если в этой политике есть изъян, который еще не обнаружен, проблема больше не ограничится одним пользователем или одним приложением. Она может затронуть целую экосистему одновременно. Мы уже видели похожие ситуации в мире ПО: одна уязвимость в широко используемой библиотеке в итоге повлияла на бесчисленное множество проектов.
Для меня реальное обсуждение заключается не в том, как не допустить копирования политик. Если каждому разработчику пришлось бы создавать все с нуля, вся идея Policy Economy потеряла бы значительную часть своей ценности.
Более важный вопрос в том, может ли сеть распознавать, когда политика стала настолько широко распространенной, что начинает превращаться в концентрацию риска.
Поэтому я не думаю, что $NEWT следует оценивать только по тому, сколько политик существует в сети. Лучший показатель — может ли протокол идентифицировать и отслеживать системный риск, когда слишком много ИИ-агентов зависят от одной и той же политики.
Возможно, именно это окажется одним из качеств, которое отличает масштабируемую Policy Economy от устойчивой.#Newt
$ESPORTS
$TAG
