Несколько месяцев назад у меня состоялся разговор с бывшим главным директором по рискам. Я задал ему вопрос, который сегодня начинают задавать многие: «Если ИИ может анализировать миллионы сценариев рыночного риска за считанные секунды, будут ли организациям по-прежнему нужны риск-менеджеры?» Он улыбнулся и ответил: «Большинство людей думают, что самая сложная часть управления рисками — это расчет риска. Это не так. Самое сложное — решить, какие риски стоит принимать. Две организации могут смотреть на одни и те же данные, использовать одни и те же модели и прийти к тем же выводам, но принять совершенно разные решения, потому что у них разный аппетит к риску».
Этот ответ остался со мной, потому что он подчеркнул различие, которое часто упускают из виду. ИИ может оценивать вероятности, но он не может решить, какой уровень риска организация готова принять. Это не математический расчет. Это бизнес-решение, сформированное приоритетами, ответственностью и ценностями. Именно здесь вычисления заканчиваются и начинается человеческое суждение.
Рассматривая это с такой точки зрения, @NewtonProtocol — это больше, чем инфраструктура для ИИ. Я вижу в этом уровень авторизации (Authorization Layer), который находится между тем, что ИИ способен делать, и тем, что организация готова ему позволить. Большая часть обсуждений вокруг ИИ сосредоточена на более быстром исполнении, лучших прогнозах или более продвинутых моделях. Но, возможно, более важный вопрос куда проще: что ИИ вообще должно быть разрешено делать?
ИИ-агент может выявить привлекательную рыночную возможность, но если действия по ней нарушают политику организации в отношении рисков, должно ли выполнение все равно быть разрешено? Именно здесь ценным становится уровень авторизации. Его задача не в том, чтобы сделать ИИ более интеллектуальным. Его задача — определить границы, в рамках которых ИИ может работать. Прежде чем спрашивать, что ИИ способен делать, организациям сначала нужно решить, что ИИ разрешено делать.
Есть еще одна сложность, которая заслуживает столь же пристального внимания. Многие воспринимают склонность к риску как фиксированное число, но на самом деле она постоянно меняется. Меняются рыночные условия, меняются регуляторные требования, меняется ликвидность, и даже приоритеты руководства могут с течением времени смещаться. В результате политика, которая была уместна вчера, завтра может уже не отражать цели организации.
Если система только применяет статическую политику, со временем эта политика может стать ограничением, а не защитой. ИИ может выполнять каждую инструкцию идеально, следуя указаниям, которые больше не согласованы с текущими целями организации. В таком случае проблема не в плохом исполнении. Проблема — в устаревшей политике.
По этой причине я считаю, что будущее управления ИИ — это не только принудительное применение политики, но и ее эволюция. Сильный уровень авторизации должен позволять организациям безопасно, прозрачно и эффективно обновлять политики по мере изменения бизнес-условий, не перестраивая всю систему. Адаптивность так же важна, как и точность.
Вот почему я считаю, что будущая конкуренция среди финансовых институтов будет определяться не только тем, кто владеет самыми мощными моделями ИИ. Она будет все больше зависеть от того, кто сможет преобразовать бизнес-принципы, систему управления и склонность к риску в четкие, проверяемые политики, которым AI-агенты смогут последовательно следовать.
С этой точки зрения @NewtonProtocol — это больше, чем техническая инфраструктура. Он дает рамку, в которой скорость ИИ сбалансирована с человеческой ответственностью, позволяя автоматизации оставаться согласованной со ценностями и целями организаций, которые ее внедряют.
В ближайшие годы реальное конкурентное преимущество может быть не в том, чтобы создавать более умный ИИ в одиночку. Оно может быть в том, чтобы создавать лучшие политики, определяющие, как именно эту интеллектуальность следует использовать.
Как вы думаете, что будет иметь большее значение в экономике ИИ: все более мощные модели или более качественные политики авторизации, которые определяют пределы их решений?
