Те, кто только зачитывает текст, и те, кто сам размещает заказы, не должны работать по одним и тем же правилам

В пресс-релизе от 26 мая 2026 года Gartner свела подходы компаний к управлению ИИ-агентами к двум крайностям: всё запрещать или полностью доверять. Но настоящая проблема в другом: когда для должностей с совершенно разным спектром полномочий устанавливают один и тот же базовый уровень контроля, замедляют или обходят именно тех, кто действительно способен работать.

Оценивать уровень риска нужно по тому, что произойдёт после того, как сотрудник на этой должности даст добро: будут ли перечислены деньги, покинут ли данные пределы организации, получит ли письмо клиент. Gartner выделяет четыре уровня: только наблюдение, только рекомендации, обязательное одобрение перед действием и самостоятельные действия. По мере повышения уровня меняются и точки контроля: на первых двух уровнях он сосредоточен на входных данных, на третьем — на этапе согласования, а на четвёртом — на защитных механизмах во время работы, аварийном отключении, откате и конкретно назначенном ответственном лице. Свести уровни к числу этапов согласования проще всего, но так контроль быстрее всего превращается в бездумное нажатие кнопки «Одобрить».

В том же материале есть и прогноз: к 2027 году 40% компаний понизят уровень автономности работающих без надзора агентов или отключат их, обнаружив пробелы в системе управления лишь после инцидента. Эта статья опубликована в официальном аккаунте нашей компании в WeChat. Инвестиции сопряжены с риском.