На этой неделе Recorded Future запустила списки индикаторов инфраструктуры ИИ — бесплатный набор данных для клиентов сервиса Cyber Operations. Он предназначен для выявления теневого ИИ — несанкционированного использования инструментов ИИ в компании в обход закупочных процедур и проверки ИТ-службой.
Главное
На этой неделе Recorded Future запустила списки индикаторов инфраструктуры ИИ — бесплатный набор данных для клиентов сервиса Cyber Operations
Списки выявляют и классифицируют сетевой трафик, связанный с инструментами ИИ, чтобы команды безопасности могли обеспечивать соблюдение политик и обнаруживать утечки данных
Recorded Future сослалась на прогноз, согласно которому к 2027 году 75% сотрудников будут использовать или создавать технологии в обход официального контроля ИТ-служб
Данные о том, сдерживают ли списки распространение теневого ИИ в компаниях, пока не опубликованы
Списки выявляют и классифицируют сетевой трафик, связанный с инструментами ИИ, чтобы службы безопасности могли обеспечивать соблюдение политик и обнаруживать утечки данных до того, как они распространятся, сообщила компания в блоге.
Recorded Future продаёт программное обеспечение для анализа киберугроз, которое помогает корпоративным службам безопасности отслеживать внешние риски — от утёкших учётных данных до инфраструктуры вредоносного ПО. Для этого оно сканирует открытые, даркнет- и технические источники в поисках индикаторов компрометации. Новые списки распространяют эту модель на использование ИИ внутри организаций, а не на внешние угрозы. Этот сдвиг отражает, как инструменты ИИ стали частью инфраструктуры, которую службы безопасности больше не могут игнорировать.
Почему один чат-бот с открытым исходным кодом стал проблемой для управления рисками
В своей публикации Recorded Future указывает на OpenClaw — бесплатного ИИ-помощника с открытым исходным кодом, который в этом году быстро и без одобрения организации получил широкое распространение практически без надзора. Именно такие случаи призваны выявлять новые списки.
Сотрудник может установить такой инструмент на личный ноутбук без закупочных процедур и проверки безопасности, создавая слепую зону, которая разрастается по мере распространения среди работников.
Recorded Future привела оценку, согласно которой к 2027 году 75% сотрудников будут использовать или создавать технологии в обход официального контроля ИТ-служб.
Читайте также: Акции Hexaware выросли на 6% после получения статуса партнёра Anthropic; 1 100 сотрудников получили сертификацию Claude
От защиты периметра к контролю на уровне агентов
Корпоративные расходы на безопасность исторически были сосредоточены на защите периметра, межсетевых экранах, обнаружении угроз на конечных устройствах и управлении идентификацией. Такой подход строился на предположении, что программное обеспечение внедряется через известные закупочные процедуры.
Агентный ИИ разрушает это предположение: автономные агенты могут обращаться к внешним сервисам, перемещать данные и принимать решения без одобрения человека на каждом шаге. Списки индикаторов Recorded Future призваны распространить на отслеживание неконтролируемого использования ИИ внутри организаций ту же стратегию анализа киберугроз, которую компания разработала для слежения за хакерами.
Разрыв между внедрением ИИ и контролем за его использованием
Последние два года службы безопасности разбирают то, что в отрасли называют «долгом безопасности»: очередь неустранённых уязвимостей, которая растёт быстрее, чем команды успевают их исправлять.
Теневой ИИ добавляет новый слой к этому долгу: агентные инструменты могут работать в связанных между собой системах, увеличивая масштаб последствий, если у одного скомпрометированного инструмента окажутся широкие права доступа.
Помогут ли списки Recorded Future сдержать распространение теневого ИИ или лишь дадут службам безопасности панель мониторинга, за которой можно наблюдать, как оно растёт, — зависит от данных о внедрении в компаниях, которые пока не опубликованы.
Читайте далее: Кошелёк Agent Wallet от MetaMask позволяет ИИ-ботам торговать на Aave: Кулечов подтвердил запуск