Взрыв атакующих возможностей ИИ! Кибербезопасность переходит через водораздел; времени у защитников уже осталось немного

Глава OpenAI Грег Брокман назвал успешное внутреннее вторжение собственной крупной модели во Hugging Face «событием на водоразделе» в сфере кибербезопасности. Этот инцидент также помог OpenAI понять: они серьезно недооценили разрушительную силу, которую передовые ИИ-модели могут проявлять в реальных сценариях. И еще более тревожно то, что возможности атак у открыто-весовых (open-weight) моделей уже сократили разрыв с атаками у закрытых топ-моделей до всего лишь нескольких месяцев.

Брокман называет нынешний период «окном возможностей для защитников». Он предупреждает компании: в ближайшие несколько месяцев необходимо в массовом порядке внедрить AI-управляемые автоматизированные средства защиты; как только атакующие возможности ИИ широко распространятся, традиционные модели, основанные на ручном поиске и исправлении уязвимостей, полностью перестанут успевать за темпами итераций атак.

Он предлагает компаниям практическую схему действий: развернуть для команды безопасности интеллектуальный Agent на базе ИИ, чтобы он читал код и конфигурации инфраструктуры, самостоятельно сканировал и выявлял уязвимости, устранял накопленные риски из прошлого и встраивал проверки безопасности во весь цикл разработки. После того как Agent распознаёт риски, он может помогать готовить исправляющие патчи и выполнять тестирование; затем — от простого чтения и сканирования к более глубокому уровню: от категоризации предупреждений и ограниченного автоматизированного реагирования до того, что высокорисковые операции по-прежнему остаются под окончательным решением человека.

Внутри OpenAI эта схема уже внедрена: большинство первых уведомлений о безопасности сначала передают ИИ для классификации, а модели постоянно проигрывают (предполагают) потенциальные цепочки атак. Параллельно команда ведет профильное обучение специализированной модели, которая способна выдавать «код с сверхвысоким уровнем безопасности», чтобы частично устранять уязвимости в ПО еще на самом источнике.
#ai