В постоянно развивающемся ландшафте кибербезопасности появление генеративного искусственного интеллекта, особенно вариантов даркнета, таких как WormGPT, бросило тень на эффективность традиционных защитных механизмов. Возможность использования этой технологии киберпреступниками для организации фишинговых атак в беспрецедентных масштабах вызывает обеспокоенность по поводу будущего корпоративной кибербезопасности.
Пересечение генеративного искусственного интеллекта и фишинга оказывается серьезной проблемой для экспертов по кибербезопасности. Киберпреступные организации используют большие языковые модели (LLM), такие как WormGPT, для автоматизации создания убедительных фишинговых писем. Эти электронные письма, созданные искусственным интеллектом и обладающие дьявольским талантом манипулирования, представляют собой двойную угрозу, поскольку сочетают в себе масштаб и точность — подвиг, недостижимый обычными методами.
Эксперименты консультанта по кибербезопасности Дэниела Келли с WormGPT показали его тревожную способность создавать срочный и убедительный текст атаки на компрометацию деловой электронной почты (BEC) с помощью всего лишь одного запроса. Демократизация сложных атак, как отмечает Келли, подчеркивает необходимость повышенной бдительности перед лицом этого «ядерного момента» в корпоративной кибербезопасности.
Защита от атак ИИ-фишинга
Поскольку количество случаев фишинга продолжает расти, возникает вопрос: как организации могут защитить себя от фишинговых писем, генерируемых ИИ? Эксперт по генеративному искусственному интеллекту Генри Эйдер подчеркивает важность распознавания контекстных подсказок в сообщениях. Хотя ИИ может увеличить количество хорошо продуманных фишинговых писем, эти сообщения по-прежнему содержат признаки мошенничества, такие как необоснованная срочность или подозрительные адреса отправителя.
Адждер предлагает вернуться к основам цифровой гигиенической безопасности, призывая компании уделять первоочередное внимание осведомленности сотрудников посредством тщательного обучения кибербезопасности. Но проблема заключается в том, чтобы отличить контент, созданный искусственным интеллектом, от сообщений, созданных человеком, особенно когда сотрудники регулярно используют модели искусственного интеллекта для улучшения электронной почты.
Генеративный ИИ, усиливающий атаки вишинга
Помимо электронной почты, вишинг (голосовой фишинг) является еще одним полем битвы, где ИИ, как ожидается, усилит кибератаки. Сложность дипфейков аудио достигла новых высот: такие платформы, как Spotify и Microsoft, предлагают инструменты, которые убедительно имитируют голосовые шаблоны. Обучение сотрудников распознаванию контекстных подсказок во время голосовых вызовов и внедрение безопасных схем для переводов средств становится первостепенным перед лицом этой развивающейся угрозы.
Сейдж Вонс подчеркивает потенциальные риски вишинг-атак, ссылаясь на недавнюю кибератаку на MGM Resorts, вызванную вишинг-атакой. Поскольку взломы с использованием искусственного интеллекта становятся все более распространенными, Уонс выступает за разработку механизмов обнаружения дипфейков аудио, призывая директоров по информационной безопасности уделять приоритетное внимание этому аспекту кибербезопасности. Он подчеркивает, что без надежной защиты от дипфейков аудио организации рискуют стать жертвой изощренных атак, использующих уязвимости в системах голосовой связи.
Вердикт по фишинговым кампаниям с использованием искусственного интеллекта
Хотя угроза фишинговых кампаний, генерируемых искусственным интеллектом, выглядит серьезной, сохраняется скептицизм в отношении нынешних масштабов их распространенности. Консультант по кибербезопасности Дэниел Келли и эксперт по генеративному искусственному интеллекту Генри Эйдер высказывают сомнения, отмечая отсутствие конкретных доказательств в открытых источниках. Несмотря на заявления некоторых поставщиков, общественный дискурс вокруг фишинга с использованием искусственного интеллекта отражает ранние дискуссии о дипфейках, предполагая, что у организаций может быть больше времени на подготовку, чем первоначально предполагалось.
Сочетание генеративного искусственного интеллекта и киберпреступности представляет собой серьезную проблему для корпоративной кибербезопасности. Рост количества фишинговых писем, генерируемых искусственным интеллектом, и возможность мощных вишинг-атак требуют переоценки стратегий защиты. По мере того, как организации ориентируются в этой развивающейся ситуации, баланс между инновациями на основе искусственного интеллекта и традиционными мерами кибербезопасности становится решающим, чтобы оставаться на шаг впереди киберугроз.
