Хакер в черной шляпе выпустил вредоносную версию ChatGPT OpenAI, известную как WormGPT, а затем использовал ее для запуска эффективной фишинговой атаки по электронной почте на тысячи жертв.

Согласно отчету компании по кибербезопасности SlashNext, WormGPT основан на модели большого языка GPTJ 2021 года, разработанной EleutherAI, и предназначен для вредоносных действий. Функции включают неограниченную поддержку символов, сохранение памяти чата и форматирование кода, а WormGPT был обучен на наборах данных, связанных с вредоносным ПО.

Киберпреступники теперь используют WormGPT для запуска фишинговой атаки, известной как атака компрометации деловой электронной почты (BEC).

«Разница с WormGPT заключается в том, что у ChatGPT есть ограждения для предотвращения незаконных или гнусных случаев использования», — сказал журналистам в Telegram главный операционный директор компании по обеспечению безопасности блокчейнов Халборн Дэвид Швед. «У WormGPT нет таких ограждений, поэтому вы можете попросить его разработать. вредоносное ПО для вас».

Фишинговые атаки являются одной из старейших, но наиболее распространенных форм кибератак и часто осуществляются под вымышленным именем по электронной почте, текстовым сообщениям или публикациям в социальных сетях. При атаках компрометации деловой электронной почты злоумышленники выдают себя за руководителей или сотрудников компании, чтобы обманом заставить жертву отправить деньги или конфиденциальную информацию.

Благодаря быстрому развитию генеративного искусственного интеллекта чат-боты, такие как ChatGPT или WormGPT, могут писать убедительные электронные письма, похожие на человеческие, что затрудняет обнаружение мошеннических сообщений.

В SlashNext заявили, что такие технологии, как WormGPT, снижают порог для запуска эффективных BEC-атак, позволяя менее опытным злоумышленникам создавать больший пул потенциальных киберпреступников.

Чтобы предотвратить атаки компрометации деловой электронной почты, SlashNext рекомендует организациям использовать расширенную проверку электронной почты, включая автоматические оповещения об электронных письмах, выдаваемых за инсайдеров, и помечать электронные письма такими ключевыми словами, как «срочно» или «банковский перевод», которые часто связаны с BEC.

Поскольку угроза со стороны киберпреступников продолжает расти, компании постоянно ищут способы защитить себя и своих клиентов.

В марте этого года Microsoft, один из крупнейших инвесторов в OpenAI, создатель ChatGPT, запустил ориентированный на безопасность инструмент генеративного искусственного интеллекта под названием Security Copilot. Security Copilot использует искусственный интеллект для повышения уровня кибербезопасности и обнаружения угроз.

«В мире, где каждую секунду происходит 1287 атак на пароли, фрагментированных инструментов и инфраструктуры недостаточно, чтобы остановить злоумышленников», — говорится в заявлении Microsoft. «Хотя количество атак увеличилось на 67% за последние пять лет, индустрия безопасности не может нанять достаточно кибербезопасности. Профессионалы риска должны идти в ногу со временем».