Un hacker au chapeau noir a publié une version malveillante de ChatGPT d'OpenAI, connue sous le nom de WormGPT, puis l'a utilisée pour lancer une attaque efficace de phishing par courrier électronique contre des milliers de victimes.
Selon un rapport de la société de cybersécurité SlashNext, WormGPT est basé sur le grand modèle de langage GPTJ 2021 développé par EleutherAI et est conçu pour les activités malveillantes. Les fonctionnalités incluent une prise en charge illimitée des caractères, la préservation de la mémoire de discussion et le formatage du code, et WormGPT a été formé sur les ensembles de données liés aux logiciels malveillants.
Les cybercriminels utilisent désormais WormGPT pour lancer un type d'attaque de phishing appelé attaque Business Email Compromise (BEC).
"La différence avec WormGPT est que ChatGPT dispose de garde-fous pour empêcher les cas d'utilisation illégaux ou néfastes", a déclaré le directeur de l'exploitation de la société de sécurité blockchain Halborn David Schwed aux journalistes sur Telegram. "WormGPT n'a pas ces garde-fous, vous pouvez donc lui demander de se développer. malware pour vous."
Les attaques de phishing sont l'une des formes de cyberattaques les plus anciennes mais les plus courantes et sont souvent menées sous un faux nom via e-mail, SMS ou publication sur les réseaux sociaux. Dans les attaques de compromission de messagerie professionnelle, les attaquants se font passer pour des dirigeants ou des employés de l'entreprise pour inciter les cibles à envoyer de l'argent ou des informations sensibles.
Grâce aux progrès rapides de l’intelligence artificielle générative, les chatbots comme ChatGPT ou WormGPT peuvent rédiger des e-mails convaincants ressemblant à des humains, rendant ainsi les messages frauduleux plus difficiles à détecter.
SlashNext a déclaré que des technologies telles que WormGPT abaissent le seuil de lancement d'attaques BEC efficaces, permettant aux attaquants moins qualifiés de créer un plus grand bassin de cybercriminels potentiels.
Pour prévenir les attaques de compromission des e-mails professionnels, SlashNext recommande aux organisations d'utiliser une vérification améliorée des e-mails, notamment des alertes automatisées pour les e-mails usurpant l'identité d'initiés, et de marquer les e-mails avec des mots-clés tels que « urgent » ou « virement bancaire » qui sont souvent associés au BEC.
Alors que la menace des cybercriminels continue de croître, les entreprises recherchent constamment des moyens de se protéger elles-mêmes et de protéger leurs clients.
En mars de cette année, Microsoft, l'un des plus grands investisseurs dans OpenAI, le créateur de ChatGPT, a lancé un outil d'IA générative axé sur la sécurité appelé Security Copilot. Security Copilot exploite l’intelligence artificielle pour améliorer les défenses de cybersécurité et la détection des menaces.
"Dans un monde où 1 287 attaques par mot de passe se produisent chaque seconde, les outils et les infrastructures fragmentés ne suffisent pas à arrêter les attaquants", a déclaré Microsoft dans un communiqué. "Alors que les attaques ont augmenté de 67 % au cours des cinq dernières années, le secteur de la sécurité ne peut pas embaucher suffisamment de cybercriminels. les professionnels du risque doivent suivre le rythme.