Un hacker de sombrero negro lanzó una versión maliciosa de ChatGPT de OpenAI, conocida como WormGPT, y luego la utilizó para lanzar un eficaz ataque de phishing por correo electrónico contra miles de víctimas.
Según un informe de la empresa de ciberseguridad SlashNext, WormGPT se basa en el modelo de lenguaje grande GPTJ 2021 desarrollado por EleutherAI y está diseñado para actividades maliciosas. Las características incluyen soporte ilimitado de caracteres, preservación de la memoria del chat y formato de código, y WormGPT ha sido capacitado en conjuntos de datos relacionados con malware.
Los ciberdelincuentes ahora utilizan WormGPT para lanzar un tipo de ataque de phishing conocido como ataque de compromiso de correo electrónico empresarial (BEC).
"La diferencia con WormGPT es que ChatGPT tiene barreras de seguridad para evitar casos de uso ilegales o nefastos", dijo a los periodistas en Telegram, Halborn David Schwed, director de operaciones de la empresa de seguridad blockchain, "WormGPT no tiene esas barreras, por lo que puede pedirle que se desarrolle. malware para ti."
Los ataques de phishing son una de las formas más antiguas pero más comunes de ciberataques y, a menudo, se llevan a cabo con un nombre falso a través de correo electrónico, mensaje de texto o publicación en redes sociales. En los ataques de compromiso de correo electrónico empresarial, los atacantes se hacen pasar por ejecutivos o empleados de la empresa para engañar a los objetivos para que envíen dinero o información confidencial.
Gracias a los rápidos avances en inteligencia artificial generativa, los chatbots como ChatGPT o WormGPT pueden escribir correos electrónicos convincentes parecidos a los humanos, lo que hace que los mensajes fraudulentos sean más difíciles de detectar.
SlashNext dijo que tecnologías como WormGPT reducen el umbral para lanzar ataques BEC efectivos, lo que permite a atacantes menos capacitados crear un grupo más grande de ciberdelincuentes potenciales.
Para evitar ataques que comprometan el correo electrónico empresarial, SlashNext recomienda que las organizaciones utilicen una verificación de correo electrónico mejorada, incluidas alertas automáticas para correos electrónicos que se hacen pasar por personas internas y etiquetar correos electrónicos con palabras clave como "urgente" o "transferencia bancaria" que a menudo se asocian con BEC.
A medida que la amenaza de los ciberdelincuentes continúa creciendo, las empresas buscan constantemente formas de protegerse a sí mismas y a sus clientes.
En marzo de este año, Microsoft, uno de los mayores inversores en OpenAI, creador de ChatGPT, lanzó una herramienta de IA generativa centrada en la seguridad llamada Security Copilot. Security Copilot aprovecha la inteligencia artificial para mejorar las defensas de ciberseguridad y la detección de amenazas.
"En un mundo donde se producen 1.287 ataques a contraseñas cada segundo, las herramientas e infraestructura fragmentadas no son suficientes para detener a los atacantes", dijo Microsoft en un comunicado. "Aunque los ataques han aumentado un 67% en los últimos cinco años, la industria de la seguridad no puede contratar suficientes servicios cibernéticos". profesionales del riesgo para mantenerse al día”.
