El ciberdelito generado por IA se está expandiendo rápidamente, acelerado por el lanzamiento de varias herramientas nuevas en la web oscura más allá del descubrimiento de WormGPT el mes pasado, según un nuevo informe publicado el martes por la firma de ciberseguridad SlashNext.
WormGPT y FraudGPT, lanzados una semana después, son sólo la punta del iceberg en el desarrollo de herramientas de inteligencia artificial que los ciberdelincuentes pretenden emplear contra las víctimas, concluye SlashNext. FraudGPT por sí solo se creó con la capacidad de crear páginas web fraudulentas de phishing, escribir códigos maliciosos, crear herramientas de piratería y escribir cartas fraudulentas.
Los investigadores de SlashNext dijeron que contrataron a un individuo seudónimo llamado CanadianKingpin12 a través de Telegram.
"Durante nuestra investigación, asumimos el papel de un comprador potencial para profundizar en CanadianKingpin12 y su producto, FraudGPT", dijo SlashNext. "Nuestro principal objetivo era evaluar si FraudGPT superó a WormGPT en términos de capacidades tecnológicas y eficacia".
El equipo obtuvo más de lo que esperaba cuando el vendedor, mientras mostraba FraudGPT, dijo que estaban por llegar nuevos chatbots de IA llamados DarkBart y DarkBert. Esos chatbots, afirmó CanadianKingpin12, tendrán acceso a Internet y podrán integrarse con la tecnología de reconocimiento de imágenes de Google, Google Lens, lo que permitiría al chatbot enviar tanto texto como imágenes.
SlashNext señala que DarkBert fue diseñado inicialmente por la empresa de inteligencia de datos S2W como una herramienta legítima para luchar contra el cibercrimen, pero que los delincuentes claramente han reutilizado la tecnología para cometer delitos cibernéticos.
CanadianKingpin12 dijo a los investigadores que DarkBert puede incluso ayudar en ataques avanzados de ingeniería social, explotar vulnerabilidades en sistemas informáticos y distribuir otro malware, incluido ransomware.
"ChatGPT cuenta con barreras de seguridad para proteger contra casos de uso ilegales o nefastos", dijo anteriormente David Schwed, director de operaciones de la firma de seguridad blockchain Halborn, a Decrypt en Telegram. "[WormGPT y FraudGPT] no tienen esas barreras de seguridad, por lo que puedes pedirles que desarrollen malware por ti".
SlashNext dijo que el vendedor se vio obligado a cambiar las comunicaciones a aplicaciones de mensajería cifradas después de haber sido excluido de un foro debido a violaciones de políticas, específicamente, al intentar vender acceso a FraudGPT a través de foros en línea en la "red clara" pública.
La red clara, o web superficial, se refiere a la Internet general a la que pueden acceder los motores de búsqueda. En los contratos, los motores de búsqueda no indexan la red oscura o la web oscura y, por lo general, los sitios web de la red oscura no se pueden encontrar mediante una búsqueda en Google. Si bien la web oscura ha estado vinculada a ciberdelincuentes y mercados ilegales en línea como la Ruta de la Seda, muchos usuarios (como periodistas o disidentes políticos) dependen de la web oscura para ocultar su identidad y proteger su privacidad.
Para defenderse del rápido desarrollo de herramientas de cibercrimen generadas por IA, SlashNext aconseja a las empresas que sean proactivas en su formación en ciberseguridad e implementen medidas mejoradas de verificación de correo electrónico.
A medida que los ciberdelincuentes recurren a la IA para crear herramientas maliciosas más avanzadas, un informe separado de la empresa de seguridad web Immunefi dijo que los expertos en ciberseguridad no están teniendo mucha suerte con el uso de la IA para combatir el cibercrimen. Su informe dice que el 64% de los expertos encuestados dijo que el chatbot de OpenAI proporcionaba "precisión limitada", y el 61% dijo que carecía de conocimientos especializados para identificar exploits.
"Si bien es difícil medir con precisión el verdadero impacto de estas capacidades, es razonable esperar que reduzcan las barreras para los aspirantes a ciberdelincuentes", dijo SlashNext. "Además, la rápida progresión de WormGPT a FraudGPT y ahora DarkBERT en menos de un mes, subraya la influencia significativa de la IA maliciosa en el panorama de la ciberseguridad y el cibercrimen".