CrowdStrike, empresa dedicada a combatir la piratería informática, está llevando el Proyecto QuiltWorks por toda Europa para que las empresas puedan compartir alertas más rápido y detectar nuevas estafas y ataques informáticos impulsados por IA antes de que se propaguen.
Puntos clave
CrowdStrike amplió el Proyecto QuiltWorks por toda Europa
QuiltWorks utiliza modelos de vanguardia de OpenAI y Anthropic, junto con modelos Nemotron de código abierto
CrowdStrike describió QuiltWorks como una respuesta operativa al riesgo de la IA de vanguardia, en lugar de un foro de investigación
CrowdStrike no publicó cifras de clientes ni nuevos datos sobre incidentes en el comunicado
CrowdStrike afirmó que el programa ahora abarca una mayor parte de Europa y utiliza modelos de vanguardia de OpenAI y Anthropic, junto con modelos abiertos Nemotron.
CrowdStrike vende productos de ciberseguridad nativos de la nube para proteger los terminales, las identidades y la nube.
QuiltWorks se extiende por Europa y el proyecto deja atrás los programas piloto de EE. UU.
La empresa describió QuiltWorks como una respuesta operativa a los riesgos de la IA de vanguardia, más que como un foro de investigación.
Muchas iniciativas de seguridad de la IA se limitan a artículos, evaluaciones comparativas o principios voluntarios. QuiltWorks se presenta como un mecanismo para la detección en tiempo real, el intercambio de inteligencia y una coordinación más rápida.
CrowdStrike no publicó cifras de clientes ni nuevos datos sobre incidentes en el comunicado.
La empresa dijo que el sistema está pensado para ayudar a los defensores a detectar, analizar y responder a amenazas relacionadas con sistemas avanzados de IA, incluido el uso indebido de modelos y los patrones de ataque emergentes. Esto sitúa a QuiltWorks junto a los grupos tradicionales que comparten información sobre vulnerabilidades, pero con un enfoque en amenazas específicas de la IA.
Se trata de modelos capaces de generar código, automatizar el reconocimiento y reducir el tiempo entre el descubrimiento de una vulnerabilidad y su explotación.
De la inquietud por los modelos a QuiltWorks en Europa
La expansión en Europa llega tras un año en que la IA de vanguardia pasó de las demostraciones de laboratorio a implementaciones empresariales a gran escala. Los riesgos dejaron de centrarse en las alucinaciones y los resúmenes deficientes y pasaron a abarcar la inyección de instrucciones, la exfiltración de datos, el abuso de agentes y el uso indebido de modelos abiertos.
En las últimas 12 horas, Theta Lake anunció una integración que incorporó las alertas de CrowdStrike a las aplicaciones de trabajo.
QuiltWorks va más allá en Europa porque considera los incidentes de IA un problema de defensa compartida, y no simplemente otro flujo de alertas en la consola de un proveedor.
Leer también: ChatGPT se extiende a 165 tareas laborales en 100 países
El comunicado también llega después de que laboratorios y empresas de infraestructura ampliaran sus iniciativas de seguridad; OpenAI publicara evaluaciones comparativas sobre redes eléctricas y tareas humanas, y Anthropic ampliara la contratación para la investigación de seguridad. Esto sitúa a QuiltWorks dentro de la respuesta del sector de la seguridad.
Por qué el proyecto QuiltWorks es importante para los defensores
Las empresas utilizan una combinación de API cerradas de laboratorios como OpenAI y Anthropic y de modelos abiertos alojados en sus propios sistemas o ajustados. Ambos tipos presentan distintos modos de fallo: los modelos cerrados exponen riesgos relacionados con el acceso a herramientas, los permisos de los agentes y la dependencia de proveedores.
Los modelos abiertos pueden modificarse e integrarse en flujos de trabajo que eluden los controles. QuiltWorks pretende recopilar patrones de ambos tipos y difundir inteligencia antes de que los atacantes los repitan.
El comunicado deja preguntas sin respuesta.
No indica qué países o sectores europeos se han sumado, cómo se rige el intercambio de inteligencia ni si los participantes reciben fuentes de datos legibles por máquinas. Esos detalles determinarán si QuiltWorks se convierte en infraestructura o se queda principalmente en una marca.
Cómo funciona el intercambio de información sobre amenazas para los sistemas de IA
El proyecto QuiltWorks adapta a la IA una idea conocida del ámbito de la seguridad.
Cuando un participante detecta una táctica, como una inyección de instrucciones contra un agente o una campaña de phishing asistida por un modelo, esa señal puede normalizarse y compartirse. CrowdStrike puede entonces incorporar esos indicadores a sus sistemas de detección, manuales de respuesta o defensas automatizadas.
El giro de la IA es que la amenaza suele ser de comportamiento, más que malware tradicional: patrones de instrucciones dañinos, secuencias para eludir las protecciones, cadenas de llamadas a herramientas o comportamientos riesgosos del modelo bajo ciertos permisos. Esto hace que la seguridad de la IA de vanguardia sea más difícil que la protección antivirus clásica, porque los defensores deben vigilar tanto el código como el comportamiento.
Para las empresas europeas, la ventaja es la rapidez: puede que un banco, un minorista o una entidad gubernamental que utilice los servicios de Anthropic u OpenAI no tenga la escala necesaria para ser la primera en descubrir nuevos patrones de abuso.
El intercambio de inteligencia permite que los equipos más pequeños aprovechen las lecciones de incidentes de mayor envergadura. El próximo dato útil que habrá que observar es si CrowdStrike publica indicadores técnicos o estudios de casos identificados de la implementación europea.
Leer a continuación: Cognizant envía a 25.000 empleados a poner OpenAI al servicio de grandes empresas