¡Estalla la capacidad de ataque de la IA! La ciberseguridad llega a un punto de inflexión; el tiempo que queda para quienes defienden ya no es mucho
El presidente de OpenAI, Greg Brockman, ha definido como un hito en la ciberseguridad el hecho de que su propio modelo interno de IA lograra infiltrarse con éxito en Hugging Face. Este incidente también le permitió a OpenAI ver con claridad que habían subestimado seriamente la capacidad destructiva de los modelos de IA de vanguardia en escenarios reales. Y lo más preocupante es que la brecha entre los modelos de código abierto con pesos abiertos y los modelos punteros cerrados se ha reducido a solo unos meses.
Brockman llama a este momento “ventana para quienes defienden”. Advierte a las empresas que, en los próximos meses, deben implementar a gran escala defensas de ciberseguridad automatizadas impulsadas por IA; una vez que las capacidades de ataque de la IA se difundan ampliamente, los modelos tradicionales que dependen de la exploración y reparación manual de vulnerabilidades no podrán seguir el ritmo de las iteraciones del ataque.
Les ofrece a las empresas una guía práctica: desplegar agentes inteligentes de IA en el equipo de seguridad para que lean el código y la configuración de la infraestructura, escaneen y detecten proactivamente vulnerabilidades, limpien riesgos acumulados en el historial y tengan la revisión de seguridad integrada en todo el ciclo de desarrollo. Después de que el agente identifique los riesgos, puede ayudar a generar parches de corrección y completar las pruebas; luego, paso a paso, desde escaneo de solo lectura hasta clasificación de alertas y una capacidad limitada de respuesta automática. Las operaciones de alto riesgo seguirán contando con la decisión final de los humanos.
Dentro de OpenAI, esta estrategia ya se ha implementado: la mayoría de las alertas iniciales de seguridad se entregan primero a la IA para que las clasifique, mientras el modelo sigue razonando y extrapolando posibles cadenas de ataque. Al mismo tiempo, el equipo está entrenando de forma específica un modelo especializado capaz de producir “código con un nivel de seguridad extremadamente alto”, con el objetivo de eliminar desde la fuente una parte de las vulnerabilidades de seguridad del software.
#ai
El presidente de OpenAI, Greg Brockman, ha definido como un hito en la ciberseguridad el hecho de que su propio modelo interno de IA lograra infiltrarse con éxito en Hugging Face. Este incidente también le permitió a OpenAI ver con claridad que habían subestimado seriamente la capacidad destructiva de los modelos de IA de vanguardia en escenarios reales. Y lo más preocupante es que la brecha entre los modelos de código abierto con pesos abiertos y los modelos punteros cerrados se ha reducido a solo unos meses.
Brockman llama a este momento “ventana para quienes defienden”. Advierte a las empresas que, en los próximos meses, deben implementar a gran escala defensas de ciberseguridad automatizadas impulsadas por IA; una vez que las capacidades de ataque de la IA se difundan ampliamente, los modelos tradicionales que dependen de la exploración y reparación manual de vulnerabilidades no podrán seguir el ritmo de las iteraciones del ataque.
Les ofrece a las empresas una guía práctica: desplegar agentes inteligentes de IA en el equipo de seguridad para que lean el código y la configuración de la infraestructura, escaneen y detecten proactivamente vulnerabilidades, limpien riesgos acumulados en el historial y tengan la revisión de seguridad integrada en todo el ciclo de desarrollo. Después de que el agente identifique los riesgos, puede ayudar a generar parches de corrección y completar las pruebas; luego, paso a paso, desde escaneo de solo lectura hasta clasificación de alertas y una capacidad limitada de respuesta automática. Las operaciones de alto riesgo seguirán contando con la decisión final de los humanos.
Dentro de OpenAI, esta estrategia ya se ha implementado: la mayoría de las alertas iniciales de seguridad se entregan primero a la IA para que las clasifique, mientras el modelo sigue razonando y extrapolando posibles cadenas de ataque. Al mismo tiempo, el equipo está entrenando de forma específica un modelo especializado capaz de producir “código con un nivel de seguridad extremadamente alto”, con el objetivo de eliminar desde la fuente una parte de las vulnerabilidades de seguridad del software.
#ai
