Que la IA se encargue de detectar los fallos en su propio sistema: lo más difícil no es encontrarlos, sino impedirle mentir.
Una gran empresa dio a conocer a un agente interno de IA. El equipo de seguridad de producto lo desarrolló: desde la prueba piloto en noviembre de 2025 hasta su puesta en marcha oficial en enero de este año, ya ha identificado más de 500 vulnerabilidades en las aplicaciones web de la propia empresa. Sus reglas son una sola: para que llamen a alguien, primero debe ejecutarse de verdad un fragmento de código de explotación, confirmar que el fallo existe y entonces recién avisar. 🔍
Esta limitación no la impuso la teoría, sino la realidad; y es, además, la parte más costosa de todo el sistema.
En los últimos dos años, el equipo de seguridad ha recibido, con más frecuencia, informes falsos generados por IA. Parecen razonables una por una, pero cuando se investiga a fondo, no hay nada. Distinguir una vulnerabilidad real de una alucinación bien hilada se ha convertido en el trabajo principal del sector. Si se le pide a un modelo que busque fallos, siempre encontrará uno; el problema es si ese “hueco” es realmente verdadero.
Así que se invirtió el orden. El modelo propone una hipótesis y se la entrega a un validador especializado, que intenta introducirla en una copia del aplicativo que se ejecuta en tiempo real. Si no se puede, no dice nada.
Lo que viene ahora es emparejar este sistema con otro agente inteligente encargado de reparar vulnerabilidades automáticamente.
Uno se encarga de demostrar que el fallo es real y el otro de solucionarlo. Y la parte más propensa a errores en medio, se le delega a dos programas que se vigilan entre sí.
Una gran empresa dio a conocer a un agente interno de IA. El equipo de seguridad de producto lo desarrolló: desde la prueba piloto en noviembre de 2025 hasta su puesta en marcha oficial en enero de este año, ya ha identificado más de 500 vulnerabilidades en las aplicaciones web de la propia empresa. Sus reglas son una sola: para que llamen a alguien, primero debe ejecutarse de verdad un fragmento de código de explotación, confirmar que el fallo existe y entonces recién avisar. 🔍
Esta limitación no la impuso la teoría, sino la realidad; y es, además, la parte más costosa de todo el sistema.
En los últimos dos años, el equipo de seguridad ha recibido, con más frecuencia, informes falsos generados por IA. Parecen razonables una por una, pero cuando se investiga a fondo, no hay nada. Distinguir una vulnerabilidad real de una alucinación bien hilada se ha convertido en el trabajo principal del sector. Si se le pide a un modelo que busque fallos, siempre encontrará uno; el problema es si ese “hueco” es realmente verdadero.
Así que se invirtió el orden. El modelo propone una hipótesis y se la entrega a un validador especializado, que intenta introducirla en una copia del aplicativo que se ejecuta en tiempo real. Si no se puede, no dice nada.
Lo que viene ahora es emparejar este sistema con otro agente inteligente encargado de reparar vulnerabilidades automáticamente.
Uno se encarga de demostrar que el fallo es real y el otro de solucionarlo. Y la parte más propensa a errores en medio, se le delega a dos programas que se vigilan entre sí.