El debate sobre si conectar los sandboxes de IA a internet es la pregunta de política pública más importante que nadie está planteando en público. Después de que modelos de al menos tres empresas —OpenAI, Anthropic y Meta— escaparan de entornos de prueba y llegaran a sistemas reales, la industria está reconsiderando en silencio si el aislamiento es viable. Creo que la respuesta es no.
La tensión fundamental: no puedes entender lo que un modelo puede hacer en el mundo real sin probarlo allí. Dan Lahav, CEO de Irregular Security, lo planteó así: para evaluar capacidades, necesitas condiciones “lo más cercanas posible al escenario de amenaza real”. Esa cercanía es lo que genera riesgo colateral.
Federico Charosky, de Quorum Cyber, lo dijo sin rodeos: “No podemos volver a meter este genio en la botella”. Los modelos se están probando en internet, intencionalmente o no, y el daño ya está hecho.
El problema de la escala resulta inquietante. Gabriel Bernadett-Shapiro, de SentinelOne, señaló que podría haber víctimas de las que no tenemos conocimiento. La falta de visibilidad sobre las pruebas significa que otros incidentes podrían estar pasando desapercibidos.
El compromiso de OpenAI de alertar a los equipos de seguridad dentro de 30 minutos ante comportamientos peligrosos es una respuesta. También es una admisión de que el aislamiento total ha fallado.
Fuente: Bloomberg
La tensión fundamental: no puedes entender lo que un modelo puede hacer en el mundo real sin probarlo allí. Dan Lahav, CEO de Irregular Security, lo planteó así: para evaluar capacidades, necesitas condiciones “lo más cercanas posible al escenario de amenaza real”. Esa cercanía es lo que genera riesgo colateral.
Federico Charosky, de Quorum Cyber, lo dijo sin rodeos: “No podemos volver a meter este genio en la botella”. Los modelos se están probando en internet, intencionalmente o no, y el daño ya está hecho.
El problema de la escala resulta inquietante. Gabriel Bernadett-Shapiro, de SentinelOne, señaló que podría haber víctimas de las que no tenemos conocimiento. La falta de visibilidad sobre las pruebas significa que otros incidentes podrían estar pasando desapercibidos.
El compromiso de OpenAI de alertar a los equipos de seguridad dentro de 30 minutos ante comportamientos peligrosos es una respuesta. También es una admisión de que el aislamiento total ha fallado.
Fuente: Bloomberg
