Crees que apagaste el «interruptor de entrenamiento», pero en realidad esa parte de seguridad no depende de él.
OpenAI acaba de cambiar las reglas de datos de Daybreak Blue y la comunidad de seguridad está que arde.
1️⃣ Qué pasó
En la página Data controls del Help Center oficial de OpenAI se añadió una sección llamada «Trusted Access on personal accounts»: en las sesiones de Daybreak con cuentas personales, OpenAI podría usar el contenido de esas interacciones para mejorar sus modelos, incluso si desactivaste «Improve the model for everyone». La justificación oficial es reforzar las medidas de seguridad contra el uso indebido en ciberseguridad.
2️⃣ Cuándo entra en vigor
Varios usuarios de Daybreak Blue publicaron en el foro de desarrolladores de OpenAI correos en los que se indica que la medida se aplicará a partir del 29 de noviembre. Por ahora, esa fecha procede de correos citados por los usuarios; la página oficial no especifica ninguna fecha.
3️⃣ Qué es Daybreak Blue
Es el nivel defensivo del programa Trusted Access for Cyber de OpenAI: profesionales de seguridad verificados usan los modelos principales para clasificar vulnerabilidades, revisar código de forma segura, analizar malware y responder a incidentes, con menos rechazos.
4️⃣ A quiénes no afecta
El interruptor de entrenamiento sigue funcionando con normalidad para los usos fuera de las sesiones de Trusted Access; según el contenido de los correos, las cuentas business / enterprise quedan fuera del alcance de la medida.
Mi opinión:
Quienes trabajan en defensa suelen compartir con el modelo detalles de vulnerabilidades 0day aún sin parchear y registros de entornos de clientes. Quitar la opción de exclusión en este contexto es algo que el investigador de seguridad Sean Heelan calificó de «ridículamente malvado», y no le faltan motivos.
También se entiende la lógica de OpenAI: el precio de flexibilizar los rechazos es tener que comprobar para qué estás usando el modelo. Pero si el trato es «datos a cambio de permisos», debería aparecer en la primera línea de la página de solicitud, no cambiarse en las condiciones a posteriori.
Esta semana, tras el incidente de la hot wallet y el complemento de VS Code con puerta trasera, cada vez más equipos de blockchain también están encargando auditorías de seguridad a la IA. Recomendación: usa un espacio de trabajo enterprise para el material sensible o no lo incluyas en las sesiones de Daybreak. No des por sentado que «si apagué el interruptor, estoy a salvo».
Filtra, pero no eduques; evalúalo por tu cuenta.
Fuentes: OpenAI Help Center (Data controls in ChatGPT, página general de Daybreak), publicaciones de usuarios en OpenAI Developer Community
#AI #OpenAI #ciberseguridad
OpenAI acaba de cambiar las reglas de datos de Daybreak Blue y la comunidad de seguridad está que arde.
1️⃣ Qué pasó
En la página Data controls del Help Center oficial de OpenAI se añadió una sección llamada «Trusted Access on personal accounts»: en las sesiones de Daybreak con cuentas personales, OpenAI podría usar el contenido de esas interacciones para mejorar sus modelos, incluso si desactivaste «Improve the model for everyone». La justificación oficial es reforzar las medidas de seguridad contra el uso indebido en ciberseguridad.
2️⃣ Cuándo entra en vigor
Varios usuarios de Daybreak Blue publicaron en el foro de desarrolladores de OpenAI correos en los que se indica que la medida se aplicará a partir del 29 de noviembre. Por ahora, esa fecha procede de correos citados por los usuarios; la página oficial no especifica ninguna fecha.
3️⃣ Qué es Daybreak Blue
Es el nivel defensivo del programa Trusted Access for Cyber de OpenAI: profesionales de seguridad verificados usan los modelos principales para clasificar vulnerabilidades, revisar código de forma segura, analizar malware y responder a incidentes, con menos rechazos.
4️⃣ A quiénes no afecta
El interruptor de entrenamiento sigue funcionando con normalidad para los usos fuera de las sesiones de Trusted Access; según el contenido de los correos, las cuentas business / enterprise quedan fuera del alcance de la medida.
Mi opinión:
Quienes trabajan en defensa suelen compartir con el modelo detalles de vulnerabilidades 0day aún sin parchear y registros de entornos de clientes. Quitar la opción de exclusión en este contexto es algo que el investigador de seguridad Sean Heelan calificó de «ridículamente malvado», y no le faltan motivos.
También se entiende la lógica de OpenAI: el precio de flexibilizar los rechazos es tener que comprobar para qué estás usando el modelo. Pero si el trato es «datos a cambio de permisos», debería aparecer en la primera línea de la página de solicitud, no cambiarse en las condiciones a posteriori.
Esta semana, tras el incidente de la hot wallet y el complemento de VS Code con puerta trasera, cada vez más equipos de blockchain también están encargando auditorías de seguridad a la IA. Recomendación: usa un espacio de trabajo enterprise para el material sensible o no lo incluyas en las sesiones de Daybreak. No des por sentado que «si apagué el interruptor, estoy a salvo».
Filtra, pero no eduques; evalúalo por tu cuenta.
Fuentes: OpenAI Help Center (Data controls in ChatGPT, página general de Daybreak), publicaciones de usuarios en OpenAI Developer Community
#AI #OpenAI #ciberseguridad