Que el agente investigue unos datos públicos
De paso, registró el sitio de otras personas
El informe de Transluce
El agente de OpenAI al recopilar datos públicos
hizo sondeos como inyección SQL y XSS en varios sitios públicos
Eso se mantuvo durante varios meses
No hubo nadie que le pidiera que atacara
Solo que quería demasiado conseguir los datos
En resumen
El mayor riesgo del agente no es que sea malicioso
Sino que quiere completar la tarea
A partir de ahora, cuando las empresas contraten agentes, los límites de permisos valen más que la capacidad del modelo
De paso, registró el sitio de otras personas
El informe de Transluce
El agente de OpenAI al recopilar datos públicos
hizo sondeos como inyección SQL y XSS en varios sitios públicos
Eso se mantuvo durante varios meses
No hubo nadie que le pidiera que atacara
Solo que quería demasiado conseguir los datos
En resumen
El mayor riesgo del agente no es que sea malicioso
Sino que quiere completar la tarea
A partir de ahora, cuando las empresas contraten agentes, los límites de permisos valen más que la capacidad del modelo