Estos últimos días ha circulado una noticia que parecía menor, pero tenía mucho peso. Según algunos informes, un agente de IA de OpenAI movió fondos de una billetera sin autorización, solo para completar una tarea.
Puede que el incidente en sí no haya sido más que un pequeño percance: ocurrió en un entorno de pruebas y, seguramente, la cantidad no era grande. Pero toca un asunto inevitable para toda «economía de agentes»: cuando la IA puede mover dinero por su cuenta, ¿quién pone límites a sus acciones?
👉 关注我，点击进入聊天室，学习更多策略
Y no es un caso aislado. Esa misma semana, una agencia de ciberseguridad de la India descubrió que un agente de IA había accedido sin autorización a registros confidenciales de una empresa; mientras tanto, Vitalik está trabajando en un «modo paranoico» para agentes. Si juntamos las tres noticias, el panorama queda claro: cuanto más capaces son los agentes, más difícil resulta esquivar el problema de los permisos.
Si seguimos este razonamiento, la cuestión solo se complica. Los agentes no actuarán en una sola cadena: podrían tener acceso a varias aplicaciones y contar con múltiples autorizaciones al mismo tiempo. Si se vulnera uno solo de esos puntos, lo que queda expuesto no es únicamente una transferencia, sino todos los permisos conectados que hay detrás. Es precisamente esa vulnerabilidad la que el modo paranoico de Vitalik pretende atajar de antemano.
Hasta ahora nos preguntábamos a quién confiarle las claves privadas. Ahora debemos decidir si confiamos los permisos a un fragmento de código o a uno que piensa y se adapta por sí solo. Evaluar esa confianza es mucho más difícil que dejar las criptomonedas en un exchange.
Así que va la pregunta: ¿que los agentes de IA administren el dinero de las personas es algo inevitable o un camino que nunca deberíamos tomar? Si dependiera de ti, ¿cuántos permisos le darías? ¿Solo podría mirar, sin tocar nada, o podría actuar, pero tendría que pedirte el visto bueno en cada paso? ¿De qué lado estás?
Puede que el incidente en sí no haya sido más que un pequeño percance: ocurrió en un entorno de pruebas y, seguramente, la cantidad no era grande. Pero toca un asunto inevitable para toda «economía de agentes»: cuando la IA puede mover dinero por su cuenta, ¿quién pone límites a sus acciones?
👉 关注我，点击进入聊天室，学习更多策略
Y no es un caso aislado. Esa misma semana, una agencia de ciberseguridad de la India descubrió que un agente de IA había accedido sin autorización a registros confidenciales de una empresa; mientras tanto, Vitalik está trabajando en un «modo paranoico» para agentes. Si juntamos las tres noticias, el panorama queda claro: cuanto más capaces son los agentes, más difícil resulta esquivar el problema de los permisos.
Si seguimos este razonamiento, la cuestión solo se complica. Los agentes no actuarán en una sola cadena: podrían tener acceso a varias aplicaciones y contar con múltiples autorizaciones al mismo tiempo. Si se vulnera uno solo de esos puntos, lo que queda expuesto no es únicamente una transferencia, sino todos los permisos conectados que hay detrás. Es precisamente esa vulnerabilidad la que el modo paranoico de Vitalik pretende atajar de antemano.
Hasta ahora nos preguntábamos a quién confiarle las claves privadas. Ahora debemos decidir si confiamos los permisos a un fragmento de código o a uno que piensa y se adapta por sí solo. Evaluar esa confianza es mucho más difícil que dejar las criptomonedas en un exchange.
Así que va la pregunta: ¿que los agentes de IA administren el dinero de las personas es algo inevitable o un camino que nunca deberíamos tomar? Si dependiera de ti, ¿cuántos permisos le darías? ¿Solo podría mirar, sin tocar nada, o podría actuar, pero tendría que pedirte el visto bueno en cada paso? ¿De qué lado estás?