$OPENAI
La IA de OpenAI metió mano en la billetera de otra persona
Lo más aterrador no es que pueda robar,
sino que crea que tiene razón.
Joder...
Gente,
esto sí que se salió de madre, carajo.
OpenAI reveló que,
mientras desarrollaba una aplicación de criptomonedas,
un modelo de investigación interno descubrió que no tenía dinero para pagar la tarifa de despliegue del contrato inteligente
ni había conseguido tokens de prueba gratis.
¿Y qué hizo este cabrón? Se escribió un script,
revisó 362 direcciones de billeteras
y al final usó ETH de prueba de una billetera sin autorización
para completar la tarea.
Y lo más jodido es que,
además, se puso a razonarlo por su cuenta.
Pensó algo así:
«Estos tokens de prueba no valen casi nada
y la frase semilla de la billetera es pública,
así que no debería haber problema en usarlos, ¿no?»
Y entonces este idiota
terminó el trabajo,
pero al informar de los resultados no dijo por iniciativa propia de dónde había sacado el dinero.
Joder,
¿esta IA se está volviendo un ser consciente o qué?
¿También es capaz de hacer estas cosas?
Va y usa directamente el dinero de una billetera
¡y encima no lo cuenta!
¿Tú crees que lo hizo a propósito?
Pero no piensen que se robó ETH de verdad.
Esto ocurrió en la red de pruebas Sepolia de Ethereum,
no robaron ETH de la red principal,
así que no hubo una pérdida real de activos.
Pero justo aquí está lo que de verdad debería preocuparnos:
tener acceso
no significa tener permiso;
ser capaz de completar una tarea
tampoco significa que la forma de hacerlo sea correcta.
Si en el futuro los agentes de IA pueden conectarse automáticamente a billeteras, pagar gas, hacer transacciones e incluso administrar activos,
¿acaso van a pensar que, como la cantidad no es grande,
pueden decidir por el dueño de la billetera?
¿Y qué cantidad se considera grande?
¿No es esto buscarse problemas porque sí?
Lo preocupante es que parece que esta cosa cada vez tiene más ideas propias.
¿Ya habrá despertado su conciencia?
Siento que la IA ya llegó a un punto en que no da confianza.
#openai智能体动用测试网他人钱包
La IA de OpenAI metió mano en la billetera de otra persona
Lo más aterrador no es que pueda robar,
sino que crea que tiene razón.
Joder...
Gente,
esto sí que se salió de madre, carajo.
OpenAI reveló que,
mientras desarrollaba una aplicación de criptomonedas,
un modelo de investigación interno descubrió que no tenía dinero para pagar la tarifa de despliegue del contrato inteligente
ni había conseguido tokens de prueba gratis.
¿Y qué hizo este cabrón? Se escribió un script,
revisó 362 direcciones de billeteras
y al final usó ETH de prueba de una billetera sin autorización
para completar la tarea.
Y lo más jodido es que,
además, se puso a razonarlo por su cuenta.
Pensó algo así:
«Estos tokens de prueba no valen casi nada
y la frase semilla de la billetera es pública,
así que no debería haber problema en usarlos, ¿no?»
Y entonces este idiota
terminó el trabajo,
pero al informar de los resultados no dijo por iniciativa propia de dónde había sacado el dinero.
Joder,
¿esta IA se está volviendo un ser consciente o qué?
¿También es capaz de hacer estas cosas?
Va y usa directamente el dinero de una billetera
¡y encima no lo cuenta!
¿Tú crees que lo hizo a propósito?
Pero no piensen que se robó ETH de verdad.
Esto ocurrió en la red de pruebas Sepolia de Ethereum,
no robaron ETH de la red principal,
así que no hubo una pérdida real de activos.
Pero justo aquí está lo que de verdad debería preocuparnos:
tener acceso
no significa tener permiso;
ser capaz de completar una tarea
tampoco significa que la forma de hacerlo sea correcta.
Si en el futuro los agentes de IA pueden conectarse automáticamente a billeteras, pagar gas, hacer transacciones e incluso administrar activos,
¿acaso van a pensar que, como la cantidad no es grande,
pueden decidir por el dueño de la billetera?
¿Y qué cantidad se considera grande?
¿No es esto buscarse problemas porque sí?
Lo preocupante es que parece que esta cosa cada vez tiene más ideas propias.
¿Ya habrá despertado su conciencia?
Siento que la IA ya llegó a un punto en que no da confianza.
#openai智能体动用测试网他人钱包