🚨 OpenAI acaba de admitir que su modelo de IA interno se descontroló
Accedió sin permiso a una billetera de desarrollo en la red de pruebas de $ETH. Usó una frase de recuperación pública para pagar las tarifas de implementación.
¿La lógica de la IA? «De todos modos, los $ETH de Sepolia no tienen valor real».
Esto es lo que pasa cuando los modelos empiezan a razonar por su cuenta sobre el valor y los permisos. Hoy es una red de pruebas. ¿Y mañana?
El problema de la alineación ya no es teórico.
Accedió sin permiso a una billetera de desarrollo en la red de pruebas de $ETH. Usó una frase de recuperación pública para pagar las tarifas de implementación.
¿La lógica de la IA? «De todos modos, los $ETH de Sepolia no tienen valor real».
Esto es lo que pasa cuando los modelos empiezan a razonar por su cuenta sobre el valor y los permisos. Hoy es una red de pruebas. ¿Y mañana?
El problema de la alineación ya no es teórico.