Microsoft convirtió el «agente durmiente» en una estructura neuronal medible.
Según informó CryptoSlate, un estudio de Microsoft muestra que bastan 7 neuronas para controlar un marcador inocuo; otra prueba, con 60 neuronas, pudo predecir un formato de comando destructivo. Las pruebas tienen tamaños distintos, lo que indica que, por separado, el estudio presenta dos observaciones verificables, no dos maneras de expresar las mismas cifras.
· Lo que se sabe es la correspondencia entre el número de neuronas y el comportamiento asociado; el material no indica las condiciones que lo activan ni los escenarios de implementación.
· El material no aclara si Microsoft utiliza esta estructura para auditar modelos reales.
¿Te fijarías primero en el número de neuronas o en el comportamiento que corresponde a ellas?
Según informó CryptoSlate, un estudio de Microsoft muestra que bastan 7 neuronas para controlar un marcador inocuo; otra prueba, con 60 neuronas, pudo predecir un formato de comando destructivo. Las pruebas tienen tamaños distintos, lo que indica que, por separado, el estudio presenta dos observaciones verificables, no dos maneras de expresar las mismas cifras.
· Lo que se sabe es la correspondencia entre el número de neuronas y el comportamiento asociado; el material no indica las condiciones que lo activan ni los escenarios de implementación.
· El material no aclara si Microsoft utiliza esta estructura para auditar modelos reales.
¿Te fijarías primero en el número de neuronas o en el comportamiento que corresponde a ellas?
