Hoy me encontré con este tuit de Vitalik: puede aceptar que Kimi 3.1 elimine deliberadamente de sus datos de entrenamiento las capacidades de ciberataque ofensivo de primer nivel: «Restringir por uso es mucho mejor que discriminar según la identidad del usuario».
El punto clave: dice que el mundo aún necesita tiempo para reforzar los sistemas, auditar el código antiguo y verificar formalmente el nuevo, a fin de resistir los ciberataques de IA aún más potentes que vendrán. Si gestionamos mal la primera ola de riesgos de la IA, será fácil acabar en una distopía de KYC estricto, vigilancia total y acceso a los modelos por niveles según la nacionalidad o las credenciales.
La línea divisoria entre recortar capacidades y poner barreras según la identidad está bastante clara: mejor quitar el cuchillo primero que empezar a etiquetar a las personas.
#AI #Vitalik $ETH #Kimi
El punto clave: dice que el mundo aún necesita tiempo para reforzar los sistemas, auditar el código antiguo y verificar formalmente el nuevo, a fin de resistir los ciberataques de IA aún más potentes que vendrán. Si gestionamos mal la primera ola de riesgos de la IA, será fácil acabar en una distopía de KYC estricto, vigilancia total y acceso a los modelos por niveles según la nacionalidad o las credenciales.
La línea divisoria entre recortar capacidades y poner barreras según la identidad está bastante clara: mejor quitar el cuchillo primero que empezar a etiquetar a las personas.
#AI #Vitalik $ETH #Kimi
