En el debate sobre la alineación, Vitalik se posicionó a favor de «limitar las capacidades, no a las personas».
Según varios medios, Vitalik Buterin, cofundador de Ethereum, está de acuerdo con que Kimi 3.1 elimine de sus datos de entrenamiento las capacidades avanzadas de ciberataque. Subrayó que es mejor limitar las capacidades según el contexto de uso que discriminar por la identidad del usuario. También advirtió que, si se gestionan mal los riesgos de la IA, podríamos acabar con modelos sometidos a un control excesivo, vigilancia profunda y estratificación social.
Cómo interpretarlo: se trata de una cuestión de alineación en materia de seguridad, no solo de relaciones públicas del producto. Para el sector cripto, lo más relevante es que aumentará la superficie de exposición de los modelos de código abierto, las herramientas automatizadas de ataque y la infraestructura on-chain. De ahora en adelante, será más útil seguir los límites que cada modelo publique para sus «capacidades ofensivas» y comprobar si la investigación en seguridad mantiene canales legítimos para los equipos rojos que fijarse en los eslóganes.
#Vitalik #AI对齐 #Kimi #Seguridad
Según varios medios, Vitalik Buterin, cofundador de Ethereum, está de acuerdo con que Kimi 3.1 elimine de sus datos de entrenamiento las capacidades avanzadas de ciberataque. Subrayó que es mejor limitar las capacidades según el contexto de uso que discriminar por la identidad del usuario. También advirtió que, si se gestionan mal los riesgos de la IA, podríamos acabar con modelos sometidos a un control excesivo, vigilancia profunda y estratificación social.
Cómo interpretarlo: se trata de una cuestión de alineación en materia de seguridad, no solo de relaciones públicas del producto. Para el sector cripto, lo más relevante es que aumentará la superficie de exposición de los modelos de código abierto, las herramientas automatizadas de ataque y la infraestructura on-chain. De ahora en adelante, será más útil seguir los límites que cada modelo publique para sus «capacidades ofensivas» y comprobar si la investigación en seguridad mantiene canales legítimos para los equipos rojos que fijarse en los eslóganes.
#Vitalik #AI对齐 #Kimi #Seguridad