Dans le débat sur l’alignement, Vitalik s’est rangé du côté de « limiter les capacités, pas les personnes ».
Selon plusieurs sources, Vitalik Buterin, cofondateur d’Ethereum, approuve la décision de Kimi 3.1 d’exclure des données d’entraînement les capacités avancées de cyberattaque. Il souligne qu’il vaut mieux limiter les capacités en fonction des cas d’usage que discriminer les utilisateurs selon leur identité. Il met aussi en garde contre les risques d’une mauvaise gestion des risques liés à l’IA, qui pourrait conduire à un verrouillage excessif des modèles, à une surveillance poussée et à une stratification sociale.
Comment interpréter cela : il s’agit d’un enjeu d’alignement et de sécurité, pas seulement de relations publiques autour d’un produit. Pour le secteur des cryptomonnaies, le point le plus pertinent est le suivant : l’exposition des modèles open source, des outils d’attaque automatisés et des infrastructures on-chain va croître simultanément. Il sera plus utile de surveiller les limites publiquement fixées par les différentes entreprises pour les « capacités offensives » dans les fiches de leurs modèles, ainsi que le maintien de voies légitimes pour les équipes de red team, que de s’attarder sur les slogans.
#Vitalik #AI对齐 #Kimi #Sécurité
Selon plusieurs sources, Vitalik Buterin, cofondateur d’Ethereum, approuve la décision de Kimi 3.1 d’exclure des données d’entraînement les capacités avancées de cyberattaque. Il souligne qu’il vaut mieux limiter les capacités en fonction des cas d’usage que discriminer les utilisateurs selon leur identité. Il met aussi en garde contre les risques d’une mauvaise gestion des risques liés à l’IA, qui pourrait conduire à un verrouillage excessif des modèles, à une surveillance poussée et à une stratification sociale.
Comment interpréter cela : il s’agit d’un enjeu d’alignement et de sécurité, pas seulement de relations publiques autour d’un produit. Pour le secteur des cryptomonnaies, le point le plus pertinent est le suivant : l’exposition des modèles open source, des outils d’attaque automatisés et des infrastructures on-chain va croître simultanément. Il sera plus utile de surveiller les limites publiquement fixées par les différentes entreprises pour les « capacités offensives » dans les fiches de leurs modèles, ainsi que le maintien de voies légitimes pour les équipes de red team, que de s’attarder sur les slogans.
#Vitalik #AI对齐 #Kimi #Sécurité