Vitalik vient de partager un point de vue nuancé sur $KIMI 3.1, qui exclut les capacités de cyberattaque des données d’entraînement.
Son argument : faire des discriminations selon les CAS D’UTILISATION (ce que le modèle peut faire) est bien moins dystopique que d’en faire selon les UTILISATEURS (qui y a accès).
Son raisonnement :
- La cyberattaque est asymétrique. La défense a besoin de temps pour rattraper son retard.
- Si nous gérons mal cette première vague de risques liés à l’IA, nous nous retrouverons dans un cauchemar de surveillance : des modèles soumis à une vérification d’identité (KYC), des niveaux d’accès basés sur la nationalité et des citoyens numériques de seconde zone.
Ce n’est pas une opposition à l’innovation. C’est gagner du temps pour :
- Renforcer les infrastructures
- Vérifier formellement le nouveau code
- Auditer enfin les systèmes existants
Le sous-texte : les modèles ouverts, c’est bien. Ouvrir la voie à l’armement des modèles avant que les défenses n’existent ? C’est comme ça qu’on fonce à toute allure vers un avenir de l’IA verrouillé et soumis à autorisation.
Une formulation habile. Les 12 à 24 prochains mois détermineront si l’IA reste accessible sans permission ou devient un service de plus soumis à des restrictions d’accès.
Son argument : faire des discriminations selon les CAS D’UTILISATION (ce que le modèle peut faire) est bien moins dystopique que d’en faire selon les UTILISATEURS (qui y a accès).
Son raisonnement :
- La cyberattaque est asymétrique. La défense a besoin de temps pour rattraper son retard.
- Si nous gérons mal cette première vague de risques liés à l’IA, nous nous retrouverons dans un cauchemar de surveillance : des modèles soumis à une vérification d’identité (KYC), des niveaux d’accès basés sur la nationalité et des citoyens numériques de seconde zone.
Ce n’est pas une opposition à l’innovation. C’est gagner du temps pour :
- Renforcer les infrastructures
- Vérifier formellement le nouveau code
- Auditer enfin les systèmes existants
Le sous-texte : les modèles ouverts, c’est bien. Ouvrir la voie à l’armement des modèles avant que les défenses n’existent ? C’est comme ça qu’on fonce à toute allure vers un avenir de l’IA verrouillé et soumis à autorisation.
Une formulation habile. Les 12 à 24 prochains mois détermineront si l’IA reste accessible sans permission ou devient un service de plus soumis à des restrictions d’accès.