Selon Foresight News, relayé par Binance News, des chercheurs de CertiK et de l’université Columbia ont présenté TensorLean, qui applique des preuves Lean aux noyaux GPU utilisés par des modèles d’IA, notamment DeepGEMM de DeepSeek et la bibliothèque FlashAttention. L’équipe indique avoir découvert des problèmes de correction dans plusieurs d’entre eux.
J’ai suivi une formation d’ingénieur nucléaire, et dans ce domaine, on ne fait pas confiance à un calcul critique pour la sécurité simplement parce qu’il a réussi quelques tests. On en prouve les limites. Le calcul en IA adopte peu à peu la même approche : les noyaux sont optimisés pour la vitesse, et chaque étape d’optimisation peut discrètement modifier les calculs.
C’est aussi important pour les cryptomonnaies. Si des agents d’IA sont amenés à transférer de l’argent, les calculs sur lesquels ils reposent devraient être vérifiables, et pas seulement évalués par des tests de performance. Des travaux distincts sur la formalisation du code GPU en Lean, publiés sur arXiv, vont dans le même sens.
Confieriez-vous un portefeuille à un agent d’IA si ses calculs fondamentaux n’étaient pas prouvés ?
#VérificationFormelle #IA
J’ai suivi une formation d’ingénieur nucléaire, et dans ce domaine, on ne fait pas confiance à un calcul critique pour la sécurité simplement parce qu’il a réussi quelques tests. On en prouve les limites. Le calcul en IA adopte peu à peu la même approche : les noyaux sont optimisés pour la vitesse, et chaque étape d’optimisation peut discrètement modifier les calculs.
C’est aussi important pour les cryptomonnaies. Si des agents d’IA sont amenés à transférer de l’argent, les calculs sur lesquels ils reposent devraient être vérifiables, et pas seulement évalués par des tests de performance. Des travaux distincts sur la formalisation du code GPU en Lean, publiés sur arXiv, vont dans le même sens.
Confieriez-vous un portefeuille à un agent d’IA si ses calculs fondamentaux n’étaient pas prouvés ?
#VérificationFormelle #IA