CertiKとコロンビア大学の研究者はTensorLeanを発表し、実運用レベルのAI演算子を形式検証しました。Foresight Newsによると、この研究では最適化されたAI計算コードに数学的証明を適用し、モデル開発者が学習速度を高め、推論コストを削減する際に、より強力な正当性検証を提供します。

チームはコンパイル済みGPUカーネルの149のインスタンスを評価し、そのうち83が対応するLean仕様を満たすことを形式検証しました。この研究では複数世代のGPUアーキテクチャを対象とし、DeepSeekのDeepGEMMやFlashAttention演算子ライブラリも含まれています。6つのライブラリ全体で、研究者は38件の正当性に関する問題を特定しました。そのうち2件はDeepGEMM、23件はFlashAttentionに関するものでした。

TensorLeanは、更新後のコードを再検証するために使用できます。AIコンピューティングのコードは、性能調整やハードウェアへの適応に伴って変更されます。このアプローチは、計算ミスやトレーニングのやり直し、コンピューティングリソースの浪費を減らすのに役立つ可能性があります。