Как сообщает Foresight News со ссылкой на Binance News, исследователи из CertiK и Колумбийского университета представили TensorLean — инструмент, который использует формальные доказательства на Lean для проверки GPU-ядер, лежащих в основе моделей ИИ, в том числе библиотек DeepGEMM и FlashAttention от DeepSeek. Команда заявила, что обнаружила проблемы с корректностью в нескольких таких библиотеках.
Я по образованию инженер-ядерщик. В этой области вычисления, критически важные для безопасности, не считаются надёжными лишь потому, что прошли несколько тестов: необходимо доказать границы погрешности. Вычисления для ИИ постепенно приходят к той же идее: ядра постоянно оптимизируют ради скорости, и каждая такая оптимизация может незаметно изменить математический результат.
Это важно и для криптоиндустрии. Если в будущем ИИ-агентам доверят управлять средствами, лежащая в их основе арифметика должна быть доказуемо корректной, а не просто успешно пройти бенчмарки. Другое исследование на arXiv, посвящённое формализации GPU-кода с помощью Lean, придерживается того же подхода.
Вы бы доверили свой кошелёк ИИ-агенту, если математическая основа его работы не доказана?
#FormalVerification #AI
Я по образованию инженер-ядерщик. В этой области вычисления, критически важные для безопасности, не считаются надёжными лишь потому, что прошли несколько тестов: необходимо доказать границы погрешности. Вычисления для ИИ постепенно приходят к той же идее: ядра постоянно оптимизируют ради скорости, и каждая такая оптимизация может незаметно изменить математический результат.
Это важно и для криптоиндустрии. Если в будущем ИИ-агентам доверят управлять средствами, лежащая в их основе арифметика должна быть доказуемо корректной, а не просто успешно пройти бенчмарки. Другое исследование на arXiv, посвящённое формализации GPU-кода с помощью Lean, придерживается того же подхода.
Вы бы доверили свой кошелёк ИИ-агенту, если математическая основа его работы не доказана?
#FormalVerification #AI