Несколько дней назад я написал бота для обработки ончейн-алертов по клирингу, потому что никак не могу доверять защите узлов от подделок, и специально съездил проверить взорвавшийся от хайпа @OpenGradient . Я рассчитывал, что эта схема «верифицируемого AI» приоткроет завесу, но после трех дней глубокой возни могу сказать только одно: идеал чертовски красив, а практика — сурова.#OPG
Ее архитектура HACA, которая разделяет «запуск большой модели» и «верификацию результата», звучит довольно продвинуто, но в реальном финансовом фрод-менеджменте выбора по сути нет. Больше всего мне нравится ZKML, который действительно может обеспечивать подлинность только за счет математики, но генерация доказательства зачастую занимает десятки секунд — для алертов по клирингу, где каждая секунда на счету, это просто путь в никуда. Пришлось вынужденно идти по TEE-проходу, но у этого направления слишком тяжелый исторический багаж: аппаратная изоляция наподобие SGX давно уже была продырявлена боковыми каналами, которые превратили ее в сито. Система отвечает лишь за проверку «экзаменационного билета» post factum, но не следит за тем, что происходит в «аудитории» с вычислительной мощностью; по сути, жизнь бизнеса слепо ставят на совесть цепочки поставок чипмейкера.$OPG
Посмотрим и на инфраструктурные компоненты — и там тоже хватает проблем. Тот Model Hub, который заявляет о размещении более тысячи моделей, жестко требует: ончейн-вывод (inference) обязательно нужно конвертировать в формат ONNX. Этот «насильственный» вариант очень легко может потерять граничные свойства операторов, что сразу снижает точность модели. А самое странное: из-за дороговизны ончейн-пространства само тело модели целиком выбрасывают в офчейн-хранилище Walrus, а на цепи остается только сухая ссылка на ID; вопрос подтверждения прав на данные все равно остается разорванным. Что касается плагина MemSync, который якобы повышает память и recall на 243%, на практике при кроссплатформенной эксплуатации он часто роняет поток, а официальный источник так и не предоставил сравнительные бенчмарки — такие непрозрачные цифры остаются чисто маркетингом.$BTC
Если говорить по-честному, OpenGradient с его идеей разъединить выполнение и верификацию — в целом направление верное. Но по текущим инженерным ощущениям это больше похоже на испытательный полигон с уже собранным каркасом. Пока еще невозможно идеально совместить сверхбыстрый отклик и абсолютную защиту от подделок, то, что они называют «верифицируемым выводом», — это пока скорее кибер-понятие: верификация представляет собой лишь некоторую концепцию, а до зрелости, чтобы выдерживать частые реальные проверки на «настоящие деньги», она пока далеко.$ETH
Ее архитектура HACA, которая разделяет «запуск большой модели» и «верификацию результата», звучит довольно продвинуто, но в реальном финансовом фрод-менеджменте выбора по сути нет. Больше всего мне нравится ZKML, который действительно может обеспечивать подлинность только за счет математики, но генерация доказательства зачастую занимает десятки секунд — для алертов по клирингу, где каждая секунда на счету, это просто путь в никуда. Пришлось вынужденно идти по TEE-проходу, но у этого направления слишком тяжелый исторический багаж: аппаратная изоляция наподобие SGX давно уже была продырявлена боковыми каналами, которые превратили ее в сито. Система отвечает лишь за проверку «экзаменационного билета» post factum, но не следит за тем, что происходит в «аудитории» с вычислительной мощностью; по сути, жизнь бизнеса слепо ставят на совесть цепочки поставок чипмейкера.$OPG
Посмотрим и на инфраструктурные компоненты — и там тоже хватает проблем. Тот Model Hub, который заявляет о размещении более тысячи моделей, жестко требует: ончейн-вывод (inference) обязательно нужно конвертировать в формат ONNX. Этот «насильственный» вариант очень легко может потерять граничные свойства операторов, что сразу снижает точность модели. А самое странное: из-за дороговизны ончейн-пространства само тело модели целиком выбрасывают в офчейн-хранилище Walrus, а на цепи остается только сухая ссылка на ID; вопрос подтверждения прав на данные все равно остается разорванным. Что касается плагина MemSync, который якобы повышает память и recall на 243%, на практике при кроссплатформенной эксплуатации он часто роняет поток, а официальный источник так и не предоставил сравнительные бенчмарки — такие непрозрачные цифры остаются чисто маркетингом.$BTC
Если говорить по-честному, OpenGradient с его идеей разъединить выполнение и верификацию — в целом направление верное. Но по текущим инженерным ощущениям это больше похоже на испытательный полигон с уже собранным каркасом. Пока еще невозможно идеально совместить сверхбыстрый отклик и абсолютную защиту от подделок, то, что они называют «верифицируемым выводом», — это пока скорее кибер-понятие: верификация представляет собой лишь некоторую концепцию, а до зрелости, чтобы выдерживать частые реальные проверки на «настоящие деньги», она пока далеко.$ETH