#opg $OPG
Раньше я оценивал верифицируемый ИИ с помощью одного ленивого правила:
Самое сильное доказательство должно быть самым лучшим.
Потом я посмотрел, как @OpenGradient обрабатывает разные нагрузки, и понял, что это правило сделало бы ИИ почти непригодным.
Обычный разговор на chat.opengradient.ai требует приватности, доказательства того, что одобренный код обработал запрос, и ответа достаточно быстро, чтобы это ощущалось как чат. TEE подходит для этой задачи: он обеспечивает аппаратно подкреплённую аттестацию, не заставляя пользователя ждать тяжёлую генерацию доказательств.
ZKML решает более сложную задачу.
Он может математически доказать, что конкретная модель выдала конкретный результат. Такой уровень уверенности имеет смысл, когда вывод ML может привести к ликвидации, перемещению средств или изменению решения в ончейне.
Но генерация такого доказательства может стоить в тысячи раз больше вычислений.
Если положить ZKML за каждое предложение от LLM, то «безопасный» ассистент превратится в дорогую комнату ожидания.
Ещё есть подписи. Они могут показать, какой узел вернул результат, и было ли это изменено, но они не доказывают, что само выполнение было корректным. Этого может быть достаточно для экспериментов или задач с низким риском.
Что для меня стало ключевым: это не более сильные и более слабые версии одного и того же инструмента.
Они защищают от разных типов сбоев.
Ключ OpenGradient в том, чтобы верификация соответствовала последствиям ответа, даже когда один рабочий процесс содержит разные уровни риска.
Вопрос не в том, «Почему бы не использовать везде самое сильное доказательство?»
Вопрос в том, «Что именно будет потеряно, если этот конкретный ответ окажется неверным?»
Это кажется гораздо более практичной основой для $OPG .
Раньше я оценивал верифицируемый ИИ с помощью одного ленивого правила:
Самое сильное доказательство должно быть самым лучшим.
Потом я посмотрел, как @OpenGradient обрабатывает разные нагрузки, и понял, что это правило сделало бы ИИ почти непригодным.
Обычный разговор на chat.opengradient.ai требует приватности, доказательства того, что одобренный код обработал запрос, и ответа достаточно быстро, чтобы это ощущалось как чат. TEE подходит для этой задачи: он обеспечивает аппаратно подкреплённую аттестацию, не заставляя пользователя ждать тяжёлую генерацию доказательств.
ZKML решает более сложную задачу.
Он может математически доказать, что конкретная модель выдала конкретный результат. Такой уровень уверенности имеет смысл, когда вывод ML может привести к ликвидации, перемещению средств или изменению решения в ончейне.
Но генерация такого доказательства может стоить в тысячи раз больше вычислений.
Если положить ZKML за каждое предложение от LLM, то «безопасный» ассистент превратится в дорогую комнату ожидания.
Ещё есть подписи. Они могут показать, какой узел вернул результат, и было ли это изменено, но они не доказывают, что само выполнение было корректным. Этого может быть достаточно для экспериментов или задач с низким риском.
Что для меня стало ключевым: это не более сильные и более слабые версии одного и того же инструмента.
Они защищают от разных типов сбоев.
Ключ OpenGradient в том, чтобы верификация соответствовала последствиям ответа, даже когда один рабочий процесс содержит разные уровни риска.
Вопрос не в том, «Почему бы не использовать везде самое сильное доказательство?»
Вопрос в том, «Что именно будет потеряно, если этот конкретный ответ окажется неверным?»
Это кажется гораздо более практичной основой для $OPG .