В понедельник вечером я сидел на балконе, курил, и наткнулся на твит, что OpenAI снова из-за регуляторных требований в каком-то регионе заблокировала кучу аккаунтов. В комментариях много людей ругались, я затушил сигарету и вернулся в комнату, открыл OpenGradient Chat и запустил тот же prompt. Ответ пришел нормально, attestation hash зеленым шрифтом по-прежнему висел рядом с историей вызовов, я отодвинулся назад и уставился на экран.
Сначала я думал, что такие слова, как "суверенитет вычислительных мощностей", — это просто разговорчики из мира децентрализации, которые не имеют ко мне никакого отношения. В конце концов, ChatGPT никогда не отключал мои услуги, но после прочтения второй главы документации OpenGradient о топологии узлов я признал, что недооценивал ситуацию. Централизованный ИИ держит все вычислительные мощности в своих дата-центрах: блокировка аккаунтов, региональные запреты, модерация контента и коррекция цен — все это принимается односторонне, и права пользователей на переговоры стремятся к нулю. В 2023 году, когда ChatGPT был заблокирован в Италии на более чем 20 дней из-за GDPR, мои коллеги в этой стране могли только ждать. OpenGradient разбивает вычислительные мощности по всему миру на Inference Nodes: если какие-то регуляторы отключат местные узлы, остальные узлы будут работать без проблем, а операторы узлов могут подключаться без разрешения, так что никто не может односторонне отключить систему. $BSB
@OpenGradient Ключ к успешной работе этой децентрализованной системы — это хорошая стыковка на инженерном уровне. Архитектура HACA позволяет узлам Inference, Full и Data Nodes проверять друг друга на уровне аппаратного attestation. Мой prompt маршрутизируется к какому-то узлу, выбранному автоматически по протоколу x402 в зависимости от доступности и цены, без централизованного диспетчера. $OPG В протоколе оплата привязана к attestation: чтобы узлы могли "обмануть" пользователей, им необходимо сначала пройти проверку через хэш TEE-образа, а злонамеренные узлы будут подвергнуты двойному наказанию — реакции против ведьм и слешу за стейкинг. В этой структуре я получаю возможность контролировать маршруты prompt, платёжные контрагенты и расходы на выход без единой точки контроля. $PORTAL
Эта система ещё далека от идеала. В ранних распределениях Inference Nodes, скорее всего, сосредоточены в Северной Америке и у небольших хостинг-компаний в Европе. Если действительно возникнет координация межрегиональных регуляторов и заблокируют несколько IDC, доступность услуг всё равно может пошатнуться. В момент, когда LLM Proxy маршрутизируется к внешним передовым моделям, OpenAI и Anthropic сами по себе являются централизованными дата-центрами, и OpenGradient не может решить вопрос о суверенитете этих вычислительных мощностей. Цены OPG колеблются, сталкиваясь с разгрузкой на 25% в 13-й месяц, доходы узлов могут колебаться, что может привести к отключению мелких узлов, а концентрация на короткий срок может даже увеличиться.
Я отодвинул пепельницу в сторону, закрыл окно наполовину и вернулся к столу для новой сессии.
#opg