На этой неделе я стал более внимательно следить за OpenGradient, чем ожидал, и меня привлекло не то, что все повторяют про "AI infra narrative".
На самом деле, меня поразило, насколько неравномерно распределена ранняя активность по сети. Некоторые узлы постоянно заняты обработкой запросов на вывод, в то время как другие просто... сидят там, пока не изменятся вознаграждения или маршрутизация. Это напомнило мне о ранних циклах DePIN, где "участие" выглядит высоким на бумаге, но реальное распределение нагрузки рассказывает другую историю.
Также, большинство людей говорят о "хостинге моделей в масштабе", но, на мой взгляд, недоговоренной частью является верификация. Если Open Intelligence пытается быть надежной инфраструктурой, кто-то должен валидировать результаты, не увеличивая задержку. Этот компромисс довольно запутанный. Слишком строгие требования замедляют все, а слишком мягкие – это в основном доверие случайным провайдерам вычислений.
Я на самом деле ожидал больше хайпа вокруг развертывания моделей, но тишина, которую я наблюдаю, исходит от операторов узлов, обсуждающих поведение переключения GPU и то, как они распределяют нагрузки в зависимости от стимулов. Это ближе к тому, где формируется настоящая конкуренция, чем что-либо на поверхности пользовательского интерфейса.
Я не говорю, что рынок пока что неправильно оценивает это, но определенно чувствуется, что люди все еще читают заголовок "AI cloud", а не то, что под капотом.
Если верификация станет узким местом вместо вычислений, изменится ли ценность с поставок GPU на тех, кто контролирует доверие к выводу? Эта часть сейчас выглядит недооцененной.
#opg $OPG @OpenGradient
$SPCXB $SAMSUNG
На самом деле, меня поразило, насколько неравномерно распределена ранняя активность по сети. Некоторые узлы постоянно заняты обработкой запросов на вывод, в то время как другие просто... сидят там, пока не изменятся вознаграждения или маршрутизация. Это напомнило мне о ранних циклах DePIN, где "участие" выглядит высоким на бумаге, но реальное распределение нагрузки рассказывает другую историю.
Также, большинство людей говорят о "хостинге моделей в масштабе", но, на мой взгляд, недоговоренной частью является верификация. Если Open Intelligence пытается быть надежной инфраструктурой, кто-то должен валидировать результаты, не увеличивая задержку. Этот компромисс довольно запутанный. Слишком строгие требования замедляют все, а слишком мягкие – это в основном доверие случайным провайдерам вычислений.
Я на самом деле ожидал больше хайпа вокруг развертывания моделей, но тишина, которую я наблюдаю, исходит от операторов узлов, обсуждающих поведение переключения GPU и то, как они распределяют нагрузки в зависимости от стимулов. Это ближе к тому, где формируется настоящая конкуренция, чем что-либо на поверхности пользовательского интерфейса.
Я не говорю, что рынок пока что неправильно оценивает это, но определенно чувствуется, что люди все еще читают заголовок "AI cloud", а не то, что под капотом.
Если верификация станет узким местом вместо вычислений, изменится ли ценность с поставок GPU на тех, кто контролирует доверие к выводу? Эта часть сейчас выглядит недооцененной.
#opg $OPG @OpenGradient
$SPCXB $SAMSUNG