Я тут подумал, что большинство обсуждений вокруг ИИ, похоже, следуют одной и той же схеме.
Каждые несколько месяцев появляется новая модель, бенчмарки улучшаются, и разговор смещается в сторону того, что ИИ может сделать дальше. Предполагается, что способность — это ограничение. Если интеллект продолжает улучшаться, всё остальное в конечном итоге встает на свои места.
Что меня выделяет, так это то, что интеллект и доверие, похоже, не масштабируются одинаково.
Модель может улучшаться за счет большего объема данных, большего вычислительного потенциала и лучшего обучения. Доверие становится более сложным, когда системы становятся больше. Большее количество пользователей создает больше взаимодействий. Больше взаимодействий создает больше решений. И в конечном итоге задача смещается от генерации выходных данных к пониманию того, можно ли на самом деле проверить эти выходные данные.
Может быть, это и есть слепая зона.
Мы тратим много времени на измерение интеллекта, но гораздо меньше времени задумываемся о том, как крупные сети координируются вокруг этого. Не с точки зрения производительности, а с точки зрения доверия.
Вот здесь OpenGradient становится интересным.
Не потому, что он строит инфраструктуру ИИ, а потому, что, похоже, он исследует более глубокий вопрос: что происходит, когда интеллект становится открытым, распределенным и проверяемым, а не просто более способным?
Когда системы ИИ становятся частью более экономических и социальных процессов, реальным узким местом может быть не сам интеллект.
Это может быть уверенность в процессе за ним.
Я пока не знаю, куда это приведет, но становится всё труднее это игнорировать.
#opg $OPG @OpenGradient
$NVDAB $MUB
#OPG🔥🔥🔥
Каждые несколько месяцев появляется новая модель, бенчмарки улучшаются, и разговор смещается в сторону того, что ИИ может сделать дальше. Предполагается, что способность — это ограничение. Если интеллект продолжает улучшаться, всё остальное в конечном итоге встает на свои места.
Что меня выделяет, так это то, что интеллект и доверие, похоже, не масштабируются одинаково.
Модель может улучшаться за счет большего объема данных, большего вычислительного потенциала и лучшего обучения. Доверие становится более сложным, когда системы становятся больше. Большее количество пользователей создает больше взаимодействий. Больше взаимодействий создает больше решений. И в конечном итоге задача смещается от генерации выходных данных к пониманию того, можно ли на самом деле проверить эти выходные данные.
Может быть, это и есть слепая зона.
Мы тратим много времени на измерение интеллекта, но гораздо меньше времени задумываемся о том, как крупные сети координируются вокруг этого. Не с точки зрения производительности, а с точки зрения доверия.
Вот здесь OpenGradient становится интересным.
Не потому, что он строит инфраструктуру ИИ, а потому, что, похоже, он исследует более глубокий вопрос: что происходит, когда интеллект становится открытым, распределенным и проверяемым, а не просто более способным?
Когда системы ИИ становятся частью более экономических и социальных процессов, реальным узким местом может быть не сам интеллект.
Это может быть уверенность в процессе за ним.
Я пока не знаю, куда это приведет, но становится всё труднее это игнорировать.
#opg $OPG @OpenGradient
$NVDAB $MUB
#OPG🔥🔥🔥
