На прошлой неделе мой племянник спросил меня, почему его приложение для домашки "знало" ответ на задачу, которую его учитель не смог решить на месте. Я дал ему немного неясный ответ о серверах и данных, и он кивнул, будто это всё разъяснило. Но для меня это ничего не прояснило. Я понял, что сам не могу объяснить, откуда взялся этот ответ — не по-настоящему, не дальше удобной выдумки о том, что "облако" думает за нас.
Где-то на этом пути мы перестали задаваться вопросом, где живёт интеллект. Мы постоянно спрашиваем ИИ, но редко интересуемся, кто хостит модель, которая ответила, на каком оборудовании происходила обработка, можно ли проверить результат хоть с чем-то. Мне всё время интересно, когда мы коллективно решили, что незнание — это нормально. Меня беспокоит, как быстро невидимость стала стандартным текстурой доверия — мы доверяем ответу, потому что интерфейс плавный, а не потому что кто-то мог бы это проверить.
Вот здесь что-то вроде OpenGradient становится мне интересным не как продукт, а как структурный вопрос. Оно рассматривает интеллект как то, что нужно координировать, хостить и проверять, а не просто генерировать и отправлять. Оно находится под моделью, а не внутри неё — инфраструктура для проверки, а не ещё один голос, утверждающий, что знает всё.
Но я не совсем уверен, что проверка и масштаб действительно хотят одного и того же будущего. Чем более открытой становится система, тем сложнее определить, кому она принадлежит. Чем более децентрализован хостинг, тем больше стимулов должно выполнять работу доверия, которую это доверие когда-то делало. Может быть, мы задаём неправильный вопрос, когда спрашиваем, точен ли ИИ, когда настоящий вопрос в том, может ли кто-нибудь это проверить.
Глубинная проблема может заключаться в том, что мы никогда не строили доверие для интеллекта на таком уровне — мы просто позаимствовали его у систем, которые никогда не были обязаны себя проверять. Я подозреваю, что мы только начинаем понимать, что мы потеряли, не задавая этих вопросов.
#opg $OPG @OpenGradient
Где-то на этом пути мы перестали задаваться вопросом, где живёт интеллект. Мы постоянно спрашиваем ИИ, но редко интересуемся, кто хостит модель, которая ответила, на каком оборудовании происходила обработка, можно ли проверить результат хоть с чем-то. Мне всё время интересно, когда мы коллективно решили, что незнание — это нормально. Меня беспокоит, как быстро невидимость стала стандартным текстурой доверия — мы доверяем ответу, потому что интерфейс плавный, а не потому что кто-то мог бы это проверить.
Вот здесь что-то вроде OpenGradient становится мне интересным не как продукт, а как структурный вопрос. Оно рассматривает интеллект как то, что нужно координировать, хостить и проверять, а не просто генерировать и отправлять. Оно находится под моделью, а не внутри неё — инфраструктура для проверки, а не ещё один голос, утверждающий, что знает всё.
Но я не совсем уверен, что проверка и масштаб действительно хотят одного и того же будущего. Чем более открытой становится система, тем сложнее определить, кому она принадлежит. Чем более децентрализован хостинг, тем больше стимулов должно выполнять работу доверия, которую это доверие когда-то делало. Может быть, мы задаём неправильный вопрос, когда спрашиваем, точен ли ИИ, когда настоящий вопрос в том, может ли кто-нибудь это проверить.
Глубинная проблема может заключаться в том, что мы никогда не строили доверие для интеллекта на таком уровне — мы просто позаимствовали его у систем, которые никогда не были обязаны себя проверять. Я подозреваю, что мы только начинаем понимать, что мы потеряли, не задавая этих вопросов.
#opg $OPG @OpenGradient