#opg $OPG Разговоры об ИИ обычно сосредоточены на моделях.
Более крупные модели. Более быстрые модели. Более умные модели.
Но я думаю, что один из самых интересных вопросов лежит под всем этим:
Откуда на самом деле исходит интеллект ИИ?
Каждая система ИИ учится на чем-то. Статьях, форумах, научных работах, коде, изображениях, публичных обсуждениях и миллиардах кусочков информации, которыми люди делились на протяжении многих лет. В некотором смысле, современный ИИ построен на огромном слое коллективного человеческого знания.
Странная часть в том, что как только модель обучена, большинство этих вкладов становятся невидимыми.
Система может генерировать ответы, создавать контент и приносить ценность, но проследить эту ценность обратно к людям и информации, которые помогли ее сформировать, почти невозможно. Мы получаем интеллект, но очень мало видимости того, откуда он пришел.
Это создает важную задачу для будущего ИИ.
По мере того как эти системы становятся мощнее, прозрачность может стать столь же важной, как и способность. Недостаточно, чтобы модель ИИ была полезной. Люди будут все чаще задаваться вопросом, можно ли проверить ее результаты, можно ли понять источники и можно ли каким-либо значимым образом признать вкладчиков.
Конечно, атрибуция - это не простая задача. Человеческое знание многослойно и связано. Одна идея строится на другой, затем на другой. Ни одна система не сможет идеально измерить каждый вклад.
Тем не менее, движение в сторону более открытого и ответственного
интеллекта кажется правильным направлением.
Следующая фаза ИИ может быть определена не только тем, кто строит самую крупную модель.
Она может быть определена тем, кто создает самую надежную экосистему вокруг нее.
Потому что в долгосрочной перспективе интеллект без прозрачности создает вопросы.
Интеллект с прозрачностью создает доверие.
И это отличие может оказаться более важным, чем люди осознают сегодня.
#AI #OpenIntelligence #TransparencyMatters #OPG