OpenAI выделила пять важных уроков, извлеченных из своей программы грантов на сумму 1 миллион долларов США, направленной на вовлечение общественности в процесс принятия решений о том, как должен себя вести ИИ, чтобы лучше соответствовать его моделям ценностям человечества.

В мае 2023 года компания заявила, что готовится выделить 10 грантов стоимостью 100 000 долларов каждый на эксперименты по созданию «доказательства концепции» — демократического процесса определения правил, которым должны следовать системы ИИ.

В сообщении в блоге от 16 января компания, занимающаяся искусственным интеллектом, рассказала о том, как 10 команд-получателей грантов внедряли инновации в области демократических технологий, о ключевых выводах, сделанных в ходе программы грантов, и о планах OpenAI по внедрению новой демократической технологии.

Согласно сообщению, команды собирали мнения участников разными способами и обнаружили, что общественные мнения часто менялись, что потенциально влияло на частоту выполнения входных процессов. OpenAI узнала, что коллективный процесс должен эффективно собирать фундаментальные ценности и быть достаточно чувствительным, чтобы обнаруживать значимые изменения во мнениях с течением времени.

Кроме того, некоторые команды обнаружили, что преодоление цифрового неравенства все еще остается сложной задачей, что может исказить результаты. Набор участников по всему цифровому неравенству был сложным из-за ограничений платформы и проблем с пониманием местного языка или контекста.

По теме: Управление — ключ к использованию быстро развивающихся преимуществ ИИ: группа ВЭФ

Однако некоторые команды столкнулись с трудностями при достижении согласия в поляризованных группах, особенно когда небольшая подгруппа имела твердые мнения по определенному вопросу. Команда Collective Dialogues обнаружила, что небольшая группа решительно выступала против ограничения ИИ-помощников отвечать на конкретные вопросы в каждой сессии, что приводило к разногласиям с результатами голосования большинства.

По данным OpenAI, достижение консенсуса и представление различных мнений является сложной задачей для достижения единого результата. Команда Inclusive.AI исследовала механизмы голосования и обнаружила, что методы, отражающие сильные чувства людей и обеспечивающие равное участие, считаются более демократичными и справедливыми.

Что касается опасений по поводу будущего ИИ в управлении, в отчете говорится, что некоторые участники нервничали по поводу ИИ в разработке политики, желая прозрачности в его использовании. Однако после обсуждения команды отметили возросшую надежду на способность общественности руководить ИИ.

OpenAI заявляет, что хочет реализовать идеи публичных участников, и с этой целью стартап в области ИИ формирует новую команду исследователей и инженеров Collective Alignment для создания системы сбора и «кодирования» публичных отзывов о поведении своих моделей в продукты и услуги OpenAI.

Журнал: Мошеннические «похищения» ИИ, робот-повар за 20 тысяч долларов, война Акмана с плагиатом ИИ: AI Eye