Искусственный интеллект становится всё лучше в выполнении задач помимо ответов на вопросы. Теперь системы ИИ помогают с программированием, исследованиями, анализом и другими задачами, которые раньше почти полностью выполняли люди. Это поднимает новый вопрос: что произойдёт, когда ИИ начнёт играть более значимую роль в создании следующего поколения ИИ?
OpenAI теперь призывает к международным стандартам, чтобы помочь ответить на этот вопрос. В сообщении от 21 сентября под названием «Создание стандартов для следующего этапа ИИ» OpenAI предложила международные усилия под руководством США по разработке общих технических стандартов для передового ИИ. Компания утверждает, что такие стандарты могут помочь странам измерять возможности ИИ, оценивать риски, тестировать меры защиты и сообщать о серьёзных инцидентах более согласованными методами.
Ключевые выводы
OpenAI хочет международные стандарты для оценки ИИ передового уровня.
Предложение охватывает возможности, риски, меры защиты и отчётность об инцидентах.
OpenAI говорит, что полностью автономное рекурсивное самоулучшение сегодня не происходит.
Компания хочет, чтобы контроль человека оставался центральным по мере того, как ИИ становится более способным.
Существующие организации по безопасности ИИ могут помочь разработать общие технические стандарты.
Openai Хочет Общую Рамочную Модель для ИИ Передового Уровня
Базовая идея довольно проста. Нет необходимости, чтобы каждая страна разрабатывала полностью отдельную методологию для оценки опасностей, исходящих от передового ИИ. По данным OpenAI, стандартизация технических подходов может дать странам, исследователям и сообществу ИИ эффективный способ оценивать их всё более изощрённые системы ИИ. Это становится особенно актуальным, когда инциденты, связанные с ИИ, происходят по разные стороны границ.
Компания не предлагает один-единственный глобальный закон об ИИ. Вместо этого она хочет, чтобы страны разработали совместимые стандарты, а правительства позже решали, как использовать их в рамках собственных регуляторных систем. Это важное отличие, поскольку предлагаемые стандарты не становятся сразу требованиями для лицензирования или сертификации всех технологий искусственного интеллекта. Вместо этого правительства сохраняют полномочия определять, как эти стандарты будут применяться в пределах их юрисдикций.
Рекурсивное самоулучшение — часть обсуждения
Одной из наиболее интересных частей предложения OpenAI является обсуждение рекурсивного самоулучшения (RSI). Идея описывает будущее, в котором системы ИИ смогут всё больше помогать исследователям создавать более способные системы ИИ. Проще говоря, ИИ может стать частью процесса улучшения самого ИИ.
Это потенциально может ускорить исследования в области ИИ. Но это также создаёт сложный вопрос по безопасности: сколько человеческого надзора должно оставаться в контуре, если ИИ-системы будут всё более активно участвовать в разработке будущих моделей?
OpenAI утверждает, что полностью автономное рекурсивное самоулучшение сегодня не происходит. Компания также считает, что такой курс не следует продолжать, если его нельзя реализовать безопасно, сохраняя контроль со стороны людей. Поэтому оценка и тестирование безопасности становятся всё более важными по мере того, как ИИ-системы получают возможность справляться с всё более сложными задачами по исследованиям и разработкам.
Стандарты по безопасности ИИ могут стать ещё более важными
OpenAI также указывает на существующие организации и сети по безопасности ИИ по всему миру как на потенциальные строительные блоки для этой работы. Компания в частности упоминает институты по безопасности ИИ и связанные организации в разных странах, включая США, Великобританию, Канаду, Францию, Германию, Японию, Южную Корею, Сингапур, Индию, Кению и Австралию.
Вместо того чтобы каждая страна разрабатывала собственный полностью отдельный технический подход, OpenAI хочет, чтобы эти группы работали над стандартами, которые могут дополнять друг друга. В предложении также говорится о необходимости участия разработчиков ИИ, исследователей, представителей академической среды и независимых технических экспертов. OpenAI утверждает, что стандарты должны проектироваться вокруг технических измерений, а не вокруг интересов конкретной компании или страны.
Почему это важно
Время выглядит примечательным. Компании в сфере ИИ создают системы, которые всё более способны выполнять многошаговые задачи при меньшем объёме прямого участия человека, в то время как правительства всё ещё разбираются с тем, как регулировать эту технологию.
Reuters сообщило, что OpenAI хочет, чтобы Соединённые Штаты взяли на себя ведущую роль в разработке международных технических стандартов для передового ИИ. Более серьёзной задачей, возможно, будет добиться того, чтобы страны и компании договорились о том, что именно должны измерять эти стандарты и как их следует применять.
Пока что предложение OpenAI сосредоточено на создании общей технической основы до того, как ИИ передового уровня станет ещё более способным. Когда ИИ начнёт выполнять всё больше работы, связанной с разработкой самого ИИ, наличие общего способа измерять возможности, риски и меры защиты может стать всё более важной частью обсуждения.
Эта статья первоначально была опубликована как «OpenAI добивается глобальных стандартов безопасности ИИ по мере того, как ИИ становится более автономным на фоне Crypto Breaking News — вашего надёжного источника новостей о криптовалюте, новостей о Bitcoin и обновлений по блокчейну».