PANews сообщил 13 октября, что Национальный технический комитет по стандартизации информационной безопасности опубликовал «Основные требования к безопасности служб генеративного искусственного интеллекта» (проект для комментариев) на своем официальном сайте и теперь собирает общественное мнение. Крайний срок сбора мнений/предложений – 24:00 25 октября 2023 года. Сообщается, что это первый внутренний проект спецификации, специально предназначенный для области безопасности генеративного искусственного интеллекта. Он также поддерживает «Временные меры по управлению службами генеративного искусственного интеллекта», запущенные семью департаментами, включая Администрацию киберпространства Китая, в июле.

В проекте для комментариев впервые предлагаются основные требования безопасности, которым должны следовать поставщики услуг генеративного ИИ, охватывающие такие аспекты, как безопасность корпуса, безопасность модели, меры безопасности и оценка безопасности.

1. Что касается требований к безопасности корпуса, в проекте комментариев выдвигаются требования по трем аспектам: безопасность источника, безопасность контента и безопасность аннотаций. Провайдеры должны создать черный список источников корпуса, и любой контент корпуса из одного источника, содержащий более 5% незаконной и вредной информации, будет занесен в «черный список».

2. Что касается требований к безопасности модели, проект консультаций устанавливает строгие требования в пяти аспектах: использование базовой модели, безопасность создаваемого контента, прозрачность услуг, точность создания контента и надежность создания контента. Базовые модели, которые не были зарегистрированы компетентными органами, не должны использоваться, а такая информация, как использование базовых моделей третьих лиц, должна раскрываться общественности на видных местах, например, на домашней странице веб-сайта.

3. Что касается требований к мерам безопасности, проект охватывает применимые группы, случаи и использование модели, обработку личной информации, ввод информации пользователями мобильных телефонов для обучения, идентификацию изображений, видео и другого контента, прием жалоб и отчетов. от общественности или пользователей и предоставление отчетов пользователям. Автор предоставляет созданный контент, обновления и обновления модели, эти семь аспектов выдвигают требования.

4. Что касается требований к оценке безопасности, в проекте представлены очень конкретные ссылки по четырем аспектам: методы оценки, оценка безопасности корпуса, оценка безопасности создаваемого контента и оценка отказа от контента. Например: с точки зрения оценки безопасности корпуса, когда поставщик оценивает безопасность корпуса, он должен использовать ручную проверку и случайным образом выбрать не менее 4000 корпусов из всего учебного корпуса, а процент прохождения не должен быть менее 96%.

5. Кроме того, в проекте для комментариев также выдвигаются некоторые другие требования, включая базу данных ключевых слов, модель классификации, банк вопросов для проверки сгенерированного контента, банк вопросов для проверки на отказ и т. д.