PANewsは10月13日、国家情報セキュリティ標準化技術委員会が「生成型人工知能サービスのセキュリティに関する基本要件」（意見募集草案）を公式ウェブサイトで公開し、現在一般意見を募集していると報じた。ご意見・ご提案の募集締め切りは2023年10月25日24時までとなります。これは、生成AIセキュリティ分野に特化した初の国内草案仕様であり、中国サイバースペース局を含む7部門が7月に開始した「生成人工知能サービス管理のための暫定措置」もサポートしていると報告されている。

コメント草案では、コーパスセキュリティ、モデルセキュリティ、セキュリティ対策、セキュリティ評価などの側面を網羅し、生成AIサービスプロバイダーが従う必要がある基本的なセキュリティ要件を初めて提案している。

1. コーパスのセキュリティ要件に関して、コメント草案では、ソース セキュリティ、コンテンツ セキュリティ、注釈セキュリティの 3 つの側面から要件を提示しています。プロバイダーはコーパス ソースのブラックリストを作成する必要があり、5% を超える違法および有害な情報を含む単一ソースからのコーパス コンテンツは「ブラックリスト」に登録されます。

2. モデルのセキュリティ要件に関して、諮問草案では、基本的なモデルの使用、生成されたコンテンツのセキュリティ、サービスの透明性、コンテンツ生成の精度、およびコンテンツ生成の信頼性の 5 つの側面で厳しい要件が定められています。所轄官庁に登録されていない基本モデルは使用すべきではなく、サードパーティの基本モデルを使用していることなどの情報をホームページなどの目立つ場所で公開する必要があります。

3. セキュリティ対策の要件として、モデルの対象となるグループ、機会、用途、個人情報の処理、携帯電話ユーザーによるトレーニングのための情報の入力、写真やビデオなどのコンテンツの特定、苦情や報告の受付などを取り上げています。作成者は生成されたコンテンツ、モデルの更新とアップグレードを提供し、これら 7 つの側面が要件を提示します。

4. セキュリティ評価要件に関して、草案は評価方法、コーパスのセキュリティ評価、生成されたコンテンツのセキュリティ評価、およびコンテンツ拒否の評価の 4 つの側面において非常に具体的な参考資料を提供しています。たとえば、コーパスのセキュリティ評価に関して、プロバイダーがコーパスのセキュリティを評価する場合、手動検査を使用し、すべてのトレーニング コーパスから 4,000 以上のコーパスをランダムにサンプリングする必要があり、合格率は 96% 以上である必要があります。

5. さらに、コメント草案では、キーワード データベース、分類モデル、生成されたコンテンツ テスト質問バンク、拒否テスト質問バンクなどを含む、その他の要件もいくつか提案しています。