Das National Information Security Standards Committee hat grundlegende Anforderungen für generative KI-Sicherheit veröffentlicht und holt nun öffentliche Meinungen ein.

PANews berichtete am 13. Oktober, dass das National Information Security Standardization Technical Committee die „Grundlegenden Anforderungen für die Sicherheit generativer künstlicher Intelligenzdienste“ (Entwurf für Kommentare) auf seiner offiziellen Website veröffentlicht hat und nun öffentliche Meinungen einholt. Die Frist zur Einholung von Meinungen/Vorschlägen endet am 25. Oktober 2023, 24:00 Uhr. Es wird berichtet, dass dies der erste inländische Spezifikationsentwurf speziell für den Bereich der generativen KI-Sicherheit ist. Er unterstützt auch die „Interim Measures for the Management of Generative Artificial Intelligence Services“, die im Juli von sieben Abteilungen, darunter der Cyberspace Administration of China, ins Leben gerufen wurden.

Der Entwurf zur Kommentierung schlägt erstmals die grundlegenden Sicherheitsanforderungen vor, die Anbieter generativer KI-Dienste befolgen müssen, und deckt Aspekte wie Korpussicherheit, Modellsicherheit, Sicherheitsmaßnahmen und Sicherheitsbewertung ab.

1. Im Hinblick auf die Anforderungen an die Korpussicherheit stellt der Entwurf für Kommentare Anforderungen aus drei Aspekten dar: Quellensicherheit, Inhaltssicherheit und Anmerkungssicherheit. Anbieter müssen eine schwarze Liste der Korpusquellen erstellen, und alle Korpusinhalte aus einer einzigen Quelle, die mehr als 5 % illegale und schädliche Informationen enthalten, werden auf die „schwarze Liste“ gesetzt.

2. In Bezug auf die Anforderungen an die Modellsicherheit legt der Konsultationsentwurf strenge Anforderungen in fünf Aspekten fest: Verwendung des Basismodells, Sicherheit generierter Inhalte, Transparenz der Dienste, Genauigkeit der Inhaltsgenerierung und Zuverlässigkeit der Inhaltsgenerierung. Basismodelle, die nicht bei den zuständigen Behörden registriert sind, sollten nicht verwendet werden, und Informationen wie die Verwendung von Basismodellen Dritter sollten an prominenten Stellen wie der Homepage der Website der Öffentlichkeit zugänglich gemacht werden.

3. In Bezug auf die Anforderungen an Sicherheitsmaßnahmen deckt der Entwurf die anwendbaren Gruppen, Anlässe und Verwendungszwecke des Modells, die Verarbeitung personenbezogener Daten, die Eingabe von Informationen durch Mobiltelefonbenutzer für Schulungen, die Identifizierung von Bildern, Videos und anderen Inhalten sowie die Annahme von Beschwerden und Berichten ab Von der Öffentlichkeit oder von Benutzern und der Berichterstattung an Benutzer. Der Autor stellt generierte Inhalte, Modellaktualisierungen und -upgrades bereit. Diese sieben Aspekte stellen Anforderungen.

4. Im Hinblick auf die Sicherheitsbewertungsanforderungen bietet der Entwurf sehr spezifische Hinweise in vier Aspekten: Bewertungsmethoden, Korpussicherheitsbewertung, Sicherheitsbewertung generierter Inhalte und Bewertung der Inhaltsverweigerung. Beispiel: Im Hinblick auf die Korpussicherheitsbewertung muss der Anbieter, wenn er die Sicherheit des Korpus bewertet, eine manuelle Inspektion durchführen und stichprobenartig mindestens 4.000 Korpusproben aus dem gesamten Schulungskorpus auswählen, und die Erfolgsquote sollte nicht weniger als 96 % betragen.

5. Darüber hinaus enthält der Kommentarentwurf auch einige andere Anforderungen, darunter eine Schlüsselwortdatenbank, ein Klassifizierungsmodell, eine Datenbank mit generierten Inhaltstestfragen, eine Datenbank mit Ablehnungstestfragen usw.