PANews 13. října informovalo, že Národní technický výbor pro standardizaci informační bezpečnosti zveřejnil na svých oficiálních stránkách „Základní požadavky na bezpečnost služeb generativní umělé inteligence“ (Draft for Comments) a nyní si žádá veřejné mínění. Termín sběru názorů/návrhů je 25. října 2023 ve 24:00. Uvádí se, že se jedná o první domácí návrh specifikace speciálně pro oblast generativního zabezpečení AI. Podporuje také „Prozatímní opatření pro správu generativních služeb umělé inteligence“, která v červenci zahájilo sedm oddělení včetně Čínské správy kyberprostoru.

Návrh k připomínkování poprvé navrhuje základní bezpečnostní požadavky, které musí poskytovatelé služeb generativní umělé inteligence dodržovat a které zahrnují aspekty, jako je zabezpečení korpusu, zabezpečení modelu, bezpečnostní opatření a hodnocení bezpečnosti.

1. Z hlediska požadavků na zabezpečení korpusu předkládá návrh pro připomínky požadavky ze tří hledisek: zabezpečení zdroje, zabezpečení obsahu a zabezpečení anotace. Poskytovatelé musí vytvořit černou listinu zdrojů korpusu a veškerý obsah korpusu z jednoho zdroje, který obsahuje více než 5 % nelegálních a škodlivých informací, bude „na černou listinu“.

2. Pokud jde o požadavky na zabezpečení modelu, návrh konzultace stanoví přísné požadavky v pěti aspektech: základní použití modelu, bezpečnost generovaného obsahu, transparentnost služeb, přesnost generování obsahu a spolehlivost generování obsahu. Základní modely, které nebyly zaregistrovány u příslušných orgánů, by neměly být používány a informace, jako je použití základních modelů třetích stran, by měly být zveřejňovány na prominentních místech, jako je domovská stránka webové stránky.

3. Pokud jde o požadavky na bezpečnostní opatření, návrh zahrnuje použitelné skupiny modelu, příležitosti a použití, zpracování osobních údajů, vkládání informací uživateli mobilních telefonů pro školení, identifikaci obrázků, videí a dalšího obsahu, přijímání stížností a zpráv od veřejnosti nebo uživatelů a podávání zpráv uživatelům Autor poskytuje generovaný obsah, aktualizace modelu a upgrady, těchto sedm aspektů předkládá požadavky.

4. Pokud jde o požadavky na hodnocení bezpečnosti, návrh poskytuje velmi konkrétní odkazy ve čtyřech aspektech: metody hodnocení, hodnocení bezpečnosti korpusu, hodnocení bezpečnosti generovaného obsahu a hodnocení odmítnutí obsahu. Například: pokud jde o hodnocení bezpečnosti korpusu, poskytovatel při hodnocení bezpečnosti korpusu musí použít manuální kontrolu a namátkově vybrat ne méně než 4000 korpusů ze všech školicích korpusů a úspěšnost by neměla být nižší než 96 %.

5. Kromě toho návrh pro připomínky také předkládá některé další požadavky, včetně databáze klíčových slov, klasifikačního modelu, vygenerované obsahové banky testovacích otázek, odmítnutí testových otázek atd.