PANews informó el 13 de octubre que el Comité Técnico Nacional de Normalización de la Seguridad de la Información publicó los "Requisitos básicos para la seguridad de los servicios de inteligencia artificial generativa" (borrador para comentarios) en su sitio web oficial y ahora está solicitando opiniones públicas. La fecha límite para recoger opiniones/sugerencias es a las 24:00 horas del 25 de octubre de 2023. Se informa que este es el primer borrador de especificación nacional específicamente para el campo de la seguridad de la IA generativa. También respalda las "Medidas provisionales para la gestión de servicios de inteligencia artificial generativa" lanzadas por siete departamentos, incluida la Administración del Ciberespacio de China, en julio.
El borrador para comentarios propone por primera vez los requisitos de seguridad básicos que deben seguir los proveedores de servicios de IA generativa, cubriendo aspectos como la seguridad del corpus, la seguridad del modelo, las medidas de seguridad y la evaluación de la seguridad.
1. En términos de requisitos de seguridad del corpus, el borrador para comentarios presenta requisitos desde tres aspectos: seguridad de la fuente, seguridad del contenido y seguridad de las anotaciones. Los proveedores deben establecer una lista negra de fuentes de corpus, y cualquier contenido de corpus de una sola fuente que contenga más del 5% de información ilegal y dañina se incluirá en la "lista negra".
2. En términos de requisitos de seguridad del modelo, el borrador de consulta establece requisitos estrictos en cinco aspectos: uso del modelo básico, seguridad del contenido generado, transparencia del servicio, precisión de la generación de contenido y confiabilidad de la generación de contenido. No deben utilizarse modelos básicos que no hayan sido registrados ante las autoridades competentes, y la información, como el uso de modelos básicos de terceros, debe divulgarse al público en lugares destacados, como la página de inicio del sitio web.
3. En términos de requisitos de medidas de seguridad, el borrador cubre los grupos, ocasiones y usos aplicables del modelo, el procesamiento de información personal, el ingreso de información por parte de los usuarios de teléfonos móviles para capacitación, la identificación de imágenes, videos y otros contenidos, la aceptación de quejas e informes. Del público o de los usuarios, y los informes a los usuarios. El autor proporciona contenido generado, actualizaciones y mejoras del modelo, estos siete aspectos presentan requisitos.
4. En términos de requisitos de evaluación de seguridad, el borrador proporciona referencias muy específicas en cuatro aspectos: métodos de evaluación, evaluación de seguridad del corpus, evaluación de seguridad del contenido generado y evaluación de rechazo de contenido. Por ejemplo: en términos de evaluación de la seguridad del corpus, cuando el proveedor evalúa la seguridad del corpus, debe utilizar una inspección manual y muestrear aleatoriamente no menos de 4000 corpus de todos los corpus de capacitación, y la tasa de aprobación no debe ser inferior al 96%.
5. Además, el borrador para comentarios también presenta algunos otros requisitos, relacionados con la base de datos de palabras clave, el modelo de clasificación, el banco de preguntas de prueba de contenido generado, el banco de preguntas de prueba de rechazo, etc.