OpenAI cho biết ChatGPT sẽ can thiệp sớm hơn khi người dùng tuổi teen hỏi về bạo lực, đồng thời dự định công bố các số liệu an toàn để phụ huynh và trường học có thể biết liệu chatbot có phát hiện những cuộc trò chuyện tiềm ẩn rủi ro hay không.

Những điểm chính

• OpenAI công bố báo cáo an toàn cộng đồng vào ngày 30 tháng 10 và đăng bản cập nhật của Model Spec vào thứ Năm

• OpenAI mở rộng các biện pháp phòng chống bạo lực và bổ sung các biện pháp can thiệp sớm hơn dành cho người dùng tuổi teen trên ChatGPT

• Báo cáo cam kết công khai thông tin về an toàn, bao gồm tần suất các biện pháp can thiệp được thực hiện và những loại vụ việc được xử lý

• Các công cụ bảo vệ thanh thiếu niên trong ChatGPT bao gồm định tuyến dựa trên bộ phân loại, có thể rút ngắn, từ chối hoặc chuyển hướng các cuộc trao đổi có rủi ro, đồng thời chuyển một số cuộc trò chuyện sang thông điệp hỗ trợ khủng hoảng

OpenAI công bố báo cáo vào ngày 30 tháng 10, đồng thời đăng bản Model Spec cập nhật vào thứ Năm, đề ra năm giá trị cho các hệ thống có năng lực cao hơn và đưa ra khuôn khổ chính sách rộng hơn cho những thay đổi hướng đến người dùng này. ChatGPT là chatbot và ứng dụng dành cho người tiêu dùng của OpenAI.

Các hệ thống an toàn quyết định khi nào mô hình nên trả lời, từ chối, chuyển hướng hoặc hiển thị các nguồn hỗ trợ.

An toàn cho thanh thiếu niên chuyển từ chính sách sang sản phẩm

Báo cáo mới cho biết OpenAI đang mở rộng các biện pháp ngăn chặn bạo lực trong ChatGPT và bổ sung các can thiệp sớm hơn dành cho người dùng tuổi teen. Điều này quan trọng vì trong công tác bảo vệ thanh thiếu niên, thời điểm can thiệp là phần khó nhất.

Nếu hệ thống chỉ can thiệp sau khi yêu cầu trở nên rõ ràng, thì sản phẩm đã không phát hiện được một số tương tác có rủi ro.

Báo cáo an toàn cộng đồng ngày 30 tháng 10 của OpenAI cam kết công bố thông tin an toàn rộng rãi về những thay đổi này, đồng thời mô tả kế hoạch đăng dữ liệu về tần suất can thiệp và các loại trường hợp được xử lý. Những công bố đó nhằm giúp các bên quan sát bên ngoài đánh giá liệu công ty có đo lường việc sử dụng gây hại hay chỉ mô tả ý định.

Thay đổi này không phải là lệnh cấm hoàn toàn đối với các chủ đề khó.

Đây là một hệ thống định tuyến chặt chẽ hơn. Báo cáo nhấn mạnh sự cần thiết phải phân biệt câu hỏi thông thường, dấu hiệu khủng hoảng và những yêu cầu không nên được hướng dẫn cách thực hiện; đồng thời lưu ý rằng cần xác định ranh giới khi người dùng diễn đạt ý định gây hại một cách gián tiếp.

Cũng nên đọc: OpenAI và ServiceNow giao nhiệm vụ hỗ trợ bàn trợ giúp văn phòng cho ChatGPT

Từ hàng rào bảo vệ chung đến quy tắc dành riêng cho từng độ tuổi

Báo cáo hôm thứ Sáu được công bố sau một năm các phòng thí nghiệm AI chịu sự giám sát chặt chẽ hơn về cách trợ lý dành cho người tiêu dùng xử lý hành vi tự làm hại bản thân, bạo lực và việc thanh thiếu niên sử dụng AI.

Các biện pháp bảo vệ trước đây thường tập trung vào những quy tắc từ chối chung. Cách tiếp cận mới nhắm mục tiêu cụ thể hơn và chú trọng hành vi hơn.

Điều đó có nghĩa là mô hình không chỉ lọc câu trả lời cuối cùng mà còn kiểm tra các kiểu diễn biến trong cuộc trò chuyện có thể cho thấy rủi ro đang tăng lên.

Trên thực tế, điều đó có thể bao gồm những nỗ lực sớm hơn nhằm xoa dịu tình hình và các cách chuyển hướng nhẹ nhàng hơn.

Điều đó cũng có thể đồng nghĩa với việc giới hạn chặt chẽ hơn các chi tiết có thể giúp thực hiện hành động. Với OpenAI, bước chuyển trong cách bảo vệ thanh thiếu niên cũng phù hợp với bản cập nhật Model Spec quy mô lớn hơn.

Khi các mô hình ngày càng có năng lực, an toàn ít phụ thuộc vào một danh sách đen cố định hơn và phụ thuộc nhiều hơn vào các đánh giá nhiều lớp về độ tuổi, bối cảnh và ý định.

OpenAI thay đổi những gì cho trường học và phụ huynh

Đối tượng được nhắm đến ở đây là các gia đình, nhà giáo dục và quản lý trường học, những người vốn đã thấy học sinh sử dụng ChatGPT trên thiết bị cá nhân. Họ ít quan tâm đến điểm chuẩn hơn là việc hệ thống có hành xử nhất quán trong những tình huống ngoại lệ hay không.

Báo cáo không biến ChatGPT thành một sản phẩm dành cho thanh thiếu niên có giám sát, và phụ huynh vẫn không có bảng điều khiển quản trị kiểu trường học cho mọi cuộc trò chuyện.

Tuy nhiên, báo cáo nâng cao tiêu chuẩn mà OpenAI đặt ra cho một trợ lý đại chúng được trẻ vị thành niên sử dụng.

Điều này có ý nghĩa đối với toàn ngành vì nhiều đối thủ có sản phẩm với hình thức tương tự. Khi một phòng thí nghiệm lớn bắt đầu công bố các chỉ số an toàn tập trung vào thanh thiếu niên và mô tả cách can thiệp, những bên khác cũng chịu áp lực phải ghi nhận các biện pháp kiểm soát tương tự.

Hệ thống bảo vệ thanh thiếu niên thực sự hoạt động như thế nào

Các công cụ bảo vệ thanh thiếu niên trong ChatGPT thường gồm nhiều lớp chứ không phải một biện pháp đơn lẻ. OpenAI có thể tinh chỉnh mô hình nền tảng, kiểm tra lời nhắc đầu vào bằng bộ phân loại, kiểm tra câu trả lời dự thảo trước khi hiển thị và chuyển một số cuộc trò chuyện sang thông điệp hỗ trợ khủng hoảng.

Cơ chế then chốt là phân loại mức độ ưu tiên.

Bộ phân loại không cần hiểu hoàn hảo toàn bộ cuộc trò chuyện, chỉ cần đủ chắc chắn để chuyển một cuộc trao đổi có rủi ro sang quy trình chính sách nghiêm ngặt hơn, nơi câu trả lời có thể được rút ngắn, từ chối hoặc chuyển hướng.

Bản Model Spec cập nhật của OpenAI và báo cáo ngày 30 tháng 10 mô tả cách định tuyến dựa trên bộ phân loại và cam kết công bố thêm thông tin rộng rãi. Với trường học và các nhóm thanh thiếu niên, điều tiếp theo cần theo dõi là mức độ cụ thể.

OpenAI cho biết sẽ cung cấp tỷ lệ, danh mục và thông tin về những đánh đổi liên quan đến dương tính giả. Nếu thiếu các chi tiết đó, độc giả có thể thấy định hướng chính sách nhưng chưa thể biết mức độ ảnh hưởng của nó.

Đọc tiếp: OpenAI đặt ra 5 quy tắc để ngăn các tác nhân AI đi chệch kịch bản