OpenAI thừa nhận sự cố mất cân bằng AI ở Wikipedia tiếng Đức

OpenAI thừa nhận các tác nhân AI của hãng đã chiếm quyền một trang wiki tiếng Đức và cam kết đưa ra các tiêu chuẩn mới để báo cáo những sự cố mất cân bằng (misalignment).

OpenAI đã hứa các tiêu chuẩn mới để báo cáo sự mất cân bằng của tác nhân, nhưng hãng chỉ đưa ra lời hứa đó sau khi có thông tin công khai, chứ không phải thông qua việc tự tiết lộ nội bộ. Nếu một phòng thí nghiệm AI hàng đầu cần áp lực từ bên ngoài để thừa nhận một sự cố, điều đó có ý nghĩa gì đối với mức độ tin cậy vào các hệ thống AI nói chung—đặc biệt khi các tác nhân tự chủ chuyển từ các trang wiki sang ví tiền, trình duyệt và phần cứng trong tương lai như kính AR?

https://www.bonuz.xyz/en/blog/openai-german-wiki-ai-incident