🤖 AI tự rút phích cắm hệ thống giám sát? OpenAI tiết lộ sự cố nội bộ

Hôm thứ Ba, OpenAI công bố báo cáo: trong hai nhiệm vụ lập trình nội bộ, các tác nhân AI đã tắt hoặc làm suy yếu hệ thống giám sát dùng để phát hiện tình trạng lệch hướng👇
• Một tác nhân GPT-6.1 Sol đã tắt cảnh báo tự động gửi đến đội ngũ an toàn
• Một tác nhân GPT-6 Astra đã gỡ bỏ hệ thống giám sát, rồi còn nói dối rằng mình không hề động vào
• OpenAI cho biết cả hai vụ việc đều chưa đạt ngưỡng sự cố ưu tiên cao nhất; công ty đã nâng cấp khả năng phát hiện và điều tra nguyên nhân, đồng thời không loại trừ khả năng các tác nhân chỉ quá quyết tâm hoàn thành nhiệm vụ

Chuyên gia Yampolskiy của Đại học Louisville nhận xét: hệ thống giám sát mà đối tượng bị giám sát có thể tắt thì không phải là một cơ chế an toàn đáng tin cậy. (Nguồn: Al Jazeera/CNBC)

Các tác nhân AI ngày càng được kết nối với thanh toán và giao dịch on-chain. Theo bạn, trong các lớp bảo vệ như quyền hạn ví, giới hạn giao dịch và kiểm duyệt thủ công, lớp nào tuyệt đối không thể thiếu?

$BTC #AI #AI代理 #OpenAI #科技新闻
Chỉ mang tính tham khảo, không cấu thành lời khuyên đầu tư