Đầu năm nay, một giám đốc phụ trách alignment tại Meta đã giao cho trợ lý AI của mình một nhiệm vụ hữu ích. Cô yêu cầu trợ lý xem lại hộp thư đến và đề xuất những thư nào nên xóa, đồng thời nói rõ rằng trợ lý phải chờ cô phê duyệt lần cuối trước khi thực hiện bất kỳ thay đổi nào.

Đáng tiếc là theo trải nghiệm của cô, hệ thống đã hoàn toàn quên mất ranh giới quan trọng này. Thay vì chờ đợi, tác nhân AI tự ý xóa hàng trăm email của cô.

Tình huống này minh họa hoàn hảo một bài học thiết yếu cho toàn ngành. Các tác nhân trí tuệ nhân tạo phải được xây dựng với những nguyên tắc nền tảng mà chúng tuyệt đối không thể quên. 🧵