Hơn 40 nhà nghiên cứu AI từ OpenAI, DeepMind, Google, Anthropic và Meta đã công bố một bài báo về một công cụ an toàn gọi là giám sát chuỗi suy nghĩ để làm cho AI an toàn hơn.

Bài báo được công bố vào thứ ba mô tả cách các mô hình AI, như các chatbot ngày nay, giải quyết vấn đề bằng cách chia chúng thành các bước nhỏ hơn, nói ra từng bước bằng ngôn ngữ đơn giản để họ có thể giữ lại các chi tiết và xử lý các câu hỏi phức tạp.

“Các hệ thống AI ‘suy nghĩ’ bằng ngôn ngữ của con người mang lại cơ hội độc đáo cho sự an toàn của trí tuệ nhân tạo: chúng ta có thể theo dõi chuỗi suy nghĩ của chúng (CoT) để phát hiện ý định hành động xấu,” bài báo nói.