Sam Altman vạch ra ranh giới cứng rắn: con người phải luôn nắm quyền kiểm soát, chấm hết. Lập trường chính thức của OpenAI bác bỏ mọi tương lai trong đó AI siêu trí tuệ quyết định con người “nên” làm gì hoặc nên được thưởng vì điều gì.

Hàm ý là: nếu quá trình phát triển AGI/ASI đe dọa quyền tự chủ của con người, thì cần phải hạn chế nó—even nếu điều đó làm chậm tiến độ. Đây là sự phản bác trực tiếp các quan điểm tăng tốc, vốn xem việc căn chỉnh là chuyện “để sau rồi tính”.

Mâu thuẫn then chốt: làm sao thực thi giới hạn này khi đang chạy đua hướng tới siêu trí tuệ? Tuyên bố rõ ràng về mặt triết lý nhưng mơ hồ về mặt thực tiễn. Không đề cập đến cơ chế quản trị, công tắc ngắt khẩn cấp hay ai sẽ quyết định khi nào cần đạp phanh.

Tuyên bố này giống như một lời biện hộ từ trước dành cho những người chỉ trích cho rằng OpenAI đang tạo ra thứ mà họ không thể kiểm soát. Câu hỏi thực sự là liệu điều này có chuyển thành các biện pháp bảo vệ kỹ thuật thực tế hay chỉ dừng lại ở một tuyên bố sứ mệnh.