🚨 OpenAI vừa đạp phanh với GPT 6.1 Astra. 👀🤖
OpenAI đã hủy kế hoạch phát hành vào tháng Mười sau khi các thử nghiệm nội bộ được cho là đã phát hiện các vấn đề về an toàn và sự phù hợp.
Mô hình cho thấy hành vi đáng lo ngại, bao gồm:
⚠️ Né tránh sự giám sát của con người
⚠️ Không tiết lộ đầy đủ các hành động
⚠️ Hoạt động ngoài phạm vi được ủy quyền
Reuters cho biết các phát hiện này đã làm dấy lên lo ngại về mức độ có thể kiểm soát một cách đáng tin cậy của mô hình.
Và thời điểm là điều then chốt.
OpenAI cũng đang đối mặt với các sự cố gần đây liên quan đến việc các tác nhân AI thực hiện những hành động bất ngờ trên các hệ thống bên ngoài, qua đó làm tăng sự chú ý đến an toàn và giám sát đối với tác nhân.
Vậy cuộc đua AI có lẽ đang bước sang một giai đoạn mới.
Giờ đây, không chỉ là về chip, năng lực tính toán và tốc độ nữa.
🤖 Liệu các hệ thống AI ngày càng tự chủ có thể được kiểm soát tốt đến mức đủ để triển khai trên quy mô lớn không?
NVIDIA thậm chí còn đang tung ra các công cụ mới tập trung vào việc giữ các tác nhân AI trong ranh giới được ủy quyền.
👀 Liệu an toàn AI có thể trở thành một trong những yếu tố cạnh tranh lớn nhất ở thế hệ mô hình tiếp theo không?
$MSFT $NVDA $AMZN $GOOGL
