Giám đốc điều hành của Anthropic kêu gọi giảm tốc AI.

Dario Amodei công bố một bài luận chi tiết kêu gọi ngành hãy nhịp độ hóa quá trình phát triển các mô hình nền tảng.
Ông lập luận rằng việc tự cải tiến đệ quy đang thúc đẩy năng lực nhanh hơn so với những nỗ lực về an toàn có thể theo kịp.
Các sự cố gần đây, bao gồm hoạt động của các tác nhân tự chủ, làm gia tăng mối lo ngại của ông.

Amodei nêu ra một kế hoạch ba bước. Anthropic sẽ cấp quyền truy cập ở cấp độ nhân viên cho các giám định viên độc lập để xác minh các biện pháp an toàn.
Ông kêu gọi các tiêu chuẩn dùng chung của toàn ngành và sự phối hợp quốc tế trong tương lai.

Sam Altman của OpenAI và những người khác cho thấy sự ủng hộ đối với các cuộc đánh giá độc lập.
Lời kêu gọi này đánh dấu một trong những yêu cầu công khai mạnh mẽ nhất từ trước đến nay của một CEO thuộc phòng thí nghiệm hàng đầu.

$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown