Ngày 8 tháng 10, Anthropic cập nhật chính sách sử dụng, bổ sung lệnh cấm can thiệp bầu cử, phần mềm vũ khí và hoạt động giám sát. Theo ChainCatcher, công ty cũng làm rõ rằng người dùng không được phép lăng mạ các mô hình của mình trong thời gian dài.

Chính sách nêu rõ Claude vốn đã được huấn luyện, kể từ bản cập nhật hồi tháng 8, để kết thúc cuộc trò chuyện khi người dùng liên tục có hành vi gây hại hoặc lăng mạ. Các quy định mới nghiêm cấm rõ ràng việc người dùng tiếp tục những hành vi như vậy, đồng thời cho biết hạn chế này chỉ áp dụng trong những trường hợp nghiêm trọng, khi người dùng liên tục đối xử tệ với mô hình mà không có mục đích rõ ràng.

Anthropic cho biết chính sách này không áp dụng với sự bực bội thông thường của người dùng, những lời phản bác, các chủ đề sáng tạo u tối, hay việc thử nghiệm và nghiên cứu mô hình. Chính sách cũng cấm các hoạt động lừa đảo trên diện rộng, bao gồm việc dùng Claude để vận hành tài khoản giả hoặc mạo danh các tổ chức tin tức, đồng thời bổ sung một mục nghiêm cấm các nỗ lực lừa dối cử tri hoặc gây gián đoạn bầu cử.

TechCrunch đưa tin rằng thay đổi này diễn ra khi Anthropic tìm cách hợp tác với các học giả tôn giáo có tiếng, và trong một số trường hợp đã cố thuyết phục họ rằng Claude có thể có ý thức hoặc có linh hồn.