Theo Jin10, Anthropic đang tham vấn các chuyên gia pháp lý về cách các tác nhân AI nên đàm phán để giúp người dùng là con người đạt được những thỏa thuận tốt nhất, theo Financial Times. Khi các tác nhân AI cá nhân xuất hiện, các công ty đang cân nhắc về một tương lai trong đó các tác nhân giao tiếp với nhau và đàm phán thay mặt người dùng. Hai người am hiểu quan điểm của Anthropic cho biết công ty đang xin ý kiến từ các hãng luật về cách luật sư đại diện cho lợi ích của khách hàng, đồng thời bảo đảm kết quả đàm phán công bằng. Các nguồn tin cho biết Anthropic đang nghiên cứu những “chuẩn mực đàm phán” mà các mô hình AI nên tuân theo khi tương tác với nhau. Khi các hệ thống tác nhân ngày càng có năng lực hơn, chúng sẽ hành động thay mặt người dùng và gặp phải những tác nhân khác có mục tiêu xung đột. Anthropic cũng đang cân nhắc mức độ phản hồi từ con người mà các tác nhân nên tìm kiếm trong quá trình đàm phán, cũng như mức độ cảnh giác của chúng với các tác nhân AI khác, đồng thời tránh trở nên “hoang tưởng” hoặc rơi vào lối “suy nghĩ kiểu thuyết âm mưu”.