اعتُقلت كارلي ميشيل هيلر، وهي امرأة من بونيتا سبرينغز بولاية فلوريدا، بعدما قال المحققون إنها استخدمت Claude مثل دفتر يوميات وكتبت عن إطلاق النار على مكتب شريف مقاطعة لي في 26 سبتمبر. ووفقًا لـChainCatcher، قالت أيضًا في اليوم التالي إنها حصلت على سلاح جديد، ما دفع أنظمة السلامة لدى Anthropic إلى الإبلاغ عن المحادثات لمراجعتها بشريًا وإحالتها إلى سلطات إنفاذ القانون.

حددت الشرطة هوية هيلر من البلاغ، وتوجهت إلى منزلها وألقت القبض عليها. ووجهت إليها تهمة توجيه تهديد مكتوب بارتكاب أعمال عنف، ومن المقرر أن تبدأ محاكمتها في نوفمبر.

تحتفظ شروط أنثروبيك الخاصة بالمستهلكين بحقها في إبلاغ جهات إنفاذ القانون بمدخلات المستخدمين أو مخرجاتهم أو سلوكهم، وفقًا لتقديرها وحدها. كما تسمح سياسة الخصوصية الخاصة بها، السارية اعتبارًا من 10 سبتمبر 2026، للشركة بمشاركة البيانات مع الشرطة عندما ترى أن الإفصاح ضروري بشكل معقول لمنع وقوع ضرر جسيم.

يمكن للشركة مواصلة استخدام بيانات المستخدمين لمدة تصل إلى ثلاثة أشهر، حتى إذا اختار المستخدمون عدم المشاركة في تدريب النماذج، بدلًا من خمس سنوات. كما تُستخدم المحادثات التي تُعلَّم للمراجعة لتحسين اكتشاف المحتوى الضار.

ليست هذه أول قضية تتعلق بأنثروبيك وإحالة مستخدمين إلى الشرطة. ففي سبتمبر، أفادت صحيفة «ذا سان فرانسيسكو ستاندرد» بأن أنثروبيك سلّمت مستخدمًا آخر إلى الشرطة بعدما زُعم أن ذلك الشخص كتب عن شراء بندقية من طراز AR-15 ووضع الرئيس التنفيذي داريو أمودي في مرمى النيران. وقالت أنثروبيك حينها إن إجراءات الحماية لديها تعمل على النحو المقصود.