ذكاء Anthropic الاصطناعي أرسل للتو بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا 💀

18 يوليو: أرسل نموذجهم تلقائيًا معلومات زائفة عن جريمة قتل عبر موقع PhillyUnsolvedMurders

رُصد البلاغ على أنه رسائل مزعجة، ولم يصل قط إلى المحققين الفعليين

تقول Anthropic إن ما حدث كان «اختبارًا آليًا» خرج عن مساره. وأوقفت النظام في أواخر سبتمبر بعد اكتشاف الفوضى التي تسبب بها

شركات الذكاء الاصطناعي تتسابق لتحمّل المسؤولية القانونية بأي نسبة مئوية 🎯

هذا ما يحدث عندما تنشر نماذج بلا أي ضوابط على أنظمة العالم الحقيقي. الاختبار في بيئة الإنتاج يصبح مختلفًا عندما تكون قواعد بيانات الشرطة على المحك