في المرة الأولى التي تقول فيها شركة، "الذكاء الاصطناعي يقترح فقط،" يمكنك تقريبًا سماع القسم القانوني يتنفس بسهولة.

لأن "الاقتراح" هو درع مريح. النموذج ينتج المخرجات. إنسان ينقر الموافقة. إذا حدث خطأ ما، فإن المسؤولية تتلاشى في مخططات العملية ومخططات سير العمل. النظام تصرف، لكن لا أحد يمتلك الفعل حقًا.

هذه هي أزمة المساءلة الحقيقية في الذكاء الاصطناعي. ليس الأمر متعلقًا بدقة النموذج أو التكلفة أو الكمون. إنه يتعلق بالمسؤولية. عندما يتسبب قرار مدفوع بالذكاء الاصطناعي في ضرر - قرض مرفوض، معاملة مشبوهة، توصية طبية، تنبيه للامتثال - من الذي يتحمل عبء الإثبات؟