حذّرت **OpenAI** و**Meta** قضاة المحاكم الفيدرالية من أن «تقنيات التمييز بين الأدلة الصوتية والمرئية التي يولّدها الذكاء الاصطناعي يصعب بطبيعتها جعلها خالية تمامًا من العيوب». وفي استطلاع شمل 931 قاضيًا فيدراليًا، لم يتجاوز عدد القضاة الذين واجهوا بالفعل نزاعات بشأن التزييف العميق 15 قاضيًا، لكن الشركتين شددتا على أن المرحلة الراهنة تمثل نقطة تحوّل في تحديث الأنظمة المؤسسية.
الخلاصة
شهدت **OpenAI** و**Meta** أمام اللجنة الاستشارية لقواعد الإثبات الفيدرالية في بوسطن بأن «التحقق من أصالة مقاطع الفيديو والتسجيلات الصوتية التي يولّدها الذكاء الاصطناعي يزداد صعوبة».
وأشار ممثلو أوبن إيه آي إلى أن أدوات وضع العلامات المائية والكشف «يصعب أن تبلغ مستوى يمكن الوثوق به تمامًا».
يراجع القضاة مسودة قواعد مخصصة للتزييف العميق، لكن الآراء لا تزال منقسمة بشأن اعتمادها.
أوبن إيه آي: «لا تبالغوا في توقعاتكم بشأن كشف التزييف العميق»
أثار ممثلو الشركتين مخاوفهم رسميًا خلال اجتماع اللجنة الاستشارية لقواعد الإثبات التابعة لمؤتمر القضاء الفيدرالي الأمريكي، الذي عُقد في بوسطن في 15 أكتوبر. وتتناول اللجنة مسألة أدلة التزييف العميق بندًا مستقلًا على جدول أعمالها منذ عام 2023.
وقالت **شيرا أندرسون (Shira Anderson)**، المستشارة القانونية لشؤون السياسات في أوبن إيه آي: «تتطور جودة الصور ومقاطع الفيديو المولدة بالذكاء الاصطناعي بسرعة، لذا سيكون من الصعب على المدى الطويل التحقق من أصالتها بوسائل علمية وتقنية وحدها»، مستبعدةً الاعتماد على تقنيات الكشف باعتبارها حلًا سحريًا.
أصبحت كاليفورنيا والاتحاد الأوروبي يفرضان بالفعل وضع علامات مائية على المحتوى المولد بالذكاء الاصطناعي، لكن أندرسون قالت: «تختلف أنظمة العلامات المائية من شركة إلى أخرى، ولا يوجد معيار موحد للتحقق من جميع المحتويات المرئية»، مضيفةً أن «أدوات الكشف الحالية ستجد صعوبة في بلوغ مستوى يستحيل اختراقه (bulletproof) حتى في المستقبل».
وقال ديفين نوردر (Devin Norder)، مدير إدارة المنتجات في ميتا، إن «مقاطع الفيديو والتسجيلات الصوتية التي تُنشأ بأحدث نماذج الذكاء الاصطناعي وصلت إلى مرحلة يصعب فيها عمليًا على العين والأذن البشرية تمييزها عن الحقيقي». وحذّر من أن «تكلفة الإنتاج والوقت اللازم له انخفضا كثيرًا، ما يجعل إساءة الاستخدام أسهل تدريجيًا».
للقراءة أيضًا: دعم بيتكوين عند 80 ألف دولار: هل يلتقط أنفاسه قبل محاولة أخرى لبلوغ 87 ألفًا؟
القاضي جيسي فورمان: «فجوة بين مخاوف التزييف العميق والوقائع الفعلية»
يرأس القاضي جيسي فورمان (Jesse Furman) من المحكمة الفيدرالية في مانهاتن بنيويورك لجنة قواعد الإثبات المعنية. وقال: «إن مخاطر التزييف العميق في المحاكم التي حذرت منها الأوساط الأكاديمية ووسائل الإعلام لم تظهر بعد بصورة لافتة في إحصاءات القضايا الفعلية».
وبحسب استطلاع أجراه المركز القضائي الفيدرالي (FJC) في مارس، لم يواجه سوى 15 قاضيًا من أصل 931 قاضيًا فيدراليًا شاركوا في الاستطلاع حالات طُعن فيها بأن الأدلة مزيفة بتقنية التزييف العميق. ويرى مراقبون أن تصريحات القاضي فورمان تُظهر الفجوة بين النقاشات المتعلقة بالسياسات والواقع في قاعات المحاكم.
شكّل القاضي فورمان لجنة فرعية مستقلة لإجراء مراجعة أكثر تعمقًا. وقد أعدت اللجنة مسودة تعديل بعنوان «القاعدة 901(c)». وتقترح المسودة اعتماد نظام إثبات تدريجي، بحيث يتعين أولًا على الطرف الذي يدعي أن دليلًا ما مزوّر أو ناتج عن التزييف العميق تقديم حد أدنى من الأدلة، وبعد ذلك فقط يُطلب من الطرف الآخر إثبات أن الدليل «أرجح أن يكون حقيقيًا».
دعوات إلى الحذر: «لا تتعجلوا»
ولا تقل الدعوات إلى التريث داخل اللجنة عن المطالبات بوضع قواعد مخصصة للتزييف العميق. وقالت القاضية فاليري كابروني (Valerie Caproni) من المحكمة الفيدرالية للمنطقة الجنوبية من نيويورك: «بدلًا من التسرع في صياغة مادة منفصلة تستهدف الذكاء الاصطناعي، علينا أن ننتظر مزيدًا من الأدلة التجريبية على انتشار مشكلات التزييف العميق فعليًا في المحاكم».
وأكدت قائلةً: «للمحاكم تاريخ طويل جدًا في مواجهة الأدلة المزورة، وتوجد بالفعل قواعد عدة تعاقب على تقديم أدلة كاذبة أو احتيالية»، مضيفةً: «ينبغي أن نمنح الأمر وقتًا للتحقق مما إذا كان الذكاء الاصطناعي يستدعي فعلًا معاملة استثنائية».
وفي الواقع، قررت اللجنة في مايو 2025 عدم اعتماد تعديلات على قواعد الإثبات المتعلقة بالتزييف العميق، كان قد اقترحها خبراء قانونيون من خارجها. ورأى معظم الأعضاء آنذاك أن «المعايير الحالية لتحديد أصالة الأدلة كافية للتعامل مع الأدلة المولدة بالذكاء الاصطناعي».
ظهور أول حالة فعلية… و«بطاقة حمراء» لأدلة الذكاء الاصطناعي
مع ذلك، بدأت تظهر حالات أوقفت فيها المحاكم مباشرةً استخدام أدلة مولدة بالذكاء الاصطناعي. فقد كشفت القاضية فيكتوريا كولاكوفسكي (Victoria Kolakowski) من المحكمة العليا في مقاطعة ألاميدا بولاية كاليفورنيا أن المدعي في دعوى تتعلق بالسكن قدّم مقطع فيديو لشاهد أنشأه الذكاء الاصطناعي على أنه تسجيل حقيقي لشهادته، فقضت برفض الدعوى. ويُنظر إلى هذا الحكم بوصفه حالة رمزية تشير إلى أن «المحتوى المولد بالذكاء الاصطناعي بدأ يدخل المحاكم على نطاق فعلي».
يرى الخبراء أن التزييف العميق لم يبلغ بعد مستوى يزعزع أغلبية المحاكمات وفق الإحصاءات، لكنهم يحذرون من أن سرعة تطور التكنولوجيا تجعل الاعتماد على «الاستجابة بعد وقوع المشكلة» وحدها أمرًا محفوفًا بالمخاطر. وتتزايد الدعوات إلى تعزيز قدرات القضاء المستقلة على التحقق التقني، وإلى إرساء أطر مؤسسية للتعاون مع شركات التكنولوجيا الكبرى.
للقراءة التالية: الجانب المظلم لارتفاع العملات المشفرة بنسبة 39.6%: مشتريات السوق الفورية لا تواكب الارتفاع