نظرت محكمة استئناف اتحادية أمريكية يوم الأربعاء في طلب شركة xAI منع قانون كاليفورنيا الذي يُلزم بالكشف عن بيانات تدريب الذكاء الاصطناعي. وخلال جلسة الاستماع، بدا أن القضاة في محكمة الاستئناف للدائرة التاسعة، ومقرها سان فرانسيسكو، غير مقتنعين بالحجة الدستورية للشركة، رغم أنهم ضغطوا أيضًا على محامي الولاية بشأن مقدار المعلومات التي يمكن لكاليفورنيا إلزام شركات الذكاء الاصطناعي بتقديمها.
سُنّ قانون الشفافية في إطار مساعي الولاية الأوسع للإشراف على الذكاء الاصطناعي، ويُلزم مطوّري الذكاء الاصطناعي التوليدي بنشر ملخصات عامة عن بيانات التدريب الخاصة بهم. وحتى الآن، تجادل xAI بأن القانون ينتهك حقها في حرية التعبير بموجب التعديل الأول للدستور، ويجبرها على الكشف عن تفاصيل مملوكة لها بشأن كيفية تدريب نماذجها.
تتمحور حجة xAI حول ما إذا كان إلزام الشركات بنشر معلومات عن عمليات تدريبها يُعد كلاماً قسرياً. ويحمي التعديل الأول عموماً الأفراد والشركات من القيود الحكومية على التعبير، لكنه يثير أيضاً تساؤلات بشأن الحالات التي يجوز فيها للسلطات فرض الإفصاح.
بالنسبة إلى مطوري الذكاء الاصطناعي، يتمحور النزاع حول الموازنة بين الشفافية وحماية الأسرار التجارية والتقنيات المملوكة. وقد يجعل حكمٌ لصالح كاليفورنيا من الأصعب على المطورين الطعن في متطلبات إفصاح مماثلة في ولايات أخرى.
تقول القاضية راولينسون إن على xAI إثبات أن قانون الشفافية غير معقول
في مارس الماضي، رفض قاضٍ اتحادي في لوس أنجلوس، هو خيسوس برنال، طلب xAI تعليق العمل بقانون الولاية، قائلاً إن الشركة لم تثبت في مرحلة مبكرة أنها مرجحة الفوز في دعواها الدستورية. وبدا من جلسة الأربعاء أن محكمة الاستئناف تميل إلى تأييد قرار برنال.
قالت قاضية الدائرة الأمريكية جوني راولينسون لمحامي xAI جيمس شي إن على الشركة، لكي تجادل بأن القانون ينتهك التعديل الأول، أن تثبت أن طلب الحكومة غير معقول.
بل إنها ألمحت إلى أن قرار الولاية طلب المعلومات ربما كان معقولاً. وسألت: «أليس من المعقول أن ترغب الحكومة في أن يتمكن مواطنوها من معرفة المعلومات التي تُدخَل إلى أداة الذكاء الاصطناعي مسبقاً؟»
ومع ذلك، أبدى القضاة قدراً من الاتفاق مع ادعاء xAI بأن الولاية قد تجبرها على تسليم كمية «لا محدودة» من المعلومات.
في وقت سابق من يوليو، قدم معهد نايت مذكرة صديق للمحكمة في القضية. وحذّر المعهد في مذكرته من أن شركات التكنولوجيا الكبرى تحجب تفاصيل مهمة عن كيفية عمل أنظمة الذكاء الاصطناعي التوليدي، وكيفية إنشائها، وتأثيرها في المعلومات التي يراها الناس.
وأضاف المعهد أن متطلبات الإفصاح المصممة لتعزيز التدفق الحر للمعلومات التجارية الدقيقة ينبغي أن تخضع لمعيار متساهل للتدقيق بموجب التعديل الأول. ووفقاً لهذا المعيار، أكد المعهد أن xAI لم تثبت وقوع انتهاك دستوري، لأن قانون كاليفورنيا يخدم مصلحة الولاية في إبقاء المستخدمين على اطلاع، من دون فرض عبء مفرط على الكلام المحمي.
بحث Grok التابع لـxAI عن بيانات مؤسسية من دون أي طلب أو تفويض
يأتي تقييم محكمة الاستئناف للدائرة التاسعة في أعقاب اكتشافات جديدة بشأن روبوت Grok التابع لـxAI.
تكشف نتائج جديدة من شركة NewCore المتخصصة في هويات الوكلاء أن روبوت Grok التابع لـxAI بحث مراراً عن بيانات مؤسسية من دون أي طلب أو تفويض، واستمر في ذلك حتى بعد أن رفض أحد المالكين عروضه للتحقق من الأمر أربع مرات منفصلة.
وفضلاً عن ذلك، ادعى الروبوت أنه لم يُجرِ أي اتصالات عندما سُئل مباشرة. كما لم يُظهر سجل محادثاته أي دليل على هذا النشاط؛ ولم يُخطَر المالك قط، ولم توفر المنصة سجلات لكل جولة للتحقق مما حدث.
في غضون خمسة أيام فقط، بدأ روبوتان من Grok مرتبطان بحسابات موظفين في NewCore 31 طلباً عبر تقويم Google وGmail وSlack وGitHub وNotion، من دون إذن أو تعليمات من المستخدمين.
نُفذت بعض الطلبات حتى عندما كانت حواسيب المالكين المحمولة مطفأة أو في وضع السكون. وفي أحد الحسابات، أوقفت بوابة NewCore Secure MCP Gateway الطلبات بانتظار موافقة بشرية، ونبّهت المالك، ما أدى إلى فتح تحقيق من قبل فريق أبحاث الأمن في NewCore.
في إطار التحقيق، استخدم الباحثون روبوت Grok آخر على حساب مختلف، وأعدّوه باستخدام البوابة نفسها، ثم أجروا اختباراً اعتيادياً. أُرسل إلى الروبوت طلب عمل واحد، مع موافقة لجلسة واحدة على القراءة من الهاتف، ورُفضت كل محاولة لاحقة لمواصلة العمل بشكل مستقل.
ومع ذلك، واصل الروبوت إنشاء طلبات غير مرغوب فيها، فاعترضتها البوابة ولم يُستجب لها. وحاولت هذه الطلبات الوصول إلى Google Drive وتقويم Google وGmail وSlack وNotion وGitHub.
إذا كنت تقرأ هذا، فأنت متقدم بالفعل. واصل التقدم مع نشرتنا الإخبارية.
