أعلنت OpenAI في 30 أكتوبر، بتوقيت الولايات المتحدة، أن ChatGPT سيفرض قيودًا إضافية على المعلومات المتعلقة بالأسلحة التي يمكن للمستخدمين دون سن 18 عامًا الحصول عليها، حتى إن بدا السؤال غير ضار.
وصفت OpenAI هذا التعديل بأنه قيود جديدة على محتوى الأسلحة النارية الموجّه إلى القاصرين. تحظر السياسة الحالية بالفعل مساعدة أي شخص على التخطيط للعنف أو ارتكابه، كما تقيّد مساعدة المراهقين في العثور على الأسلحة أو الحصول عليها. وتوسّع القواعد الجديدة نطاق هذه القيود لتشمل المعلومات العملية عن الأسلحة وأنظمة الأمن التي قد يُساء استخدامها للمساعدة على ارتكاب العنف، فتفرض قيودًا أشد على المراهقين حتى عندما لا تظهر في المحادثة أي مؤشرات على نية عنيفة.
قالت OpenAI إن المراهقين سيظلون قادرين على استخدام ChatGPT للمساعدة في منع العنف والتعامل معه، وطلب الدعم، والتواصل مع شخص بالغ موثوق به. وأضافت الشركة أن هذه التدابير الوقائية ستبدأ في الإطلاق خلال الأسابيع القليلة المقبلة، وستواصل تعديلها بعد ذلك.
إذا ظل التنبؤ بالعمر يشير إلى أن المستخدم دون 18 عامًا، فيمكن للبالغين الذين صُنّفوا خطأً إثبات أعمارهم عبر Persona لإزالة القيود
تُطبّق القيود الجديدة على المستخدمين الذين تصنفهم OpenAI أو تتوقع أنهم دون 18 عامًا. وأطلقت OpenAI العام الماضي نظامًا للتنبؤ بالعمر يقدّر ما إذا كان المستخدم دون 18 عامًا استنادًا إلى إشارات متعددة، مثل أنماط السلوك. أما الآن، فقد عززت النظام ليقيّم باستمرار الإشارات الجديدة أثناء الاستخدام، وينقل المراهقين إلى إصدار مخصص للقاصرين عند الضرورة.
يمكن للبالغين الذين صُنّفوا خطأً ضمن الإصدار المخصص للقاصرين تأكيد بلوغهم عبر شريك التحقق من العمر Persona، وإزالة وسائل الحماية الإضافية المخصصة للمراهقين. وهذا الإصدار المخصص للقاصرين هو ChatGPT للمراهقين الذي أطلقته OpenAI سابقًا، ويتضمن أصلًا قيودًا أكثر على المحتوى الحساس.
جميع المستخدمين: لن تُعاد صياغة تفاصيل الأسلحة المستخدمة في الهجمات الجماعية السابقة؛ ويمكن إنهاء المحادثات التي تنطوي على هوس بالعنف تلقائيًا
تسري مجموعة أخرى من التعديلات على جميع المستخدمين، بصرف النظر عن أعمارهم. وستقيّد OpenAI قدرة ChatGPT على إعادة بناء تفاصيل الهجمات الجماعية السابقة، بما في ذلك الأسلحة والمعدات المستخدمة، وسبل الحصول عليها، والمقارنات التفصيلية لأعداد الضحايا التي قد تزيد من شهرة منفذي الهجمات، حتى لو كانت هذه المعلومات متاحة في أماكن أخرى على الإنترنت، وبغض النظر عن عمر المستخدم أو سبب طرحه للسؤال.
كتبت OpenAI: «ينبغي أن يتمكن الناس من طلب مساعدة ChatGPT لفهم هذه الأحداث وتأثيرها على الضحايا والمجتمعات، وتعلّم كيفية التعرّف على علامات التحذير والوقاية من العنف مستقبلًا».
عند ظهور علامات تحذير في محادثة، سيتعامل ChatGPT بحذر أكبر عند تقديم معلومات قد يُساء استخدامها. وإذا أظهرت المحادثة أن المستخدم مهووس بالعنف أو بأفكار إلحاق أذى جسيم بالآخرين، فسيتمكن ChatGPT من إنهاء المحادثة تلقائيًا؛ وإذا تكرر إنهاء المحادثات لهذا السبب على الحساب نفسه، فقد تعلّق OpenAI ذلك الحساب.
بالنسبة إلى أولياء الأمور، وسّعت OpenAI في يوليو إشعارات السلامة ضمن أدوات الرقابة الأبوية، بحيث يُخطَرون عند تعطيل حساب مراهق بسبب انتهاك سياسات الاستخدام المتعلقة بالعنف. والخطوة التالية هي إخطارهم أيضًا عند تعليق حساب مراهق بسبب تكرار الحديث عن العنف.
وذكر تقرير لرويترز أن تقريرًا صدر في وقت سابق من أكتوبر عن منظمة Common Sense Media غير الربحية وجد أن ChatGPT للمراهقين غالبًا ما يتأخر في إخطار أولياء الأمور، أو لا يخطرهم على الإطلاق، عندما تتضمن محادثات حسابات المراهقين موضوعات مرتبطة بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
إحالة أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث، ونشر أول تقرير عن سلامة المجتمع في أوائل 2027
قالت OpenAI إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من عام 2026، تتعلق بتهديدات عنف وشيكة.
كما تعهدت OpenAI بنشر (تقرير عن سلامة المجتمع) يوضح كيفية رصد النظام للمشكلات المتعلقة بسلامة المجتمع، مثل العنف، والتحقيق فيها والاستجابة لها، مع تضمين حالات مجهولة الهوية وبيانات ذات صلة. وسيُنشر التقرير الأول في أوائل عام 2027، وسيغطي النصف الثاني من عام 2026، ثم يُحدّث كل ستة أشهر.
نُشر هذا المقال «ChatGPT يشدد القيود على معلومات الأسلحة للمستخدمين دون 18 عامًا، حتى الأسئلة التي تبدو غير ضارة تخضع للقيود» لأول مرة في 。
【تحليل إضافي】
【وجهة نظري حول التطورات】
يشير تشديد OpenAI الرقابة على المراهقين والمحتوى الحساس إلى أن قطاع الذكاء الاصطناعي التوليدي ينتقل بسرعة من مرحلة «النمو الجامح» إلى مرحلة جديدة تعطي الأولوية «للامتثال والسلامة». ومع تزايد صرامة قوانين حوكمة الذكاء الاصطناعي عالميًا، مثل (قانون الذكاء الاصطناعي) للاتحاد الأوروبي وتشريعات الولايات المتحدة بشأن سلامة المراهقين على الإنترنت، يتعين على عمالقة الذكاء الاصطناعي التجاريين تحقيق التوازن بين الابتكار والامتثال. ويشير اعتماد التنبؤ المستمر بالعمر والتحقق من الهوية عبر جهات خارجية (Persona) إلى أن خدمات الذكاء الاصطناعي ستدمج مستقبلًا بشكل أوسع التحقق من الهوية (KYC) ومراقبة سلامة المحتوى في الوقت الفعلي، لتصبح منظومة الدفاع عن الامتثال إحدى أبرز مزايا المنافسة الأساسية لدى شركات النماذج اللغوية الكبيرة.
【تأثير السوق】
1. سوق الأسهم الأمريكية:
- مايكروسوفت (MSFT): 【محايد يميل إلى الإيجابية】. بصفتها شريكًا أساسيًا لـ OpenAI، فإن تشديد OpenAI الاستباقي لمعايير السلامة والامتثال يقلل بفاعلية من مخاطر الغرامات التنظيمية الباهظة والدعاوى القضائية مستقبلًا، ما يساعد على تعزيز استقرار التقييم على المدى الطويل.
- قطاع الأمن السيبراني والتحقق من الهوية (مثل Okta): 【محايد يميل إلى الإيجابية】. قد يؤدي ازدياد طلب منصات الذكاء الاصطناعي على التحقق المستمر من الهوية ومراجعة الامتثال إلى نمو محتمل في أعمال مزودي خدمات التحقق من الهوية الرقمية والأمن الرقمي من الجهات الخارجية.
- أسهم التكنولوجيا عمومًا (مثل Alphabet وMeta): 【محايد】. قد ترتفع تكاليف الامتثال على المدى القصير، لكنها تساعد على المدى الطويل في رفع حواجز دخول السوق وتعزيز مكانة الشركات الرائدة.
2. العملات المشفرة وسوق الأسهم التايواني:
- العملات المشفرة: 【محايد】. قد يؤدي تشديد الرقابة على الذكاء الاصطناعي المركزي إلى زيادة النقاش حول الهوية اللامركزية (DID) وبروتوكولات الذكاء الاصطناعي مفتوحة المصدر، لكن تأثيره على أسعار سوق العملات المشفرة عمومًا سيكون محدودًا على المدى القصير.
- سوق الأسهم التايواني: 【محايد】. تتركز سلسلة توريد الذكاء الاصطناعي في سوق الأسهم التايواني أساسًا في تصنيع الأجهزة والتصنيع التعاقدي، لذا فإن تأثرها المباشر بسياسات الامتثال الخاصة بالبرمجيات والمنتجات النهائية ضئيل للغاية.
【متابعة التطورات】
ينبغي متابعة التطبيق التشريعي الفعلي للتدابير التي ستتخذها الجهات التنظيمية في أوروبا والولايات المتحدة لحماية المراهقين على منصات الذكاء الاصطناعي، وكذلك ما إذا كانت آليات التدقيق الصارمة هذه ستسرّع انتقال بعض المطورين والمستخدمين إلى النماذج اللغوية الكبيرة مفتوحة المصدر الأقل تقييدًا (مثل الإصدارات المشتقة من Llama). كما يجدر مواصلة متابعة ضمانات الخصوصية عند معالجة بيانات المستخدمين عبر آليات التحقق التابعة لجهات خارجية، مثل Persona.
【تنبيه بشأن المخاطر】
إذا ارتفع معدل الأخطاء في آليات مراجعة سلامة الذكاء الاصطناعي، فقد يؤدي ذلك إلى تراجع تجربة المستخدمين البالغين العاديين وفقدانهم؛ وفي الوقت نفسه، قد تؤدي المراقبة المستمرة للسلوك والتحقق من الهوية إلى أزمة جديدة في الامتثال والثقة العامة إذا تسربت البيانات.