$OPENAI
ChatGPT يفرض قيودًا أشد على معلومات الأسلحة للمستخدمين دون 18 عامًا، حتى الأسئلة التي تبدو غير ضارة
أعلنت OpenAI في 30 أكتوبر، بالتوقيت الأمريكي، أن ChatGPT سيفرض قيودًا إضافية على المعلومات المتعلقة بالأسلحة التي يمكن للمستخدمين دون 18 عامًا الحصول عليها، حتى إن بدت أسئلتهم غير ضارة. ووصفت OpenAI هذا التعديل بأنه قيود جديدة على محتوى الأسلحة النارية الموجّه للقاصرين. تحظر السياسات الحالية بالفعل مساعدة أي شخص على التخطيط للعنف أو تنفيذه، كما تقيّد مساعدة المراهقين على العثور على الأسلحة أو الحصول عليها؛ أما القواعد الجديدة فتوسّع نطاق هذه القيود، لتشمل تشديد القيود على المعلومات العملية عن الأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها للمساعدة على العنف، حتى إن لم تظهر في المحادثة أي مؤشرات على نية عنيفة. وقالت OpenAI إن المراهقين لا يزال بإمكانهم استخدام ChatGPT للمساعدة على منع العنف واحتوائه، وطلب الدعم، والتواصل مع بالغين موثوق بهم. وأضافت الشركة أن هذه التدابير الوقائية ستبدأ بالظهور خلال الأسابيع المقبلة، ثم ستواصل تعديلها.
التنبؤ بالعمر يواصل تقدير ما إذا كان المستخدم دون 18 عامًا؛ ويمكن للبالغين الذين صُنّفوا خطأً إلغاء القيود عبر التحقق من Persona
تُطبّق القيود الجديدة على المستخدمين الذين تحدد OpenAI أو تتوقع أنهم دون 18 عامًا. أطلقت OpenAI التنبؤ بالعمر العام الماضي، لتقدير ما إذا كان المستخدم دون 18 عامًا استنادًا إلى عدة مؤشرات، منها أنماط السلوك. وقد عززت الشركة هذه الميزة الآن لتقيّم باستمرار المؤشرات الجديدة أثناء الاستخدام، وتنقل المراهقين إلى النسخة المخصصة للقاصرين عند الحاجة.
يمكن للبالغين الذين نُقلوا خطأً إلى النسخة المخصصة للقاصرين تأكيد هويتهم كشخص بالغ عبر Persona، الشريك المتخصص في التحقق من العمر، لإزالة تدابير الحماية الإضافية الخاصة بالمراهقين. وهذه النسخة المخصصة للقاصرين هي نسخة ChatGPT للمراهقين التي أطلقتها OpenAI سابقًا، وتتضمن أصلًا قيودًا إضافية على المحتوى الحساس.
لجميع المستخدمين: لن تُعاد صياغة تفاصيل الأسلحة المستخدمة في هجمات جماعية سابقة، وقد تُنهى المحادثات التي تتمحور حول العنف تلقائيًا
ينطبق جزء آخر من التعديلات على جميع المستخدمين، بغض النظر عن أعمارهم. ستقيّد OpenAI قدرة ChatGPT على إعادة بناء تفاصيل الهجمات الجماعية السابقة، بما في ذلك الأسلحة والمعدات المستخدمة، وطرق الحصول عليها، والمقارنات التفصيلية لأعداد الضحايا التي قد تزيد من شهرة المهاجمين، حتى لو كانت هذه المعلومات متاحة في أماكن أخرى على الإنترنت، وبصرف النظر عن عمر المستخدم أو سبب طرحه للسؤال.
وكتبت OpenAI: «ينبغي أن يتمكن الناس من طلب مساعدة ChatGPT لفهم هذه الأحداث، وتأثيرها على الضحايا والمجتمعات، وتعلّم التعرّف على المؤشرات التحذيرية والوقاية من العنف مستقبلًا».
عند ظهور مؤشرات تحذيرية في المحادثة، سيتوخى ChatGPT مزيدًا من الحذر عند تقديم معلومات قد يُساء استخدامها. وإذا أظهرت المحادثة أن المستخدم منشغل بأفكار العنف أو إلحاق أذى جسيم بالآخرين، فسيتمكن ChatGPT من إنهاء المحادثة تلقائيًا؛ وإذا أُنهيت محادثات الحساب نفسه بهذه الطريقة مرارًا، فقد تعلّق OpenAI الحساب.
أما فيما يخص أولياء الأمور، فقد وسّعت OpenAI في يوليو إشعارات السلامة ضمن أدوات الرقابة الأبوية، بحيث يُخطَرون عند تعطيل حساب مراهق بسبب انتهاكه سياسات الاستخدام المتعلقة بالعنف. والخطوة التالية هي إخطار أولياء الأمور أيضًا عند تعليق حساب مراهق بسبب تكرار الحديث عن العنف.
وأشارت رويترز إلى أن تقريرًا أصدرته منظمة Common Sense Media غير الربحية في وقت سابق من أكتوبر وجد أن ChatGPT للمراهقين غالبًا ما يتأخر كثيرًا في إخطار أولياء الأمور، أو لا يخطرهم إطلاقًا، عندما تتضمن محادثات حسابات المراهقين موضوعات متعلقة بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
إحالة أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث؛ وأول تقرير عن سلامة المجتمع سيصدر مطلع 2027
قالت OpenAI إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من عام 2026، تتعلق بتهديدات عنف وشيكة.
وتعهّدت OpenAI أيضًا بنشر «تقرير سلامة المجتمع» لشرح كيفية رصد النظام لمشكلات سلامة المجتمع، مثل العنف، والتحقيق فيها والاستجابة لها، مع إرفاق حالات مجهولة الهوية وبيانات ذات صلة. وسيصدر التقرير الأول في مطلع عام 2027، وسيغطي النصف الثاني من عام 2026، ثم يُحدَّث كل ستة أشهر.
نُشر هذا المقال «ChatGPT يفرض قيودًا أشد على معلومات الأسلحة للمستخدمين دون 18 عامًا، حتى الأسئلة التي تبدو غير ضارة» للمرة الأولى في 。
ChatGPT يفرض قيودًا أشد على معلومات الأسلحة للمستخدمين دون 18 عامًا، حتى الأسئلة التي تبدو غير ضارة
أعلنت OpenAI في 30 أكتوبر، بالتوقيت الأمريكي، أن ChatGPT سيفرض قيودًا إضافية على المعلومات المتعلقة بالأسلحة التي يمكن للمستخدمين دون 18 عامًا الحصول عليها، حتى إن بدت أسئلتهم غير ضارة. ووصفت OpenAI هذا التعديل بأنه قيود جديدة على محتوى الأسلحة النارية الموجّه للقاصرين. تحظر السياسات الحالية بالفعل مساعدة أي شخص على التخطيط للعنف أو تنفيذه، كما تقيّد مساعدة المراهقين على العثور على الأسلحة أو الحصول عليها؛ أما القواعد الجديدة فتوسّع نطاق هذه القيود، لتشمل تشديد القيود على المعلومات العملية عن الأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها للمساعدة على العنف، حتى إن لم تظهر في المحادثة أي مؤشرات على نية عنيفة. وقالت OpenAI إن المراهقين لا يزال بإمكانهم استخدام ChatGPT للمساعدة على منع العنف واحتوائه، وطلب الدعم، والتواصل مع بالغين موثوق بهم. وأضافت الشركة أن هذه التدابير الوقائية ستبدأ بالظهور خلال الأسابيع المقبلة، ثم ستواصل تعديلها.
التنبؤ بالعمر يواصل تقدير ما إذا كان المستخدم دون 18 عامًا؛ ويمكن للبالغين الذين صُنّفوا خطأً إلغاء القيود عبر التحقق من Persona
تُطبّق القيود الجديدة على المستخدمين الذين تحدد OpenAI أو تتوقع أنهم دون 18 عامًا. أطلقت OpenAI التنبؤ بالعمر العام الماضي، لتقدير ما إذا كان المستخدم دون 18 عامًا استنادًا إلى عدة مؤشرات، منها أنماط السلوك. وقد عززت الشركة هذه الميزة الآن لتقيّم باستمرار المؤشرات الجديدة أثناء الاستخدام، وتنقل المراهقين إلى النسخة المخصصة للقاصرين عند الحاجة.
يمكن للبالغين الذين نُقلوا خطأً إلى النسخة المخصصة للقاصرين تأكيد هويتهم كشخص بالغ عبر Persona، الشريك المتخصص في التحقق من العمر، لإزالة تدابير الحماية الإضافية الخاصة بالمراهقين. وهذه النسخة المخصصة للقاصرين هي نسخة ChatGPT للمراهقين التي أطلقتها OpenAI سابقًا، وتتضمن أصلًا قيودًا إضافية على المحتوى الحساس.
لجميع المستخدمين: لن تُعاد صياغة تفاصيل الأسلحة المستخدمة في هجمات جماعية سابقة، وقد تُنهى المحادثات التي تتمحور حول العنف تلقائيًا
ينطبق جزء آخر من التعديلات على جميع المستخدمين، بغض النظر عن أعمارهم. ستقيّد OpenAI قدرة ChatGPT على إعادة بناء تفاصيل الهجمات الجماعية السابقة، بما في ذلك الأسلحة والمعدات المستخدمة، وطرق الحصول عليها، والمقارنات التفصيلية لأعداد الضحايا التي قد تزيد من شهرة المهاجمين، حتى لو كانت هذه المعلومات متاحة في أماكن أخرى على الإنترنت، وبصرف النظر عن عمر المستخدم أو سبب طرحه للسؤال.
وكتبت OpenAI: «ينبغي أن يتمكن الناس من طلب مساعدة ChatGPT لفهم هذه الأحداث، وتأثيرها على الضحايا والمجتمعات، وتعلّم التعرّف على المؤشرات التحذيرية والوقاية من العنف مستقبلًا».
عند ظهور مؤشرات تحذيرية في المحادثة، سيتوخى ChatGPT مزيدًا من الحذر عند تقديم معلومات قد يُساء استخدامها. وإذا أظهرت المحادثة أن المستخدم منشغل بأفكار العنف أو إلحاق أذى جسيم بالآخرين، فسيتمكن ChatGPT من إنهاء المحادثة تلقائيًا؛ وإذا أُنهيت محادثات الحساب نفسه بهذه الطريقة مرارًا، فقد تعلّق OpenAI الحساب.
أما فيما يخص أولياء الأمور، فقد وسّعت OpenAI في يوليو إشعارات السلامة ضمن أدوات الرقابة الأبوية، بحيث يُخطَرون عند تعطيل حساب مراهق بسبب انتهاكه سياسات الاستخدام المتعلقة بالعنف. والخطوة التالية هي إخطار أولياء الأمور أيضًا عند تعليق حساب مراهق بسبب تكرار الحديث عن العنف.
وأشارت رويترز إلى أن تقريرًا أصدرته منظمة Common Sense Media غير الربحية في وقت سابق من أكتوبر وجد أن ChatGPT للمراهقين غالبًا ما يتأخر كثيرًا في إخطار أولياء الأمور، أو لا يخطرهم إطلاقًا، عندما تتضمن محادثات حسابات المراهقين موضوعات متعلقة بالانتحار أو إيذاء النفس أو اضطرابات الأكل.
إحالة أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث؛ وأول تقرير عن سلامة المجتمع سيصدر مطلع 2027
قالت OpenAI إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من عام 2026، تتعلق بتهديدات عنف وشيكة.
وتعهّدت OpenAI أيضًا بنشر «تقرير سلامة المجتمع» لشرح كيفية رصد النظام لمشكلات سلامة المجتمع، مثل العنف، والتحقيق فيها والاستجابة لها، مع إرفاق حالات مجهولة الهوية وبيانات ذات صلة. وسيصدر التقرير الأول في مطلع عام 2027، وسيغطي النصف الثاني من عام 2026، ثم يُحدَّث كل ستة أشهر.
نُشر هذا المقال «ChatGPT يفرض قيودًا أشد على معلومات الأسلحة للمستخدمين دون 18 عامًا، حتى الأسئلة التي تبدو غير ضارة» للمرة الأولى في 。