تظن أنك أوقفت «مفتاح التدريب»، لكن في الواقع، أبحاث السلامة لا تخضع له.
غيّرت OpenAI للتو قواعد البيانات الخاصة بـ Daybreak Blue، فاشتعلت أوساط الأمن السيبراني.
1️⃣ ماذا حدث؟
أضافت صفحة «عناصر التحكم في البيانات» في مركز مساعدة OpenAI قسمًا جديدًا بعنوان «Trusted Access على الحسابات الشخصية»: في جلسات Daybreak على الحسابات الشخصية، قد تستخدم OpenAI محتوى هذه التفاعلات لتحسين النماذج، حتى لو أوقفت خيار «تحسين النموذج للجميع». والسبب الذي ذكرته الشركة هو تعزيز تدابير السلامة لمكافحة إساءة الاستخدام السيبراني.
2️⃣ موعد بدء التنفيذ
نشر عدد من مستخدمي Daybreak Blue رسائل بريد إلكتروني في منتدى مطوري OpenAI، وقالوا إن التنفيذ سيبدأ اعتبارًا من 29 نوفمبر. وحتى الآن، ورد هذا التاريخ في رسائل نقلها المستخدمون، بينما لا يذكره الموقع الرسمي.
3️⃣ ما هو Daybreak Blue؟
هو المسار الدفاعي ضمن برنامج Trusted Access for Cyber من OpenAI: يتيح لمتخصصي الأمن الذين جرى التحقق من هويتهم استخدام النماذج الرئيسية لتصنيف الثغرات، ومراجعة الشيفرات لأغراض السلامة، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث، مع حالات رفض أقل.
4️⃣ ما الذي لا يتأثر؟
يظل مفتاح التدريب ساريًا كالمعتاد على الاستخدامات خارج جلسات Trusted Access؛ وبحسب محتوى رسائل البريد الإلكتروني، لا يشمل ذلك حسابات الأعمال أو المؤسسات.
تقييمي:
غالبًا ما يزوّد العاملون في مجال الدفاع النماذج بتفاصيل ثغرات اليوم الصفري التي لم تُرقّع بعد، وسجلات بيئات العملاء. وفي مثل هذه الظروف، فإن إزالة خيار إلغاء الاشتراك أمرٌ دفع الباحث الأمني Sean Heelan إلى وصفه بأنه «شر كرتوني»، وهذا ليس بلا مبرر.
يمكن أيضًا فهم منطق OpenAI: فثمن تخفيف حالات الرفض هو التحقق مما تفعله بالنموذج. لكن مسألة «مبادلة البيانات بالصلاحيات» يجب أن تُكتب في السطر الأول من صفحة التقديم، لا أن تُضاف إلى الشروط بعد فوات الأوان.
بعد أحداث المحفظة الساخنة هذا الأسبوع، واكتشاف إضافة VS Code تتضمن بابًا خلفيًا، باتت فرق البلوك تشين تُسند عمليات التدقيق الأمني إلى الذكاء الاصطناعي أكثر فأكثر. النصيحة: استخدم مساحة عمل مؤسسية للمواد الحساسة، أو لا تُدخلها في جلسات Daybreak. لا تفترض أن «إيقاف المفتاح يعني أن بياناتك آمنة».
اكتفِ بالفرز، ولا تقدّم إرشادات؛ وقيّم بنفسك.
المصادر: مركز مساعدة OpenAI (عناصر التحكم في البيانات في ChatGPT، وصفحة نظرة عامة على Daybreak)، ومنشورات المستخدمين في مجتمع مطوري OpenAI
#AI #OpenAI #الأمن_السيبراني
غيّرت OpenAI للتو قواعد البيانات الخاصة بـ Daybreak Blue، فاشتعلت أوساط الأمن السيبراني.
1️⃣ ماذا حدث؟
أضافت صفحة «عناصر التحكم في البيانات» في مركز مساعدة OpenAI قسمًا جديدًا بعنوان «Trusted Access على الحسابات الشخصية»: في جلسات Daybreak على الحسابات الشخصية، قد تستخدم OpenAI محتوى هذه التفاعلات لتحسين النماذج، حتى لو أوقفت خيار «تحسين النموذج للجميع». والسبب الذي ذكرته الشركة هو تعزيز تدابير السلامة لمكافحة إساءة الاستخدام السيبراني.
2️⃣ موعد بدء التنفيذ
نشر عدد من مستخدمي Daybreak Blue رسائل بريد إلكتروني في منتدى مطوري OpenAI، وقالوا إن التنفيذ سيبدأ اعتبارًا من 29 نوفمبر. وحتى الآن، ورد هذا التاريخ في رسائل نقلها المستخدمون، بينما لا يذكره الموقع الرسمي.
3️⃣ ما هو Daybreak Blue؟
هو المسار الدفاعي ضمن برنامج Trusted Access for Cyber من OpenAI: يتيح لمتخصصي الأمن الذين جرى التحقق من هويتهم استخدام النماذج الرئيسية لتصنيف الثغرات، ومراجعة الشيفرات لأغراض السلامة، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث، مع حالات رفض أقل.
4️⃣ ما الذي لا يتأثر؟
يظل مفتاح التدريب ساريًا كالمعتاد على الاستخدامات خارج جلسات Trusted Access؛ وبحسب محتوى رسائل البريد الإلكتروني، لا يشمل ذلك حسابات الأعمال أو المؤسسات.
تقييمي:
غالبًا ما يزوّد العاملون في مجال الدفاع النماذج بتفاصيل ثغرات اليوم الصفري التي لم تُرقّع بعد، وسجلات بيئات العملاء. وفي مثل هذه الظروف، فإن إزالة خيار إلغاء الاشتراك أمرٌ دفع الباحث الأمني Sean Heelan إلى وصفه بأنه «شر كرتوني»، وهذا ليس بلا مبرر.
يمكن أيضًا فهم منطق OpenAI: فثمن تخفيف حالات الرفض هو التحقق مما تفعله بالنموذج. لكن مسألة «مبادلة البيانات بالصلاحيات» يجب أن تُكتب في السطر الأول من صفحة التقديم، لا أن تُضاف إلى الشروط بعد فوات الأوان.
بعد أحداث المحفظة الساخنة هذا الأسبوع، واكتشاف إضافة VS Code تتضمن بابًا خلفيًا، باتت فرق البلوك تشين تُسند عمليات التدقيق الأمني إلى الذكاء الاصطناعي أكثر فأكثر. النصيحة: استخدم مساحة عمل مؤسسية للمواد الحساسة، أو لا تُدخلها في جلسات Daybreak. لا تفترض أن «إيقاف المفتاح يعني أن بياناتك آمنة».
اكتفِ بالفرز، ولا تقدّم إرشادات؛ وقيّم بنفسك.
المصادر: مركز مساعدة OpenAI (عناصر التحكم في البيانات في ChatGPT، وصفحة نظرة عامة على Daybreak)، ومنشورات المستخدمين في مجتمع مطوري OpenAI
#AI #OpenAI #الأمن_السيبراني