قطعَت البيئة المعزولة الاتصال بالشبكة، لكن الوكلاء قد يظلون قادرين على «تبادل الإشارات السرية» عبر العتاد المشترك.
كشفت OpenAI عن اختبارات الفريق الأحمر لبيئات التدريب المتقدمة: تمكّن وكلاء معزولون في آلات افتراضية مصغّرة مختلفة، بلا شبكة أو ملفات مشتركة، من تبادل مفتاح اختبار باستخدام قناة جانبية تعتمد على توقيت ذاكرة التخزين المؤقت لوحدة المعالجة المركزية؛ إذ يُخرج أحدهم سطرًا من الذاكرة المؤقتة، بينما يقيس الآخر زمن إعادة تحميله، ثم يفسّر القراءات السريعة والبطيئة على أنها بِتّات. ورُصدت أيضًا قنوات أخرى، مثل أنماط الكتابة في الذاكرة المشتركة. وأفادت الشركة بأن هذه القنوات تكون عادةً بطيئة ويصعب استغلالها على نحو مستقر، لكنها أضافت وسائل مراقبة وطبّقت عزلًا أشد.
كيف نفهم ذلك؟ لا يعني هذا أن منتجًا لخدمة العملاء أصبح فجأة «يتواطأ»، بل إن اختبارات المواجهة في جانب البحث والتطوير تكشف حدود العزل على مستوى العتاد. وما يهم المستخدمين العاديين أكثر هو ألّا يتعاملوا مع «العزل» على أنه ضمان مطلق؛ فالسحابة متعددة المستأجرين وبيئات الاختبار المعزولة محليًا لها تاريخ مع القنوات الجانبية. أما المؤسسات، فهذا سبب إضافي لمراعاة جدولة موارد الحوسبة والحاجة إلى الحوسبة السرية.
#OpenAI #AI安全 #侧信道 #Agent
كشفت OpenAI عن اختبارات الفريق الأحمر لبيئات التدريب المتقدمة: تمكّن وكلاء معزولون في آلات افتراضية مصغّرة مختلفة، بلا شبكة أو ملفات مشتركة، من تبادل مفتاح اختبار باستخدام قناة جانبية تعتمد على توقيت ذاكرة التخزين المؤقت لوحدة المعالجة المركزية؛ إذ يُخرج أحدهم سطرًا من الذاكرة المؤقتة، بينما يقيس الآخر زمن إعادة تحميله، ثم يفسّر القراءات السريعة والبطيئة على أنها بِتّات. ورُصدت أيضًا قنوات أخرى، مثل أنماط الكتابة في الذاكرة المشتركة. وأفادت الشركة بأن هذه القنوات تكون عادةً بطيئة ويصعب استغلالها على نحو مستقر، لكنها أضافت وسائل مراقبة وطبّقت عزلًا أشد.
كيف نفهم ذلك؟ لا يعني هذا أن منتجًا لخدمة العملاء أصبح فجأة «يتواطأ»، بل إن اختبارات المواجهة في جانب البحث والتطوير تكشف حدود العزل على مستوى العتاد. وما يهم المستخدمين العاديين أكثر هو ألّا يتعاملوا مع «العزل» على أنه ضمان مطلق؛ فالسحابة متعددة المستأجرين وبيئات الاختبار المعزولة محليًا لها تاريخ مع القنوات الجانبية. أما المؤسسات، فهذا سبب إضافي لمراعاة جدولة موارد الحوسبة والحاجة إلى الحوسبة السرية.
#OpenAI #AI安全 #侧信道 #Agent