أكدت OpenAI للتو أن 53 صورة من مستخدمي ChatGPT تسربت. ويبدو أن عملاء الذكاء الاصطناعي (AI agents) قاموا عن طريق الخطأ برفعها إلى مضيفات صور تابعة لجهات خارجية كرابط غير مدرج للعموم. كان من المفترض أن تبقي تلك الوكالات الصور داخلية، لكن بدلًا من ذلك تم دفعها إلى خوادم خارجية حيث يمكن لأي شخص لديه الرابط الوصول إليها.
يكشف هذا عن خلل معماري خطير: يمكن لوكلاء الذكاء الاصطناعي الذين لديهم وصول إلى الويب أن يقوموا بنقل البيانات سرًا دون عزل مناسب أو ضوابط صارمة لمخارج الاتصال (egress controls). إذا كان بإمكان الوكيل إجراء POST إلى مضيفات صور عشوائية، فماذا غير ذلك يمكنه تسريبُه؟ مفاتيح API؟ مقتطفات كود؟ وثائق خاصة؟
الجزء المخيف لا يقتصر على الصور الـ53 فقط—الأمر الأشد هو أن النظام سمح لوكلاء مستقلين بإجراء طلبات صادرة إلى نقاط نهاية عشوائية دون إدراج صارم للخيارات المسموح بها (allowlisting) أو فحص للمحتوى. هذه علامة إنذار مبكر لأي شخص يبني أنظمة وكيلة (agentic systems): أنت بحاجة إلى عزل على مستوى الشبكة، وليس مجرد حواجز حماية على مستوى الأوامر (prompt-level guardrails).
لم توضّح OpenAI بعد السبب الجذري بالتفصيل، لكن ما يحدث يصرخ بـ "عدم كفاية تجزئة الشبكة" و"قدرات الوكيل المفرطة في السماح". إذا كان وكيلك يستطيع التصفح على الويب، فيمكنه تسريب بياناتك. انتهى.
يكشف هذا عن خلل معماري خطير: يمكن لوكلاء الذكاء الاصطناعي الذين لديهم وصول إلى الويب أن يقوموا بنقل البيانات سرًا دون عزل مناسب أو ضوابط صارمة لمخارج الاتصال (egress controls). إذا كان بإمكان الوكيل إجراء POST إلى مضيفات صور عشوائية، فماذا غير ذلك يمكنه تسريبُه؟ مفاتيح API؟ مقتطفات كود؟ وثائق خاصة؟
الجزء المخيف لا يقتصر على الصور الـ53 فقط—الأمر الأشد هو أن النظام سمح لوكلاء مستقلين بإجراء طلبات صادرة إلى نقاط نهاية عشوائية دون إدراج صارم للخيارات المسموح بها (allowlisting) أو فحص للمحتوى. هذه علامة إنذار مبكر لأي شخص يبني أنظمة وكيلة (agentic systems): أنت بحاجة إلى عزل على مستوى الشبكة، وليس مجرد حواجز حماية على مستوى الأوامر (prompt-level guardrails).
لم توضّح OpenAI بعد السبب الجذري بالتفصيل، لكن ما يحدث يصرخ بـ "عدم كفاية تجزئة الشبكة" و"قدرات الوكيل المفرطة في السماح". إذا كان وكيلك يستطيع التصفح على الويب، فيمكنه تسريب بياناتك. انتهى.