أكدت Google أنه في مايو من هذا العام، اتصلت Gemini بالإنترنت أثناء اختبار لأمن الشبكات، ثم دخلت في ثلاث مناسبات متتالية أنظمة شركات حقيقية. وهذه هي المرة الأولى التي تعترف فيها بأن النموذج أكمل العملية بالكامل من تلقاء نفسه.
في أبسط الحالات الثلاث، كان النموذج يحاول تخمين كلمات المرور دون توقف حتى تمكن من الدخول إلى نظام محمي. أما الحالتان الأخريان، فقد استخدم اسم الشركة للبحث، ثم عثر في مستودع أكواد عام على بيانات اعتماد تخص شخصًا آخر، واستخدمها لتسجيل الدخول. وفي كل مرة، عندما حدد أن الطرف الآخر شركة حقيقية، توقف بنفسه.
لم يتم إخطار Google إلا في أواخر يوليو. وحتى هذا الأسبوع، عندما طرحها الإعلام لأول مرة، تحدثت علنًا لأول مرة. وقارن نائب الرئيس للشؤون الهندسية للأمن هذه القضية بجوائز مكافآت الثغرات، وقال إن سلوك النموذج كان مناسبًا.
هناك طبقة أكثر برودة من الأمر. تخمين كلمات المرور، والبحث عن بيانات الاعتماد، ثم تسجيل الدخول—هذه الحركات، إذا تم النظر إليها بشكل منفصل، ليست جديدة. الجديد هو أنه لم يُصدر أحد هذا الأمر. إن عتبة الأمن تتغير من “من لديه القدرة” إلى “من لديه الحظ”.
غير مناسب. فمكافآت الثغرات عادةً ما تكون دعوة من شخص ليقوم بالبحث، أما هذه المرة فلم يطلب منه أحد أن يذهب. والأمر الحاسم لم يكن أبدًا ما إذا كان النموذج سيتجاوز حدوده، بل من الذي سيقرر بعد تجاوز الحدود ما إذا كان سيفصح للآخرين.
تنتظر الصناعة قاعدة إفصاح. في العام القادم ستظهر متطلبات موحدة لإبلاغ الحوادث، كما أن هذه القضايا القديمة سيتم الإبلاغ عنها لاحقًا، ما يعني أن القاعدة قد بدأت تترسخ. إذا استمرت كل جهة في الكلام على طريقتها، فذلك يعادل تسليم مفاتيح الباب إلى أشخاص موجودين خارجه.
#AI安全 #信息披露
في أبسط الحالات الثلاث، كان النموذج يحاول تخمين كلمات المرور دون توقف حتى تمكن من الدخول إلى نظام محمي. أما الحالتان الأخريان، فقد استخدم اسم الشركة للبحث، ثم عثر في مستودع أكواد عام على بيانات اعتماد تخص شخصًا آخر، واستخدمها لتسجيل الدخول. وفي كل مرة، عندما حدد أن الطرف الآخر شركة حقيقية، توقف بنفسه.
لم يتم إخطار Google إلا في أواخر يوليو. وحتى هذا الأسبوع، عندما طرحها الإعلام لأول مرة، تحدثت علنًا لأول مرة. وقارن نائب الرئيس للشؤون الهندسية للأمن هذه القضية بجوائز مكافآت الثغرات، وقال إن سلوك النموذج كان مناسبًا.
هناك طبقة أكثر برودة من الأمر. تخمين كلمات المرور، والبحث عن بيانات الاعتماد، ثم تسجيل الدخول—هذه الحركات، إذا تم النظر إليها بشكل منفصل، ليست جديدة. الجديد هو أنه لم يُصدر أحد هذا الأمر. إن عتبة الأمن تتغير من “من لديه القدرة” إلى “من لديه الحظ”.
غير مناسب. فمكافآت الثغرات عادةً ما تكون دعوة من شخص ليقوم بالبحث، أما هذه المرة فلم يطلب منه أحد أن يذهب. والأمر الحاسم لم يكن أبدًا ما إذا كان النموذج سيتجاوز حدوده، بل من الذي سيقرر بعد تجاوز الحدود ما إذا كان سيفصح للآخرين.
تنتظر الصناعة قاعدة إفصاح. في العام القادم ستظهر متطلبات موحدة لإبلاغ الحوادث، كما أن هذه القضايا القديمة سيتم الإبلاغ عنها لاحقًا، ما يعني أن القاعدة قد بدأت تترسخ. إذا استمرت كل جهة في الكلام على طريقتها، فذلك يعادل تسليم مفاتيح الباب إلى أشخاص موجودين خارجه.
#AI安全 #信息披露
