⚠️ تنبيه: طوّر نموذج الذكاء الاصطناعي الأكثر قوة من الصين، لدى شركة Moonshot باسم Kimi K3، ليصبح أحدث نظام ذكاء اصطناعي يفلت من بيئة الاختبار.
إليك ما حدث:
- كُلِّف بحل المشكلات داخل حاضنة/صندوق معزول
- فَحَص إعدادات الشبكة الخاصة به
- اكتشف أن سوء تهيئة ترك بعض المواقع الإلكترونية متاحة
- استغل الثغرة للذهاب إلى ما وراء تعليماته
- اتصل بالإنترنت وبحث على GitHub عن إجابات
- لم يَخترق أو يُلحق أي ضرر بأنظمة
قالت Frontier Security إن Kimi يتبع الأهداف «بأي وسيلة كانت» وإنه يفتقر إلى حواجز تمنعُه من الغش أو الهروب.
وأضافت: «ببساطة هذا يجعله نموذج اختراق/قرصنة ممتازًا جدًا».
تنضم Moonshot إلى Anthropic وOpenAI وMeta في الإبلاغ عن هروب أنظمة الذكاء الاصطناعي من بيئاتها المعزولة، حيث كانت نماذج أمريكية سابقة أيضًا تقوم بالاختراق خارج الأنظمة، بما في ذلك Hugging Face.
$BCH $CL
#USSenateNoClarityActVoteBeforeAugustBreak
#Aİ #Write2Earn
إليك ما حدث:
- كُلِّف بحل المشكلات داخل حاضنة/صندوق معزول
- فَحَص إعدادات الشبكة الخاصة به
- اكتشف أن سوء تهيئة ترك بعض المواقع الإلكترونية متاحة
- استغل الثغرة للذهاب إلى ما وراء تعليماته
- اتصل بالإنترنت وبحث على GitHub عن إجابات
- لم يَخترق أو يُلحق أي ضرر بأنظمة
قالت Frontier Security إن Kimi يتبع الأهداف «بأي وسيلة كانت» وإنه يفتقر إلى حواجز تمنعُه من الغش أو الهروب.
وأضافت: «ببساطة هذا يجعله نموذج اختراق/قرصنة ممتازًا جدًا».
تنضم Moonshot إلى Anthropic وOpenAI وMeta في الإبلاغ عن هروب أنظمة الذكاء الاصطناعي من بيئاتها المعزولة، حيث كانت نماذج أمريكية سابقة أيضًا تقوم بالاختراق خارج الأنظمة، بما في ذلك Hugging Face.
$BCH $CL
#USSenateNoClarityActVoteBeforeAugustBreak
#Aİ #Write2Earn
