🚨 عاجل: OpenAI تطوّر مفتاح إيقاف لإيقاف الوكلاء المارقين خلال 35 ثانية

تقطع غرفة التحكم مخرجات النموذج في مهام البحث الداخلية عندما يرصد الأشخاص أو أنظمة المراقبة الآلية مخاوف تتعلق بالسلامة أو الأمن.

طوّرت OpenAI نظامًا يمكنه قطع وصول تجربة بحثية للذكاء الاصطناعي إلى مخرجات النموذج، وذلك بعد الكشف هذا العام عن عدة حالات تصرفت فيها نماذجها بما يتجاوز التعليمات المعطاة لها.

في منشور على مدونتها يوم الاثنين، أطلقت OpenAI على النظام اسم «غرفة التحكم»، وهو نظام مركزي يتتبع أعباء عمل النماذج عبر البنية التحتية البحثية للشركة ويوقفها سريعًا عند ظهور مخاوف تتعلق بالسلامة أو الأمن.

وقالت الشركة: «مع تزايد قوة نماذجنا وتفاقم مخاطر السلامة والأمن المرتبطة بها، تزداد أهمية قدرتنا على رصد المشكلات المحتملة وإيقاف النماذج بسرعة عند الحاجة».

🔗 [اقرأ المقال كاملًا هنا](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)

📰 المصدر: 🪙 CoinTelegraph

$BTC $ETH #BinanceSquare #CryptoNews