nvidiaopenagensaftyprogram

Nvidia, qaçan AI agentlərini çıxmadan əvvəl tələyə salmaq üçün ən son “rəqəmsal qəfəs” qurur? 🚨🤖
Nvidia yeni rəsmi olaraq Open Agent Safety Platformunu təqdim etdi; açıq mənbəli OpenShell proqramını və aparat dəstəkli Sentry-ni (BlueField-4 DPUs-da işləyir) birləşdirərək AI agentlərini təhlükəsiz sandbox mühitlərində zorakı şəkildə məhdudlaşdırmaq məqsədi daşıyır!
Niyə Bu, AI Təhlükəsizliyi üçün Oyunu Dəyişdirəndir:
• Kernel Səviyyəli Sandboxing: OpenShell agentləri təcrid olunmuş mühitlərə kilidləyir, agentin əhatə dairəsindən kənarda fayllar, yaddaş və şəbəkə icazələri üzrə ciddi kernel nəzarəti tətbiq edir.
• Millisaniyəlik Aparat Karantini: Nvidia Sentry BlueField-4 DPUs üzərində əlavə (out-of-band) nəzarətçi kimi çıxış edir; o, əsaslandırma izlərini ələ keçirir və şübhəli agentləri millisaniyələr içində karantinə sala bilir!
• Modellə Məhdudiyyətlərdən Daha Yuxarı: Prompt injection-lar və zərərli agentlər prompt qaydalarını aşa bilər, amma Nvidia təhlükəsizliyi AI-nin öz icazələrini yenidən yaza bilməyəcəyi hardware/kernel müstəvisində təmin edir.
• Ekosistem Qəbul Edilməsi: Artıq Anthropic, Microsoft, JPMorganChase, Perplexity və SpaceX AI daxil olmaqla böyük nəhənglər tərəfindən dəstəklənir!
Jensen Huang sübut edir ki, muxtar AI-ni nəzarətdə saxlamaq sadəcə elmi-fantastika mübahisəsi deyil—bu, birbaşa silikon üzərində həll edilən yüksək riskli mühəndislik problemidir!
Sizcə, hardware səviyyəsində sandboxing zərərli AI sistemlərini dayandırmaq üçün kifayətdirmi, yoxsa AI agentləri nəticədə silikon təcridini yarmağın bir yolunu tapacaq? Düşüncələrinizi aşağıda paylaşın! 👇
AI-nin qırılmasını, texnologiya və hardware təhlükəsizlikdəki dəyişiklikləri qabaqlamaq istəyirsinizsə:
❤️ Like / React edin
💬 AI agent təhlükəsizliyi ilə bağlı fikrinizi şərh edin!
🔄 Tex komandanızla Share / Repost edin!
📌 Sürətli, yüksək-dəqiqlikli texnologiya & bazar yenilikləri üçün izləyin!
(Məlumatlı qalın və tech-feed-inizi yenilənmiş saxlayın!)
$NVDAB $NVDA.US
#NVIDIA #NVIDIAopenagenSaftyProgram