يجب ألا يرى الوكيل السر 🔐
أثبت $ZEC أن بعض الأشياء يجب أن تكون غير قابلة للقراءة افتراضيًا. ويعمل $BNKR الآن مع فريق يطبّق هذه الفكرة على الشيء الذي يشكّل حمله أخطر ما يمكن أن يفعله الوكيل.
تبني 1Claw أمانًا قائمًا على انعدام الثقة لوكلاء الذكاء الاصطناعي. تُحفَظ الأسرار في أجهزة مشفّرة، ويجري التنفيذ على جانب الخادم، بحيث يُتمّ الوكيل الإجراء من دون أن يرى بيانات الاعتماد مطلقًا.
هذا القلب للمفهوم هو الفكرة برمتها، ويستحق أن نتأملها.
تفترض معظم الجهود المبذولة لتأمين الوكلاء أن الوكيل يحمل المفتاح، ثم تحاول تقييد ما يفعله به: سياسات، وحدود، وتأكيدات. كلها مفيدة، لكنها تدافع عن وضع تكون فيه المواد الحساسة موجودة أصلًا داخل الجزء الأقل فهمًا من النظام.
إن حفظ السر في مكان لا يستطيع النموذج قراءته يزيل هذا النوع من المشكلات بدلًا من محاولة إدارته. فلا يمكن لحقن التعليمات أن يسرّب شيئًا لم يكن لدى الوكيل أصلًا.
تتكوّن بنيتهم من ثلاثة أجزاء. يفحص Shroud الشيفرات الخبيثة، ويوقّع Intents API المعاملات وينفّذ الاستدعاءات على جانب الخادم، فيما تتولى الأتمتة وبيئات التشغيل التنفيذ المستقل.
والحدّ واضح، وهم لا يخفونه. فالتنفيذ على جانب الخادم يعني الوثوق بمشغّل مختلف، ونقل المخاطر لا يعني إزالتها.
ومع ذلك، فهذا هو الاتجاه الصحيح. إذا كان الوكلاء سيتعاملون مع الأموال، فالسؤال المهم هو: ما الأشياء التي يستحيل عليهم تسريبها بحكم تصميمهم؟
#الذكاء_الاصطناعي #الأمان
أثبت $ZEC أن بعض الأشياء يجب أن تكون غير قابلة للقراءة افتراضيًا. ويعمل $BNKR الآن مع فريق يطبّق هذه الفكرة على الشيء الذي يشكّل حمله أخطر ما يمكن أن يفعله الوكيل.
تبني 1Claw أمانًا قائمًا على انعدام الثقة لوكلاء الذكاء الاصطناعي. تُحفَظ الأسرار في أجهزة مشفّرة، ويجري التنفيذ على جانب الخادم، بحيث يُتمّ الوكيل الإجراء من دون أن يرى بيانات الاعتماد مطلقًا.
هذا القلب للمفهوم هو الفكرة برمتها، ويستحق أن نتأملها.
تفترض معظم الجهود المبذولة لتأمين الوكلاء أن الوكيل يحمل المفتاح، ثم تحاول تقييد ما يفعله به: سياسات، وحدود، وتأكيدات. كلها مفيدة، لكنها تدافع عن وضع تكون فيه المواد الحساسة موجودة أصلًا داخل الجزء الأقل فهمًا من النظام.
إن حفظ السر في مكان لا يستطيع النموذج قراءته يزيل هذا النوع من المشكلات بدلًا من محاولة إدارته. فلا يمكن لحقن التعليمات أن يسرّب شيئًا لم يكن لدى الوكيل أصلًا.
تتكوّن بنيتهم من ثلاثة أجزاء. يفحص Shroud الشيفرات الخبيثة، ويوقّع Intents API المعاملات وينفّذ الاستدعاءات على جانب الخادم، فيما تتولى الأتمتة وبيئات التشغيل التنفيذ المستقل.
والحدّ واضح، وهم لا يخفونه. فالتنفيذ على جانب الخادم يعني الوثوق بمشغّل مختلف، ونقل المخاطر لا يعني إزالتها.
ومع ذلك، فهذا هو الاتجاه الصحيح. إذا كان الوكلاء سيتعاملون مع الأموال، فالسؤال المهم هو: ما الأشياء التي يستحيل عليهم تسريبها بحكم تصميمهم؟
#الذكاء_الاصطناعي #الأمان