شراكة جديدة: فيرونا × أتباش
أصبح وكلاء الذكاء الاصطناعي قادرين الآن على فهم التعليمات، ووضع الخطط، وكتابة التعليمات البرمجية، وتنفيذ المعاملات. لم تعد المشكلة الرئيسية تتمثل في الذكاء وحده، بل في التحكم: هل المعلومات المستخدمة دقيقة؟ وهل الإجراءات المقصودة مسموح بها بالفعل؟
تعالج الشراكة بين $VERONA وATBASH هذين السؤالين من زاويتين مختلفتين. تضمن فيرونا أن المعلومات التي يستخدمها الوكيل قد تم التحقق منها مباشرةً من المصدر. ثم تُحوَّل هذه المعلومات إلى دليل يمكن إعادة استخدامه من قِبل وكلاء مخوّلين، دون أن يحتاجوا إلى الوصول إلى بيانات المستخدم الخام.
ومع ذلك، فإن العمل بناءً على معلومات دقيقة لا يعني بالضرورة تنفيذ إجراءات مسموح بها. قد يمتلك الوكيل بيانات صحيحة، لكنه قد يحاول مع ذلك تحويل أموال تتجاوز الحد، أو الوصول إلى أنظمة حساسة، أو تنفيذ كود ينبغي أن يتطلب موافقة. هنا يأتي دور أتباش.
يعمل أتباش بين الوكيل والأدوات التي يمكنه الوصول إليها. يمكن للشركات تحديد «الخطوط الحمراء» الخاصة بها أو حدود التشغيل. وقبل تنفيذ إجراء غير قابل للعكس، يتحقق أتباش من هوية الوكيل، والجهة المستهدفة التي يسعى للوصول إليها، والسياسات المعمول بها، وإمكانية حدوث حقن عبر المطالبات (prompt injection). والنتيجة قد تكون تفويضًا، أو حجبًا، أو تصعيدًا لمراجعة إضافية.
لا يكتفي أتباش بإيقاف الإجراءات المخالِفة للقواعد. فكل قرار يترك أيضًا سجلًا بما فعله الوكيل، والقواعد التي تم تطبيقها، والأسباب التي جعلت الإجراء مسموحًا به أو محجوبًا. وعندما تطلب فرق الأمان أو العملاء أو الجهات التنظيمية تبريرًا لاحقًا، تتوفر سجلات القرار بسهولة للمراجعة.
تُوسّع هذه الشراكة دور فيرونا في بناء وكلاء ذكاء اصطناعي مناسبين للاستخدام في العالم الحقيقي. تؤمّن فيرونا المعلومات قبل اتخاذ القرارات، بينما يتحكم أتباش في الإجراءات الناتجة عن تلك القرارات. والنتيجة ليست مجرد وكيل أكثر ذكاءً، بل وكيل يعمل وفق الحقائق، ويفهم حدود سلطته، ويمكن مساءلته.
أصبح وكلاء الذكاء الاصطناعي قادرين الآن على فهم التعليمات، ووضع الخطط، وكتابة التعليمات البرمجية، وتنفيذ المعاملات. لم تعد المشكلة الرئيسية تتمثل في الذكاء وحده، بل في التحكم: هل المعلومات المستخدمة دقيقة؟ وهل الإجراءات المقصودة مسموح بها بالفعل؟
تعالج الشراكة بين $VERONA وATBASH هذين السؤالين من زاويتين مختلفتين. تضمن فيرونا أن المعلومات التي يستخدمها الوكيل قد تم التحقق منها مباشرةً من المصدر. ثم تُحوَّل هذه المعلومات إلى دليل يمكن إعادة استخدامه من قِبل وكلاء مخوّلين، دون أن يحتاجوا إلى الوصول إلى بيانات المستخدم الخام.
ومع ذلك، فإن العمل بناءً على معلومات دقيقة لا يعني بالضرورة تنفيذ إجراءات مسموح بها. قد يمتلك الوكيل بيانات صحيحة، لكنه قد يحاول مع ذلك تحويل أموال تتجاوز الحد، أو الوصول إلى أنظمة حساسة، أو تنفيذ كود ينبغي أن يتطلب موافقة. هنا يأتي دور أتباش.
يعمل أتباش بين الوكيل والأدوات التي يمكنه الوصول إليها. يمكن للشركات تحديد «الخطوط الحمراء» الخاصة بها أو حدود التشغيل. وقبل تنفيذ إجراء غير قابل للعكس، يتحقق أتباش من هوية الوكيل، والجهة المستهدفة التي يسعى للوصول إليها، والسياسات المعمول بها، وإمكانية حدوث حقن عبر المطالبات (prompt injection). والنتيجة قد تكون تفويضًا، أو حجبًا، أو تصعيدًا لمراجعة إضافية.
لا يكتفي أتباش بإيقاف الإجراءات المخالِفة للقواعد. فكل قرار يترك أيضًا سجلًا بما فعله الوكيل، والقواعد التي تم تطبيقها، والأسباب التي جعلت الإجراء مسموحًا به أو محجوبًا. وعندما تطلب فرق الأمان أو العملاء أو الجهات التنظيمية تبريرًا لاحقًا، تتوفر سجلات القرار بسهولة للمراجعة.
تُوسّع هذه الشراكة دور فيرونا في بناء وكلاء ذكاء اصطناعي مناسبين للاستخدام في العالم الحقيقي. تؤمّن فيرونا المعلومات قبل اتخاذ القرارات، بينما يتحكم أتباش في الإجراءات الناتجة عن تلك القرارات. والنتيجة ليست مجرد وكيل أكثر ذكاءً، بل وكيل يعمل وفق الحقائق، ويفهم حدود سلطته، ويمكن مساءلته.
