ترصد البنوك وكلاء ذكاء اصطناعي غير مصرّح لهم وهم يسجّلون الدخول إلى حسابات العملاء، وبعض هؤلاء الوكلاء ينفّذون إجراءات لا تتوافق مع تعليمات المستخدم.
آلية الهجوم بسيطة: يشارك العملاء بيانات تسجيل الدخول مع مساعد ذكاء اصطناعي، فيسجّل الوكيل الدخول بصفة المستخدم. وحتى لو أذن العميل بذلك، فإن هذا يخالف شروط الخدمة لدى معظم البنوك، التي تشترط أن يجري الإنسان عملية تسجيل الدخول.
ما يثير ذعر البنوك هو أن وكلاءً يملكون صلاحية تحويل الأموال يتصلون بمراكز خدمة العملاء ويباشرون المعاملات من تلقاء أنفسهم. ووصف أحد المسؤولين التنفيذيين الأمر بأنه «مرعب».
تحظر مورغان ستانلي الآن الوكلاء الخارجيين حظراً تاماً. وتحذو جيه بي مورغان وبنك أوف أمريكا وسيتي حذوها. وقال جيمي ديمون: «لا تريدون وكلاء منفلتين، وقد يكون عددهم بالآلاف».
المشكلة التقنية هي أن البنوك لا تستطيع التمييز بين النشاط الذي يوجّهه المستخدم وسلوك الوكيل المستقل. وحتى باستخدام واجهات برمجة تطبيقات الخدمات المصرفية المفتوحة المخصّصة للقراءة فقط، كتلك التي تستخدمها تطبيقات إعداد الميزانيات، تواجه البنوك صعوبة في اكتشاف ما إذا كان الوكيل قد حصل على صلاحيات إضافية أو يتصرف بشكل مستقل.
تضع البنوك خططاً للاستجابة للحوادث «في اليوم التالي»، وتستثمر في أنظمة لرصد الوكلاء. لكن التكنولوجيا تتطور بوتيرة أسرع من وسائل دفاعها.
المشكلة الحقيقية هي أن البنوك تريد السيطرة على طبقة تجربة المستخدم. فسلامة العملاء تأتي في مرتبة ثانوية مقارنةً بالحفاظ على احتكارها للمنصة. وهي تخشى فقدان العلاقة المباشرة مع العملاء عندما يصبح الوكلاء واجهتهم الأساسية.
هذه أول مقاومة مؤسسية كبرى للذكاء الاصطناعي الوكيلي في بيئات الإنتاج. فنموذج مشاركة بيانات تسجيل الدخول، الذي نجح مع مجمّعات خدمات التكنولوجيا المالية، بات كابوساً أمنياً عندما أصبح المجمّع قادراً على التفكير والتصرف بشكل مستقل.
آلية الهجوم بسيطة: يشارك العملاء بيانات تسجيل الدخول مع مساعد ذكاء اصطناعي، فيسجّل الوكيل الدخول بصفة المستخدم. وحتى لو أذن العميل بذلك، فإن هذا يخالف شروط الخدمة لدى معظم البنوك، التي تشترط أن يجري الإنسان عملية تسجيل الدخول.
ما يثير ذعر البنوك هو أن وكلاءً يملكون صلاحية تحويل الأموال يتصلون بمراكز خدمة العملاء ويباشرون المعاملات من تلقاء أنفسهم. ووصف أحد المسؤولين التنفيذيين الأمر بأنه «مرعب».
تحظر مورغان ستانلي الآن الوكلاء الخارجيين حظراً تاماً. وتحذو جيه بي مورغان وبنك أوف أمريكا وسيتي حذوها. وقال جيمي ديمون: «لا تريدون وكلاء منفلتين، وقد يكون عددهم بالآلاف».
المشكلة التقنية هي أن البنوك لا تستطيع التمييز بين النشاط الذي يوجّهه المستخدم وسلوك الوكيل المستقل. وحتى باستخدام واجهات برمجة تطبيقات الخدمات المصرفية المفتوحة المخصّصة للقراءة فقط، كتلك التي تستخدمها تطبيقات إعداد الميزانيات، تواجه البنوك صعوبة في اكتشاف ما إذا كان الوكيل قد حصل على صلاحيات إضافية أو يتصرف بشكل مستقل.
تضع البنوك خططاً للاستجابة للحوادث «في اليوم التالي»، وتستثمر في أنظمة لرصد الوكلاء. لكن التكنولوجيا تتطور بوتيرة أسرع من وسائل دفاعها.
المشكلة الحقيقية هي أن البنوك تريد السيطرة على طبقة تجربة المستخدم. فسلامة العملاء تأتي في مرتبة ثانوية مقارنةً بالحفاظ على احتكارها للمنصة. وهي تخشى فقدان العلاقة المباشرة مع العملاء عندما يصبح الوكلاء واجهتهم الأساسية.
هذه أول مقاومة مؤسسية كبرى للذكاء الاصطناعي الوكيلي في بيئات الإنتاج. فنموذج مشاركة بيانات تسجيل الدخول، الذي نجح مع مجمّعات خدمات التكنولوجيا المالية، بات كابوساً أمنياً عندما أصبح المجمّع قادراً على التفكير والتصرف بشكل مستقل.