الذكاء الاصطناعي يخدم شركات متعددة، فما الذي يضمن عدم اختلاط البيانات؟ — البوابة الأولى للذكاء الاصطناعي المؤسسي (منقول عن مقال على الحساب الرسمي لشركتنا في WeChat)
مشكلة أثارتها لقطة شاشة: بينما كان مساعد ذكاء اصطناعي لإحدى الشركات يجيب عن سؤال من عميل لدى الشركة B بشأن تجديد العقد، أفصح عرضًا عن قيمة عقد الشركة A، وكاد الأمر أن يبدد ثقة العميلين معًا. المشكلة ليست في النموذج نفسه، بل في حدود العزل التي تسبقه.
عادةً ما يُنظر إلى عزل الذكاء الاصطناعي المؤسسي من ثلاثة أبعاد: المؤسسة — تبقى الحقائق والملفات والفرص والمخرجات الخاصة بكل مؤسسة مستقلة عن غيرها، ولكل منها سجلاتها الخاصة؛ ومساحة العمل — تحتفظ مساحات العمل الخاصة بخطوط الأعمال والمشاريع المختلفة ضمن المؤسسة الواحدة ببيانات العمل وسياقاتها الخاصة؛ والحساب — فكثيرًا ما يدير الشخص نفسه شركات متعددة، لذا يجب عند التبديل بينها ضمان بقاء «الشخص داخل الحدود»، لا تكديس جميع البيانات في مستودع واحد كبير. يمكن أن تكون القدرات عامة، لكن يجب أن تظل الحقائق خاصة بكل جهة.
وللأمر سوابق في القطاع: ففي مارس 2023، كشفت OpenAI عن حادثة في ChatGPT، إذ أدى خلل في مكتبة برمجية للعميل إلى ظهور عناوين محادثات بعض المستخدمين، بل وحتى بعض معلومات الدفع، على واجهات مستخدمين آخرين لفترة من الوقت؛ وفي أبريل 2023، أفادت عدة وسائل إعلام بأن شركة Samsung شددت ضوابط الاستخدام بعدما ألصق موظفون شيفرة داخلية في أدوات ذكاء اصطناعي خارجية. إذا أُضيفت حدود المستأجرين بعد وقوع الأمر، فسيظل الخطر قائمًا.
قبل تقييم أي نظام، اطرح هذا السؤال أولًا: وفق أي أبعاد يعزل البيانات؟ إذا كان العزل قائمًا على الحسابات فقط، فستبدأ الحدود بالتلاشي ما إن يدير الشخص نفسه شركات متعددة.
هذا لا يشكل نصيحة استثمارية.
مشكلة أثارتها لقطة شاشة: بينما كان مساعد ذكاء اصطناعي لإحدى الشركات يجيب عن سؤال من عميل لدى الشركة B بشأن تجديد العقد، أفصح عرضًا عن قيمة عقد الشركة A، وكاد الأمر أن يبدد ثقة العميلين معًا. المشكلة ليست في النموذج نفسه، بل في حدود العزل التي تسبقه.
عادةً ما يُنظر إلى عزل الذكاء الاصطناعي المؤسسي من ثلاثة أبعاد: المؤسسة — تبقى الحقائق والملفات والفرص والمخرجات الخاصة بكل مؤسسة مستقلة عن غيرها، ولكل منها سجلاتها الخاصة؛ ومساحة العمل — تحتفظ مساحات العمل الخاصة بخطوط الأعمال والمشاريع المختلفة ضمن المؤسسة الواحدة ببيانات العمل وسياقاتها الخاصة؛ والحساب — فكثيرًا ما يدير الشخص نفسه شركات متعددة، لذا يجب عند التبديل بينها ضمان بقاء «الشخص داخل الحدود»، لا تكديس جميع البيانات في مستودع واحد كبير. يمكن أن تكون القدرات عامة، لكن يجب أن تظل الحقائق خاصة بكل جهة.
وللأمر سوابق في القطاع: ففي مارس 2023، كشفت OpenAI عن حادثة في ChatGPT، إذ أدى خلل في مكتبة برمجية للعميل إلى ظهور عناوين محادثات بعض المستخدمين، بل وحتى بعض معلومات الدفع، على واجهات مستخدمين آخرين لفترة من الوقت؛ وفي أبريل 2023، أفادت عدة وسائل إعلام بأن شركة Samsung شددت ضوابط الاستخدام بعدما ألصق موظفون شيفرة داخلية في أدوات ذكاء اصطناعي خارجية. إذا أُضيفت حدود المستأجرين بعد وقوع الأمر، فسيظل الخطر قائمًا.
قبل تقييم أي نظام، اطرح هذا السؤال أولًا: وفق أي أبعاد يعزل البيانات؟ إذا كان العزل قائمًا على الحسابات فقط، فستبدأ الحدود بالتلاشي ما إن يدير الشخص نفسه شركات متعددة.
هذا لا يشكل نصيحة استثمارية.