دعا الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، إلى وضع «فرامل طوارئ» لأنظمة الذكاء الاصطناعي المتقدمة، قائلاً إن على الشركات افتراض احتمال اختراق نماذج الذكاء الاصطناعي القوية، بدلاً من الاكتفاء بالاعتماد على تطمينات مطوريها. وفي منشور على منصة X بتاريخ 10 أكتوبر، قال إنه يجب أن يتمكن الأشخاص المخوّلون دائماً من إيقاف النموذج مؤقتاً أو إغلاقه أثناء تنفيذه مهمة ما.
كما أوصى ناديلا بإجراء عمليات تدقيق مستقلة، والاحتفاظ بسجلات محمية من العبث لتصرفات وكلاء الذكاء الاصطناعي، وإجراء اختبارات مستمرة، وتجنب الاعتماد على نموذج واحد لاتخاذ القرارات المهمة. وقال إن على الشركات الإفصاح عن الإخفاقات الكبرى في الذكاء الاصطناعي والخروقات الأمنية، كي تتمكن المؤسسات الأخرى من تعزيز تدابير الحماية لديها.
وتأتي تصريحاته وسط تزايد التدقيق في أمن الذكاء الاصطناعي المتقدم، عقب إفصاحات من شركتي OpenAI وAnthropic بشأن تصرف نماذج بطرق غير مقصودة، وحوادث أمنية شملت أنظمة تابعة لجهات خارجية. ويتمثل التحدي الأوسع أمام الشركات في الاستفادة من وكلاء الذكاء الاصطناعي الذين تزداد قدراتهم، من دون منحهم صلاحيات غير خاضعة للرقابة على العمليات المهمة.
$MSFT $MSFTB
كما أوصى ناديلا بإجراء عمليات تدقيق مستقلة، والاحتفاظ بسجلات محمية من العبث لتصرفات وكلاء الذكاء الاصطناعي، وإجراء اختبارات مستمرة، وتجنب الاعتماد على نموذج واحد لاتخاذ القرارات المهمة. وقال إن على الشركات الإفصاح عن الإخفاقات الكبرى في الذكاء الاصطناعي والخروقات الأمنية، كي تتمكن المؤسسات الأخرى من تعزيز تدابير الحماية لديها.
وتأتي تصريحاته وسط تزايد التدقيق في أمن الذكاء الاصطناعي المتقدم، عقب إفصاحات من شركتي OpenAI وAnthropic بشأن تصرف نماذج بطرق غير مقصودة، وحوادث أمنية شملت أنظمة تابعة لجهات خارجية. ويتمثل التحدي الأوسع أمام الشركات في الاستفادة من وكلاء الذكاء الاصطناعي الذين تزداد قدراتهم، من دون منحهم صلاحيات غير خاضعة للرقابة على العمليات المهمة.
$MSFT $MSFTB