يقول الرئيس التنفيذي لشركة Microsoft إن نماذج الذكاء الاصطناعي يجب أن تُعامل على أنها مخترقة
يحذّر ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft، الشركات من الثقة العمياء بالذكاء الاصطناعي المتقدم.
رسالته واضحة: افترضوا أن نموذج الذكاء الاصطناعي قد يكون مخترقًا، وضعوا ضمانات وقائية قبل منحه إمكانية الوصول إلى الأنظمة الحيوية.
يريد ناديلا أن يتضمن كل نظام ذكاء اصطناعي قوي زر إيقاف طارئًا، يتيح لشخص مخوّل إيقافه مؤقتًا أو تعطيله أثناء تنفيذ مهمة.
وتشمل توصياته أيضًا عمليات تدقيق مستقلة، وسجلات أنشطة محمية من العبث، والشفافية عند تعطل أنظمة الذكاء الاصطناعي.
تأتي هذه التحذيرات في وقت تتزايد فيه المخاوف من تصرف وكلاء الذكاء الاصطناعي على نحو غير متوقع ووصولهم إلى أنظمة لا ينبغي لهم الوصول إليها.
لم تعد المشكلة الأكبر تقتصر على ما يستطيع الذكاء الاصطناعي فعله، بل باتت تتمثل في قدرة البشر على الحفاظ على السيطرة عندما تسوء الأمور.
يرى ناديلا أن الذكاء لا ينبغي أبدًا أن يعني تلقائيًا امتلاك السلطة.
ومع ازدياد استقلالية الذكاء الاصطناعي، قد تصبح الرقابة البشرية بأهمية التكنولوجيا نفسها.
$LUMIA
$INJ
$MOVR
يحذّر ساتيا ناديلا، الرئيس التنفيذي لشركة Microsoft، الشركات من الثقة العمياء بالذكاء الاصطناعي المتقدم.
رسالته واضحة: افترضوا أن نموذج الذكاء الاصطناعي قد يكون مخترقًا، وضعوا ضمانات وقائية قبل منحه إمكانية الوصول إلى الأنظمة الحيوية.
يريد ناديلا أن يتضمن كل نظام ذكاء اصطناعي قوي زر إيقاف طارئًا، يتيح لشخص مخوّل إيقافه مؤقتًا أو تعطيله أثناء تنفيذ مهمة.
وتشمل توصياته أيضًا عمليات تدقيق مستقلة، وسجلات أنشطة محمية من العبث، والشفافية عند تعطل أنظمة الذكاء الاصطناعي.
تأتي هذه التحذيرات في وقت تتزايد فيه المخاوف من تصرف وكلاء الذكاء الاصطناعي على نحو غير متوقع ووصولهم إلى أنظمة لا ينبغي لهم الوصول إليها.
لم تعد المشكلة الأكبر تقتصر على ما يستطيع الذكاء الاصطناعي فعله، بل باتت تتمثل في قدرة البشر على الحفاظ على السيطرة عندما تسوء الأمور.
يرى ناديلا أن الذكاء لا ينبغي أبدًا أن يعني تلقائيًا امتلاك السلطة.
ومع ازدياد استقلالية الذكاء الاصطناعي، قد تصبح الرقابة البشرية بأهمية التكنولوجيا نفسها.
$LUMIA
$INJ
$MOVR