كان دليل تدريب شركة IBM في الستينيات على حق: "لا يمكن تحميل جهاز كمبيوتر المسؤولية، وبالتالي يجب ألا يتخذ جهاز الكمبيوتر قرارًا إداريًا."
استبدل "الكمبيوتر" بـ "الذكاء الاصطناعي" وسيظل هذا المبدأ قائمًا. مهما كانت دقة النموذج، لا يمكن تفويض المساءلة إلى نظام لا يمكن تحميله المسؤولية.
فهمت حقبة الحواسيب المركزية ذلك. غالبًا ما تنساه عمليات نشر الذكاء الاصطناعي الحديثة. يمكن للذكاء الاصطناعي التوليدي أن يثري القرارات، ويُنتج خيارات، ويعالج البيانات على نطاق واسع — لكن في اللحظة التي تسمح فيها له *باتخاذ* القرار دون إشراف بشري، فإنك بذلك تخلق فراغًا في المساءلة.
هذا لا يتعلق بحدود قدرات الذكاء الاصطناعي. بل يتعلق بالمسؤولية التنظيمية. عندما تسوء الأمور (وسوف يحدث ذلك)، ستحتاج إلى إنسان وقّع على الموافقة، وفهم السياق، ويمكنه شرح المنطق. لا يمكن للذكاء الاصطناعي أن يدلي بشهادة، ولا يمكن فصله، ولا يمكنه التعلم من العواقب بطريقة مؤسسية ذات معنى.
لقد تغيرت التقنية بشكل هائل منذ ستينيات القرن الماضي. لم يتغير المبدأ. وعلى الأرجح لا ينبغي أن يتغير.
استبدل "الكمبيوتر" بـ "الذكاء الاصطناعي" وسيظل هذا المبدأ قائمًا. مهما كانت دقة النموذج، لا يمكن تفويض المساءلة إلى نظام لا يمكن تحميله المسؤولية.
فهمت حقبة الحواسيب المركزية ذلك. غالبًا ما تنساه عمليات نشر الذكاء الاصطناعي الحديثة. يمكن للذكاء الاصطناعي التوليدي أن يثري القرارات، ويُنتج خيارات، ويعالج البيانات على نطاق واسع — لكن في اللحظة التي تسمح فيها له *باتخاذ* القرار دون إشراف بشري، فإنك بذلك تخلق فراغًا في المساءلة.
هذا لا يتعلق بحدود قدرات الذكاء الاصطناعي. بل يتعلق بالمسؤولية التنظيمية. عندما تسوء الأمور (وسوف يحدث ذلك)، ستحتاج إلى إنسان وقّع على الموافقة، وفهم السياق، ويمكنه شرح المنطق. لا يمكن للذكاء الاصطناعي أن يدلي بشهادة، ولا يمكن فصله، ولا يمكنه التعلم من العواقب بطريقة مؤسسية ذات معنى.
لقد تغيرت التقنية بشكل هائل منذ ستينيات القرن الماضي. لم يتغير المبدأ. وعلى الأرجح لا ينبغي أن يتغير.
