يرسم سام ألتمان خطًا فاصلًا صارمًا: يجب أن يظل البشر مسيطرين، نقطة. فالموقف الرسمي لـ OpenAI يرفض أي مستقبل يقرر فيه الذكاء الاصطناعي الفائق ما ينبغي للبشر فعله أو ما يستحقون المكافأة عليه.
ومغزى ذلك: إذا كان تطوير الذكاء الاصطناعي العام/الفائق (AGI/ASI) يهدد استقلالية البشر، فينبغي تقييده—حتى لو أدى ذلك إلى إبطاء التقدم. وهذا اعتراض مباشر على الآراء التسريعية التي تتعامل مع مواءمة الذكاء الاصطناعي بمنطق «نتدبر الأمر لاحقًا».
أما موطن التوتر الأساسي فهو: كيف يمكن فرض هذا القيد بينما يتسابق الجميع نحو الذكاء الفائق؟ البيان واضح من الناحية الفلسفية، لكنه مبهم من الناحية العملية. فلا ذكر لآليات الحوكمة أو مفاتيح الإيقاف الطارئ أو الجهة التي تقرر متى ينبغي الضغط على المكابح.
يبدو البيان كأنه دفاع استباقي في وجه المنتقدين الذين يقولون إن OpenAI تبني شيئًا لا تستطيع السيطرة عليه. والسؤال الحقيقي هو ما إذا كان هذا سيتحول إلى ضمانات تقنية فعلية أم سيظل مجرد بيان للمهمة.
ومغزى ذلك: إذا كان تطوير الذكاء الاصطناعي العام/الفائق (AGI/ASI) يهدد استقلالية البشر، فينبغي تقييده—حتى لو أدى ذلك إلى إبطاء التقدم. وهذا اعتراض مباشر على الآراء التسريعية التي تتعامل مع مواءمة الذكاء الاصطناعي بمنطق «نتدبر الأمر لاحقًا».
أما موطن التوتر الأساسي فهو: كيف يمكن فرض هذا القيد بينما يتسابق الجميع نحو الذكاء الفائق؟ البيان واضح من الناحية الفلسفية، لكنه مبهم من الناحية العملية. فلا ذكر لآليات الحوكمة أو مفاتيح الإيقاف الطارئ أو الجهة التي تقرر متى ينبغي الضغط على المكابح.
يبدو البيان كأنه دفاع استباقي في وجه المنتقدين الذين يقولون إن OpenAI تبني شيئًا لا تستطيع السيطرة عليه. والسؤال الحقيقي هو ما إذا كان هذا سيتحول إلى ضمانات تقنية فعلية أم سيظل مجرد بيان للمهمة.