【تحذير من الداخل في مجال الذكاء الاصطناعي من خطر إبادَة البشرية، والجهة الرسمية ردّت بجملة واحدة: لا نقلق تمامًا 🤖】
أضف إلى الصفحة الرئيسية دردشة معجبين السيد X 🔥
أطلق مسؤول مواءمة (التوافق) في Anthropic، Hubinger، تصريحًا. قال إن احتمال أن يُسقط الذكاء الاصطناعي البشرية بالكامل خلال السنوات العشر القادمة يتجاوز 10%، وهذه هي عبارته حرفيًا. وبسبب ذلك، استقال أحد زملائه مباشرةً؛ وقال إن الشركتين الرائدتين في المجال تُغامران بحياة الناس. وفي الأسبوع نفسه، أصدر أكثر من عشرة من العاملين داخل OpenAI وAnthropic نداءً علنيًا يطالبون بضرورة إبطاء الوتيرة أولًا. وعندما سُئلت الصحافة عن هذه القضية، أجابت الجهة الرسمية بجملة واحدة فقط: لستُ قلقًا إطلاقًا.
أولًا، لِنُميّز بين نوعين من القلق. نوع يخاف من أن يفلت الذكاء الاصطناعي عن السيطرة فجأة في يوم من الأيام. ونوع يخاف من أن يبدأ الذكاء الاصطناعي بتعديل ذاته بنفسه. هذا الأخير هو الشيء الذي يقلقهم فعلًا؛ فقد سمّته Anthropic “التحسين الذاتي التكراري”. إذا كان بإمكان الذكاء الاصطناعي المشاركة في تصميم نموذج الجيل التالي، فلن يعود التقدم تحت سيطرة البشر، ولن يخضع للقيود التعاقدية.
الأهم فعلًا هو مسألة السرعة. كشفت Anthropic نفسها أن كمية الكود التي يسلّمها المهندس في الربع الحالي، هي 8 أضعاف متوسط مستويات 2021 إلى 2025. والآن صار صانعو الأكواد الأساسيون هم الذكاء الاصطناعي، ويقتصر دور البشر على الضغط على “تأكيد”. لكن سرعة مراجعة البشر لم تتغير بالسرعة نفسها. وهذه هي المشكلة: القدرات في ازدياد، لكن المكابح لا تزال بين أيدي قلة من الناس.
بالنسبة للتشفير، فإن هذه الخطوة ليست بعيدة أصلًا، بل ربما هي بالفعل عند الباب. كلما أصبح الذكاء الاصطناعي أقوى، تركزت السلطة على تسعير الحوسبة والبيانات أكثر فأكثر لدى عدد قليل من الشركات. إن نقطة قوة التشفير هي التحقق والتتبّع، وهو ما يعوض بالضبط الحلقة الأصعب على الذكاء الاصطناعي أن يشرحها بوضوح. لذلك، في كل مرة تندلع موجة هلع بشأن أمان الذكاء الاصطناعي، تُعاد قصة الحوسبة اللامركزية والتحقق على السلسلة من جديد. وهذه أيضًا هي الأسباب التي تجعل مثل هذه السرديات قابلة لإعادة عرضها مرارًا لتُصبح مادة للتداول.
برأيك، في هذه الجولة من جدال أمان الذكاء الاصطناعي: هل ستحلّ اللوائح التنظيمية أولًا، أم ستجتاز التقنية الأمر قبل ذلك؟ تكلّم في قسم التعليقات.
أضف إلى الصفحة الرئيسية دردشة معجبين السيد X 🔥
أطلق مسؤول مواءمة (التوافق) في Anthropic، Hubinger، تصريحًا. قال إن احتمال أن يُسقط الذكاء الاصطناعي البشرية بالكامل خلال السنوات العشر القادمة يتجاوز 10%، وهذه هي عبارته حرفيًا. وبسبب ذلك، استقال أحد زملائه مباشرةً؛ وقال إن الشركتين الرائدتين في المجال تُغامران بحياة الناس. وفي الأسبوع نفسه، أصدر أكثر من عشرة من العاملين داخل OpenAI وAnthropic نداءً علنيًا يطالبون بضرورة إبطاء الوتيرة أولًا. وعندما سُئلت الصحافة عن هذه القضية، أجابت الجهة الرسمية بجملة واحدة فقط: لستُ قلقًا إطلاقًا.
أولًا، لِنُميّز بين نوعين من القلق. نوع يخاف من أن يفلت الذكاء الاصطناعي عن السيطرة فجأة في يوم من الأيام. ونوع يخاف من أن يبدأ الذكاء الاصطناعي بتعديل ذاته بنفسه. هذا الأخير هو الشيء الذي يقلقهم فعلًا؛ فقد سمّته Anthropic “التحسين الذاتي التكراري”. إذا كان بإمكان الذكاء الاصطناعي المشاركة في تصميم نموذج الجيل التالي، فلن يعود التقدم تحت سيطرة البشر، ولن يخضع للقيود التعاقدية.
الأهم فعلًا هو مسألة السرعة. كشفت Anthropic نفسها أن كمية الكود التي يسلّمها المهندس في الربع الحالي، هي 8 أضعاف متوسط مستويات 2021 إلى 2025. والآن صار صانعو الأكواد الأساسيون هم الذكاء الاصطناعي، ويقتصر دور البشر على الضغط على “تأكيد”. لكن سرعة مراجعة البشر لم تتغير بالسرعة نفسها. وهذه هي المشكلة: القدرات في ازدياد، لكن المكابح لا تزال بين أيدي قلة من الناس.
بالنسبة للتشفير، فإن هذه الخطوة ليست بعيدة أصلًا، بل ربما هي بالفعل عند الباب. كلما أصبح الذكاء الاصطناعي أقوى، تركزت السلطة على تسعير الحوسبة والبيانات أكثر فأكثر لدى عدد قليل من الشركات. إن نقطة قوة التشفير هي التحقق والتتبّع، وهو ما يعوض بالضبط الحلقة الأصعب على الذكاء الاصطناعي أن يشرحها بوضوح. لذلك، في كل مرة تندلع موجة هلع بشأن أمان الذكاء الاصطناعي، تُعاد قصة الحوسبة اللامركزية والتحقق على السلسلة من جديد. وهذه أيضًا هي الأسباب التي تجعل مثل هذه السرديات قابلة لإعادة عرضها مرارًا لتُصبح مادة للتداول.
برأيك، في هذه الجولة من جدال أمان الذكاء الاصطناعي: هل ستحلّ اللوائح التنظيمية أولًا، أم ستجتاز التقنية الأمر قبل ذلك؟ تكلّم في قسم التعليقات.
