يدعو الرئيس التنفيذي لشركة أنثروبيك إلى إبطاء تطوير الذكاء الاصطناعي: يجب أن نُمهِل إيقاع «الجبهة الأمامية»
يبدو عالم التكنولوجيا على موعد مع ضجة واسعة عقب مقالٍ بارز للرئيس التنفيذي لشركة أنثروبيك داريو أموداي، بعنوان "We Must Pace the Frontier"، حيث يحثّ صناعة الذكاء الاصطناعي على إبطاء وتيرة تطوير النماذج المتقدمة عمدًا.
وبدلًا من الدعوة إلى إيقافٍ دائم للابتكار، تعرض الورقة إطارًا عمليًا يسمح لآليات السلامة والحوكمة باللحاق بالقدرات التي تتسارع بسرعة:
التقييم عبر طرف ثالث: منح المراجعين المستقلين الخارجيين صلاحيات على مستوى الموظفين لإجراء تدقيق على النماذج القوية أثناء التدريب.
معايير سلامة منسّقة: وضع معايير تنظيمية صارمة مشتركة بين الدول الديمقراطية لتفادي «سباق إلى القاع» خطِر.
تعاون جيوسياسي عالمي: إنشاء ضمانات دولية أولية ومنع استخدام الذكاء الاصطناعي في تطوير الأسلحة البيولوجية أو في اتخاذ إجراءات ذاتية غير مصرح بها.
لماذا هذا مهم الآن
سلّط أموداي الضوء على مخاوف متزايدة من أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، إضافةً إلى مخاطر محتملة تتعلق بجرَيات (سُربات) وكلاء ذاتيين. وقد حظت دعوة الحذر بالفعل باهتمام معتبر داخل الصناعة، حيث عبّر قادة مثل سام ألتمان من OpenAI وإيلون ماسك من xAI عن دعمهم لتدابير السلامة المنسّقة.
ومع انتقال النقاش من مجرد تسارعٍ محض إلى منافسة مسؤولة، قد تميل مستقبل التكنولوجيا والأصول الرقمية—بما في ذلك البنية التحتية للذكاء الاصطناعي اللامركزية—بشكل متزايد لصالح من يوازن بين القوة الخام والتحكم الصارم.#anthropicceocallsforaislowdown
يبدو عالم التكنولوجيا على موعد مع ضجة واسعة عقب مقالٍ بارز للرئيس التنفيذي لشركة أنثروبيك داريو أموداي، بعنوان "We Must Pace the Frontier"، حيث يحثّ صناعة الذكاء الاصطناعي على إبطاء وتيرة تطوير النماذج المتقدمة عمدًا.
وبدلًا من الدعوة إلى إيقافٍ دائم للابتكار، تعرض الورقة إطارًا عمليًا يسمح لآليات السلامة والحوكمة باللحاق بالقدرات التي تتسارع بسرعة:
التقييم عبر طرف ثالث: منح المراجعين المستقلين الخارجيين صلاحيات على مستوى الموظفين لإجراء تدقيق على النماذج القوية أثناء التدريب.
معايير سلامة منسّقة: وضع معايير تنظيمية صارمة مشتركة بين الدول الديمقراطية لتفادي «سباق إلى القاع» خطِر.
تعاون جيوسياسي عالمي: إنشاء ضمانات دولية أولية ومنع استخدام الذكاء الاصطناعي في تطوير الأسلحة البيولوجية أو في اتخاذ إجراءات ذاتية غير مصرح بها.
لماذا هذا مهم الآن
سلّط أموداي الضوء على مخاوف متزايدة من أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، إضافةً إلى مخاطر محتملة تتعلق بجرَيات (سُربات) وكلاء ذاتيين. وقد حظت دعوة الحذر بالفعل باهتمام معتبر داخل الصناعة، حيث عبّر قادة مثل سام ألتمان من OpenAI وإيلون ماسك من xAI عن دعمهم لتدابير السلامة المنسّقة.
ومع انتقال النقاش من مجرد تسارعٍ محض إلى منافسة مسؤولة، قد تميل مستقبل التكنولوجيا والأصول الرقمية—بما في ذلك البنية التحتية للذكاء الاصطناعي اللامركزية—بشكل متزايد لصالح من يوازن بين القوة الخام والتحكم الصارم.#anthropicceocallsforaislowdown
