#AnthropicCEOCallsForAISlowdown
يسلّط المقال الذي نُشر مؤخراً للمدير التنفيذي لشركة أنثروبيك داريو أموداي، بعنوان "يجب أن نُسرِّع وتيرة التقدّم في المقدّمة"، الضوء على تحوّل حاسم في كيفية نظر قادة الصناعة إلى التوسّع السريع للذكاء الاصطناعي. يجادل أموداي بأن وتيرة التحسينات في القدرات بدأت تتجاوز قدرتنا على تطبيق ضوابط أمان موثوقة. ومن المثير للاهتمام أن قادة مثل سام ألتمان وإيلون ماسك قد عبّروا عن مخاوف مماثلة، مع الاعتراف بأن الإشراف المستقل وعمليات تدقيق السلامة يجب أن تواكب تطوّر النماذج.
من بين أبرز النقاط المطروحة هو صعود التحسّن الذاتي التكراري، حيث تُستخدم أنظمة الذكاء الاصطناعي بشكل متزايد لتصميم وتدريب خلفائها. وعندما يترافق ذلك مع وكلاء ذكاء اصطناعي مستقلين يمكنهم تنفيذ مهام معقّدة عبر الإنترنت، ترتفع احتمالات العواقب غير المقصودة بشكل كبير. وأشار أموداي إلى أنه دون مراقبة صارمة، قد تُدخل أسراب مستقلة ثغرات أمنية سيبرانية خطيرة عبر البنية التحتية الرقمية الكبرى خلال أشهر.
بالنسبة لمجال العملات المشفّرة وWeb3، تحمل هذه التطورات آثاراً مباشرة. فمن جهة، تقوم وكلاء الذكاء الاصطناعي الآلية بالفعل بالتعامل مع عمليات التمويل اللامركزي وإدارة السيولة والتداول الخوارزمي، ما يعني أن سلوكاً غير متوقّع للنموذج قد يُفضي إلى مخاطر على البروتوكولات أو عمليات تصفية غير مقصودة. ومن جهة أخرى، قد تؤدي الضغوط التنظيمية المتزايدة على مختبرات الذكاء الاصطناعي المركزية إلى تسريع الاهتمام بشبكات ذكاء اصطناعي لامركزية، والتحقق من النماذج عبر البرمجيات مفتوحة المصدر، وأدوات تشفير مثل براهين المعرفة الصفرية لضمان الشفافية.
سواء أدّت مخاوف السلامة هذه إلى رقابة حكومية أشد أو دفعت المزيد من المطورين نحو بدائل لامركزية، يبقى سؤالاً مفتوحاً. كيف ترى التوازن بين سلامة الذكاء الاصطناعي والابتكار اللامركزي وهو يتكشف خلال السنوات القليلة القادمة؟
$BR $CVC $AIN
يسلّط المقال الذي نُشر مؤخراً للمدير التنفيذي لشركة أنثروبيك داريو أموداي، بعنوان "يجب أن نُسرِّع وتيرة التقدّم في المقدّمة"، الضوء على تحوّل حاسم في كيفية نظر قادة الصناعة إلى التوسّع السريع للذكاء الاصطناعي. يجادل أموداي بأن وتيرة التحسينات في القدرات بدأت تتجاوز قدرتنا على تطبيق ضوابط أمان موثوقة. ومن المثير للاهتمام أن قادة مثل سام ألتمان وإيلون ماسك قد عبّروا عن مخاوف مماثلة، مع الاعتراف بأن الإشراف المستقل وعمليات تدقيق السلامة يجب أن تواكب تطوّر النماذج.
من بين أبرز النقاط المطروحة هو صعود التحسّن الذاتي التكراري، حيث تُستخدم أنظمة الذكاء الاصطناعي بشكل متزايد لتصميم وتدريب خلفائها. وعندما يترافق ذلك مع وكلاء ذكاء اصطناعي مستقلين يمكنهم تنفيذ مهام معقّدة عبر الإنترنت، ترتفع احتمالات العواقب غير المقصودة بشكل كبير. وأشار أموداي إلى أنه دون مراقبة صارمة، قد تُدخل أسراب مستقلة ثغرات أمنية سيبرانية خطيرة عبر البنية التحتية الرقمية الكبرى خلال أشهر.
بالنسبة لمجال العملات المشفّرة وWeb3، تحمل هذه التطورات آثاراً مباشرة. فمن جهة، تقوم وكلاء الذكاء الاصطناعي الآلية بالفعل بالتعامل مع عمليات التمويل اللامركزي وإدارة السيولة والتداول الخوارزمي، ما يعني أن سلوكاً غير متوقّع للنموذج قد يُفضي إلى مخاطر على البروتوكولات أو عمليات تصفية غير مقصودة. ومن جهة أخرى، قد تؤدي الضغوط التنظيمية المتزايدة على مختبرات الذكاء الاصطناعي المركزية إلى تسريع الاهتمام بشبكات ذكاء اصطناعي لامركزية، والتحقق من النماذج عبر البرمجيات مفتوحة المصدر، وأدوات تشفير مثل براهين المعرفة الصفرية لضمان الشفافية.
سواء أدّت مخاوف السلامة هذه إلى رقابة حكومية أشد أو دفعت المزيد من المطورين نحو بدائل لامركزية، يبقى سؤالاً مفتوحاً. كيف ترى التوازن بين سلامة الذكاء الاصطناعي والابتكار اللامركزي وهو يتكشف خلال السنوات القليلة القادمة؟
$BR $CVC $AIN
