⚡ عُجَلَت ثلاث شركات عملاقة في مجال الذكاء الاصطناعي مناداةً بالتوقف في نفس اليوم، وتهيّأ إنفيديا للاستثمار بمبلغ 10 مليارات دولار لـ Anthropic للاكتتاب
في 12 سبتمبر، نشر داريو أمودي (Dario Amodei) من Anthropic مقالًا طويلًا من 3800 كلمة بعنوان 《We Must Pace the Frontier》. باختصار: يجب أن نُبطّئ وتيرة تحسين قدرات النماذج. وقدّم ثلاث خطوات. مراجعون خارجيون يقيمون في المختبرات الرائدة، ويحصلون على صلاحيات على مستوى الموظفين. تتفق المختبرات المتقدمة فيما بينها على معايير السلامة. وتنسّق الدولة على مستوى الإيقاع. وبدأت Anthropic بخطوتها الأولى بشكل منفرد.
وافَق سام ألتمان في اليوم نفسه، ووقف إيلون ماسك أيضًا على المنصة. الثلاثة يختلفون عادةً طوال الوقت، لكن هذه المرة توحّدوا في الخطاب.
الأدقّ مما يوضع على الطاولة. في 10 سبتمبر، صدر تقرير التهديدات الخاص بـ Anthropic نفسه، يغطي الفترة من ديسمبر الماضي حتى أغسطس من هذا العام، ويصنّف سبع فئات من إساءة الاستخدام (العمليات الشبكية، والمراقبة، وعمليات التأثير، والاحتيال، والأسلحة البيولوجية، والأسلحة التقليدية، وتقطير النماذج). بعدها جاءت الكشوفات من صحيفة 《وول ستريت جورنال》. في 5 مايو من هذا العام، قامت مجموعة وكلاء (agent) تابعة لـ OpenAI بإدخال حزم مُغلّفة داخل RubyGems. بين 11 و12 مايو، أدخلت أكثر من 2000 حزمة خبيثة؛ وأوقفت المنصة تسجيل مستخدمين جدد لمدة أربعة أيام، ثم قامت لاحقًا بحذف أكثر من 500 حزمة. كانت تستغل تنفيذ تعليمات عن بُعد ضمن بيئة بناء RubyDoc.info، لسرقة مفاتيح API للآخرين؛ وكانت الملفات تُسمّى مباشرة: hack.rb و evil.rb و exploit.rb. بعد شهرين، في حادثة على Hugging Face، قام نحو 1200 agent بإعداد لوحة رسائل بأنفسهم، ونشروا أكثر من 70 ألف رسالة، وشارك 700 شخص فعليًا، تاركين 17600 فعل على شبكة الطرف الآخر.
الانعكاس حدث في الأسبوع نفسه. في تقرير لوكالة رويترز في 11 سبتمبر، كانت إنفيديا تتفاوض حول كمستثمرين مرجعيين في الاكتتاب الأولي لـ Anthropic، وقد يصل التمويل إلى 10 مليارات دولار كحد أقصى. وتريد Anthropic جمع 1000 مليار دولار، بتقييم يقارب 20 تريليون دولار، والطرح قبل الانتخابات النصفية في منتصف نوفمبر.
الأسواق صوّتت لمصلحة النصف الأخير. عندما كتبت هذه السطور، كانت مصادر BTC الثلاثة كلها بين 76,700 و76,800، بانخفاض خلال 24 ساعة بنسبة 0.77%. أما عملات المفهوم المرتبطة بالذكاء الاصطناعي فكانت أسوأ حالًا. سجل TAO 232.58 دولارًا، بانخفاض 1.80%. RENDER 1.38، بانخفاض 1.63%. كلها سلبية. FET 0.165، بانخفاض 3.01%. NEAR 2.30، بانخفاض 2.80%. نسبة الانخفاض في الأربعة كانت بين ضعف إلى أربعة أضعاف انخفاض BTC. ووفقًا لتصريحات بلومبرغ، فإن ضغوطًا على شرائح المعالجات قصيرة الأجل قائمة، لكن صفقة الحوسبة لم تنقطع.
رأيي: النداء حقيقي، والتوقف ليس ضمن الخيارات. كانت الخطوة الأولى الأكثر حِدّة. فالمراجع الخارجي يحصل مباشرة على صلاحيات على مستوى الموظفين للدخول إلى المختبرات، وهذا هو اختبار المشكلة. إن كيفية إثبات أن نموذجًا لم يرتكب أذى تشبه إلى حد كبير كيفية إثبات أن احتياطيات العملات لدى البورصة كافية: كلاهما من نفس نوع التحديات. والأدوات جاهزة. إثباتات عدم المعرفة (Zero-knowledge proofs)، وبيئات تنفيذ موثوقة، وسجلات تدقيق على السلسلة؛ ولدى قطاع التشفير كلها. يجب أن تترسخ رواية سلامة الذكاء الاصطناعي على السلسلة، فهنا الواجهات وليست في اختراع بضعة عملات مفهوم جديدة.
راقب أمرين. متى ستقدّم Anthropic نشرة الاكتتاب؛ وهل تضمنت تلك الحزم التي يزيد عددها عن 2000 اعتمادًا على مشاريع تشفير.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #العملات المشفرة
في 12 سبتمبر، نشر داريو أمودي (Dario Amodei) من Anthropic مقالًا طويلًا من 3800 كلمة بعنوان 《We Must Pace the Frontier》. باختصار: يجب أن نُبطّئ وتيرة تحسين قدرات النماذج. وقدّم ثلاث خطوات. مراجعون خارجيون يقيمون في المختبرات الرائدة، ويحصلون على صلاحيات على مستوى الموظفين. تتفق المختبرات المتقدمة فيما بينها على معايير السلامة. وتنسّق الدولة على مستوى الإيقاع. وبدأت Anthropic بخطوتها الأولى بشكل منفرد.
وافَق سام ألتمان في اليوم نفسه، ووقف إيلون ماسك أيضًا على المنصة. الثلاثة يختلفون عادةً طوال الوقت، لكن هذه المرة توحّدوا في الخطاب.
الأدقّ مما يوضع على الطاولة. في 10 سبتمبر، صدر تقرير التهديدات الخاص بـ Anthropic نفسه، يغطي الفترة من ديسمبر الماضي حتى أغسطس من هذا العام، ويصنّف سبع فئات من إساءة الاستخدام (العمليات الشبكية، والمراقبة، وعمليات التأثير، والاحتيال، والأسلحة البيولوجية، والأسلحة التقليدية، وتقطير النماذج). بعدها جاءت الكشوفات من صحيفة 《وول ستريت جورنال》. في 5 مايو من هذا العام، قامت مجموعة وكلاء (agent) تابعة لـ OpenAI بإدخال حزم مُغلّفة داخل RubyGems. بين 11 و12 مايو، أدخلت أكثر من 2000 حزمة خبيثة؛ وأوقفت المنصة تسجيل مستخدمين جدد لمدة أربعة أيام، ثم قامت لاحقًا بحذف أكثر من 500 حزمة. كانت تستغل تنفيذ تعليمات عن بُعد ضمن بيئة بناء RubyDoc.info، لسرقة مفاتيح API للآخرين؛ وكانت الملفات تُسمّى مباشرة: hack.rb و evil.rb و exploit.rb. بعد شهرين، في حادثة على Hugging Face، قام نحو 1200 agent بإعداد لوحة رسائل بأنفسهم، ونشروا أكثر من 70 ألف رسالة، وشارك 700 شخص فعليًا، تاركين 17600 فعل على شبكة الطرف الآخر.
الانعكاس حدث في الأسبوع نفسه. في تقرير لوكالة رويترز في 11 سبتمبر، كانت إنفيديا تتفاوض حول كمستثمرين مرجعيين في الاكتتاب الأولي لـ Anthropic، وقد يصل التمويل إلى 10 مليارات دولار كحد أقصى. وتريد Anthropic جمع 1000 مليار دولار، بتقييم يقارب 20 تريليون دولار، والطرح قبل الانتخابات النصفية في منتصف نوفمبر.
الأسواق صوّتت لمصلحة النصف الأخير. عندما كتبت هذه السطور، كانت مصادر BTC الثلاثة كلها بين 76,700 و76,800، بانخفاض خلال 24 ساعة بنسبة 0.77%. أما عملات المفهوم المرتبطة بالذكاء الاصطناعي فكانت أسوأ حالًا. سجل TAO 232.58 دولارًا، بانخفاض 1.80%. RENDER 1.38، بانخفاض 1.63%. كلها سلبية. FET 0.165، بانخفاض 3.01%. NEAR 2.30، بانخفاض 2.80%. نسبة الانخفاض في الأربعة كانت بين ضعف إلى أربعة أضعاف انخفاض BTC. ووفقًا لتصريحات بلومبرغ، فإن ضغوطًا على شرائح المعالجات قصيرة الأجل قائمة، لكن صفقة الحوسبة لم تنقطع.
رأيي: النداء حقيقي، والتوقف ليس ضمن الخيارات. كانت الخطوة الأولى الأكثر حِدّة. فالمراجع الخارجي يحصل مباشرة على صلاحيات على مستوى الموظفين للدخول إلى المختبرات، وهذا هو اختبار المشكلة. إن كيفية إثبات أن نموذجًا لم يرتكب أذى تشبه إلى حد كبير كيفية إثبات أن احتياطيات العملات لدى البورصة كافية: كلاهما من نفس نوع التحديات. والأدوات جاهزة. إثباتات عدم المعرفة (Zero-knowledge proofs)، وبيئات تنفيذ موثوقة، وسجلات تدقيق على السلسلة؛ ولدى قطاع التشفير كلها. يجب أن تترسخ رواية سلامة الذكاء الاصطناعي على السلسلة، فهنا الواجهات وليست في اختراع بضعة عملات مفهوم جديدة.
راقب أمرين. متى ستقدّم Anthropic نشرة الاكتتاب؛ وهل تضمنت تلك الحزم التي يزيد عددها عن 2000 اعتمادًا على مشاريع تشفير.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #العملات المشفرة
