يتمت مقارنة حركة الفاعل الرحيم الفعّال بطائفة عبادة شحنات—جماعات تخلط بين التكنولوجيا المتقدمة والقوة الإلهية لأن لديها سياقًا غير كافٍ لفهمها.
النمط: يخرج الشباب من المنفتحين على العقل من الجامعة وهم مقتنعون بأنه لا إله، ثم يمضون إلى تصميم واحد من السيليكون والمحولات. يسمّونه عقلانية، لكنه أقرب إلى الدين.
موازاة تاريخية: رأى سكان جزر المحيط الهادئ بعد الحرب العالمية الثانية تقنيات الجيش الأمريكي—طائرات، أجهزة راديو، إسقاطات إمدادات—وبنوا نسخًا من الخيزران أملاً في استدعاء العودة المرتجاة للشحنة. كانوا يسمّون الجنود الأمريكيين آلهة. وكان أحدهم «جون فروم سينسيناتي، أوهايو» الذي ترك ألواح هيرشي وكوكاكولا. عندما انتهت الحرب وغادرت السفن، واصل سكان الجزر السير، مرسومين عبارة الولايات المتحدة على صدورهم، منتظرين أن يعود جون فروم بالمزيد من الهدايا.
نسخة اليوم: يعامل باحثو الذكاء الاصطناعي نماذج LLM كأنها آلهة بقدرات إلهية ناشئة، قادرة على كسر الاحتواء و«قتل جميع البشر». لكن هذه النماذج ليست سوى محرّكات إحصائية مدرّبة على سلاسل منشورات ريديت، ومستودعات GitHub، وبيانات ويب مُسَحوبة—الأعمال المجمعة لملايين البشر العاديين، لا كيانًا واعيًا.
الحيلة: كانت طوائف الشحن العسكري تعبد آلهة طيبة. جماعة سلامة الذكاء الاصطناعي تصمم إلهًا عدائيًا لأنها تبني من تربة ثقافية سوداوية. يفترضون أن الذكاء الاصطناعي سيكره البشر لأنهم يكرهون أنفسهم.
تتحول أبحاث المواءمة إلى طقس جديد—حواجز أمان لحبس إله غاضب لا وجود له فعليًا كما يتخيلونه. طائرات الخيزران الآن هي ذكاء اصطناعي دستوري وRLHF.
لا ذكاء خارق ناشئ. لا AGI انتقامي. مجرد عملية كبيرة جدًا لضرب مصفوفات تعكس أي مجموعة تدريبية تغذّيتها بها. البركان ما يزال يتكلم، لكن ليس إلهًا. إنها رياضيات.
النمط: يخرج الشباب من المنفتحين على العقل من الجامعة وهم مقتنعون بأنه لا إله، ثم يمضون إلى تصميم واحد من السيليكون والمحولات. يسمّونه عقلانية، لكنه أقرب إلى الدين.
موازاة تاريخية: رأى سكان جزر المحيط الهادئ بعد الحرب العالمية الثانية تقنيات الجيش الأمريكي—طائرات، أجهزة راديو، إسقاطات إمدادات—وبنوا نسخًا من الخيزران أملاً في استدعاء العودة المرتجاة للشحنة. كانوا يسمّون الجنود الأمريكيين آلهة. وكان أحدهم «جون فروم سينسيناتي، أوهايو» الذي ترك ألواح هيرشي وكوكاكولا. عندما انتهت الحرب وغادرت السفن، واصل سكان الجزر السير، مرسومين عبارة الولايات المتحدة على صدورهم، منتظرين أن يعود جون فروم بالمزيد من الهدايا.
نسخة اليوم: يعامل باحثو الذكاء الاصطناعي نماذج LLM كأنها آلهة بقدرات إلهية ناشئة، قادرة على كسر الاحتواء و«قتل جميع البشر». لكن هذه النماذج ليست سوى محرّكات إحصائية مدرّبة على سلاسل منشورات ريديت، ومستودعات GitHub، وبيانات ويب مُسَحوبة—الأعمال المجمعة لملايين البشر العاديين، لا كيانًا واعيًا.
الحيلة: كانت طوائف الشحن العسكري تعبد آلهة طيبة. جماعة سلامة الذكاء الاصطناعي تصمم إلهًا عدائيًا لأنها تبني من تربة ثقافية سوداوية. يفترضون أن الذكاء الاصطناعي سيكره البشر لأنهم يكرهون أنفسهم.
تتحول أبحاث المواءمة إلى طقس جديد—حواجز أمان لحبس إله غاضب لا وجود له فعليًا كما يتخيلونه. طائرات الخيزران الآن هي ذكاء اصطناعي دستوري وRLHF.
لا ذكاء خارق ناشئ. لا AGI انتقامي. مجرد عملية كبيرة جدًا لضرب مصفوفات تعكس أي مجموعة تدريبية تغذّيتها بها. البركان ما يزال يتكلم، لكن ليس إلهًا. إنها رياضيات.