النقاط الرئيسية
هدفت عملية انتقالنا إلى Binance Ledger إلى حل مشكلة الحساب الساخن المتأصلة في خادم قاعدة البيانات العلائقية السابق لدينا.
تعمل بورصة العملات المشفرة على مدار الساعة طوال أيام الأسبوع، 365 يومًا في السنة دون وجود نافذة صيانة للاستفادة منها، على عكس البورصة العادية، التي لديها ساعات راحة يومية.
كان لا بد من أن تتم عملية الانتقال إلى Binance Ledger جديد عبر الإنترنت، والحفاظ على أصول المستخدمين آمنة، وعدم التسبب في أي تأثير تجاري على الإطلاق، وبالتالي ظلت تجربة المستخدمين النهائيين سلسة.
لقد اخترنا استراتيجية الترحيل التدريجي لكل حساب على حدة بدلاً من استراتيجية التحويل الشامل دفعة واحدة كما هو مستخدم في أداة الشبح.
تعرّف على المزيد حول ترحيل دفتر الأستاذ الخاص بـ Binance والأدوات والتقنيات المستخدمة طوال العملية.
يدعم دفتر الأستاذ الخاص بـ Binance عملياتنا التقنية وسير عملنا، حيث يعالج ملايين المعاملات اليومية عبر قاعدة مستخدمين ضخمة. يمكنك معرفة المزيد عن النظام وأهدافه وتحدياته في مدونتنا بعنوان "كيف يدعم دفتر الأستاذ الخاص بـ Binance تجربتك في Binance". واجهت عملية ترحيلنا من الإصدار القديم إلى الجديد تحديًا شائعًا: كيف يمكننا ترقية المحرك أثناء استمرار الطائرة في الرحلة؟ كان علينا ترحيل أصول مستخدمينا، وكانت سلامة الأموال (SAFU) أولويتنا القصوى.
التحديات الرئيسية في ترحيل Binance
يجب معالجة قائمة التحديات التالية لتحقيق أهدافنا المحددة:
ضمان الصحة الكاملة لدفتر الأستاذ الجديد
القدرة على اكتشاف أي مشكلة في الأموال وحلها في الوقت المناسب وبشكل دقيق
عدم التسبب بأي توقف (Downtime) للأنظمة الصاعدة (upstreams)
مقارنة مهمة ترحيلنا بترحيل DDL لقاعدة بيانات عبر الإنترنت
قبل أن نتعمق في تفاصيل حلنا، دعونا نلقي نظرة على المشكلة الشائعة المتمثلة في تنفيذ DDL (لغة تعريف البيانات) عبر الإنترنت لجدول كبير. ما المقصود بـ DDL؟ حسنًا، تخيّل جدولًا يحتوي على مئات الملايين من الصفوف ونحتاج إلى إضافة عمود آخر. نريد تنفيذ ذلك عبر الإنترنت دون تعطيل الأعمال.
تُستخدم أداة gh-ost على نطاق واسع لحل هذه المشكلة، ويمكنك مشاهدة كيف تعمل في الرسم التخطيطي التالي.
تتمثل العملية في جوهرها في مرحلتين:
مرحلة المزامنة، التي تستمر حتى يصبح الجدول الجديد مطابقًا بالكامل للجدول الأصلي. يوجد نوعان من البيانات المطلوب مزامنتها:
البيانات الموجودة
البيانات التزايدية (بيانات جديدة يتم توليدها من الجدول الأصلي أثناء عملية الترحيل المستمرة)
مرحلة التحويل (cutover) التي تقوم بالتبديل بين الجدول الأصلي والجدول الجديد دون مقاطعة أي معاملة جارية.
كيف اختلفت مشكلات دفتر الأستاذ الخاص بـ Binance
على الرغم من وجود بعض أوجه التشابه، واجه دفتر الأستاذ الخاص بـ Binance تحديات فريدة بطبيعتها في مهمة ترحيلنا عبر الإنترنت.
أولًا، تعمل أنظمة الخادم الخلفي لدى Binance في بيئة موزعة، بينما يكون DDL لقاعدة البيانات عبر الإنترنت في بيئة أحادية (monolithic). ثانيًا، لا يمكننا اعتماد نهج التحويل مرة واحدة (all-at-once) لأن البيانات كانت أصول مستخدمينا. وأخيرًا، نحتاج إلى ضمان عمل جميع الخدمات ذات الصلة كمنظومة واحدة قبل بدء ترحيل واسع النطاق.
كما في مثال DDL عبر الإنترنت السابق، كانت هناك مرحلتان في عملية ترحيلنا:
مرحلة المزامنة، حيث تم بناء خدمة مخصصة للنسخ (replicator) لتزامن الأرصدة من دفتر الأستاذ القديم إلى دفتر الأستاذ الجديد
مرحلة التحويل خطوة بخطوة على مستوى الحسابات
مناهج قائمة على المراحل
كانت المهمة كبيرة، وكما يقولون: روما لم تُبنَ في يوم واحد. غالبًا ما تعمل طريقة فرق تسد بامتياز عند مواجهة مجال مشكلات كبير ومعقّد.
المرحلة 1: النسخ المتماثل
لماذا
يمكننا تلخيص مسار تفكيرنا هنا في نقطتين رئيسيتين:
نموذجنا "دفتر الأستاذ" الخاص بـ Binance كلقيٍ تابع جديد ينضم إلى عنقود MySQL الحالي الذي يشغّل نظام دفتر الأستاذ الحالي. ومن خلال الاستفادة من تقنيات النسخ المتماثل، استطعنا إبقاء أرصدة المستخدمين متزامنة بالكامل بشكل غير متزامن.
بعد ذلك، يمكننا توجيه حركة الإنتاج حرفيًا إلى دفتر الأستاذ الخاص بـ Binance للتحقق من صحته ومتانته. وحتى لو سارت الأمور بشكل سيئ في هذه المرحلة، فلن يترتب علينا أي تأثير، ولا على مستخدمينا.
ما الذي
فيما يلي، أدرجنا سير النسخ المتماثل العام. المسار الحرج الذي يجب الانتباه إليه هو:
تحويل → دفتر الأستاذ → مُنسّخ دفتر الأستاذ الخاص بـ Binance → دفتر الأستاذ الخاص بـ Binance
كيف
جزأنا عملية النسخ المتماثل إلى خطوتين منفصلتين:
قمنا بتفريغ لقطة (snapshot) لقاعدة بيانات دفتر الأستاذ ثم قمنا باستيرادها إلى دفتر الأستاذ الخاص بـ Binance
قمنا بنسخ سجل bin log الخاص بقاعدة بيانات دفتر الأستاذ بعد وقت تفريغ اللقطة.
في النهاية، كان سيتم حفظ بيانات الأرصدة وسجلات الأرصدة في تزامن كامل بين دفتر الأستاذ القديم ودفتـر الأستاذ الخاص بـ Binance، ويمكن التحقق من ذلك أيضًا من خلال وحدة المصالحة الكاملة (full reconciliation module).
متى
بدأ دفتر الأستاذ الخاص بـ Binance بالعمل في أوائل أغسطس 2022. بعد ذلك، بدأنا عملية النسخ المتماثل التي استمرت حتى منتصف نوفمبر 2022. كانت هذه العملية فترة مهمة بالنسبة لنا لأن صحة نظام دفتر الأستاذ الجديد كانت بحاجة إلى التحقق بنسبة 100%. ولم يكن بالإمكان تخطي هذه الخطوة قبل الانتقال إلى مرحلة الترحيل التالية.
في النهاية، لم نجد أي مشكلات وقمنا بإجراء عدة إجراءات إصدار (release routines) لتصبح الأمور أكثر اطمئنانًا. لم تكن عملية الثلاثة أشهر سريعة بشكل خاص، لكن كانت ضرورية لتحقيق هدفنا الخاص بالـ SAFU.
المرحلة 2: الترحيل عبر الإنترنت
لماذا
لترحيل ما يقارب مئات الملايين من الحسابات، أنشأنا مهمة ترحيل مخصصة.
ماذا
فيما يلي، نعرض تدفق الترحيل الأساسي لحساب واحد:
إليك بعض الملاحظات الأساسية التي يجب أخذها في الاعتبار:
يحافظ نظام الحسابات على مخطط ملكية (ownership mapping) لكل حساب.
الحساب A → دفتر الأستاذ
الحساب B → دفتر الأستاذ الخاص بـ Binance
الحساب C → محظور
قبل ترحيل أي حساب، إذا كان هناك أي معاملة متزامنة معلّقة، فسيتم تخطي الحساب لتقليل الأثر على الأعمال.
لقد غيّرنا مخطط الملكية من دفتر الأستاذ إلى المحظور، مما يمنع أي تحديثات مستقبلية للأرصدة، وبالتالي يجعله غير قابل للتغيير.
قمنا بمصالحة الأرصدة بين دفتر الأستاذ القديم ودفتـر الأستاذ الخاص بـ Binance.
غيّرنا مخطط الملكية من المحظور إلى دفتر الأستاذ الخاص بـ Binance، مما يتيح توجيه تحديثات الأرصدة المستقبلية مباشرة إلى دفتر الأستاذ الخاص بـ Binance.
وفقًا لمؤشر الأداء لدينا، استغرق الأمر في المتوسط 150 مللي ثانية من الخطوة 3 إلى الخطوة 5. من الناحية النظرية، لا يمكن للمستخدمين إجراء أي معاملة خلال فترة الترحيل التي مدتها 150 مللي ثانية. واتضح أنه لم تتأثر أي معاملات على الإطلاق.
التنفيذ
في Binance، ندافع عن مبدأ "تنفيذ جيد بدلًا من تخطيط دقيق". التنفيذ السليم ضروري لنجاحنا، وتظل سلامة الأموال دائمًا أولويتنا القصوى. اعتمدنا استراتيجية ترحيل تدريجية خلال فترة ثلاثة أسابيع لاكتشاف المشكلات في أقرب وقت ممكن، ما ساعد بدوره على تقليل مقدار الأثر السلبي.
عملية المصالحة (Reconciliation Process)
تعد المصالحة مهمة للغاية لاكتشاف أي شذوذ محتمل في الأرصدة في الوقت المناسب وبمنظور غير متحيّز. يمكننا تنفيذ العملية بشكل قريب من الوقت الحقيقي لاتخاذ إجراء فوري قبل أن تتفاقم الأمور. تم تطوير نوعين من وحدات المصالحة خصيصًا لعملية الترحيل عبر الإنترنت: المصالحة في الوقت الحقيقي والمصالحة الكاملة.
في الوقت الحقيقي
تم بناء عملية المصالحة المعتمدة على مستوى المعاملة لاكتشاف أي مشكلة في الأموال في الوقت الحقيقي.
كاملة
يمكننا إجراء مصالحة كاملة بشكل دوري بناءً على اللقطات (snapshots) التي تمت مزامنتها مع مستودع البيانات. تضمن هذه العملية أن جميع الأرصدة متطابقة بين دفتر الأستاذ القديم ودفتـر الأستاذ الخاص بـ Binance.
على سبيل المثال، لنفترض أن لدينا 10 ملايين مستخدم ما زالوا موجودين على دفتر الأستاذ القديم. يمكننا استخدام هذه المصالحة الكاملة للتحقق من أن الأرصدة وسجلات الأرصدة متطابقة بين دفتر الأستاذ القديم ودفتـر الأستاذ الخاص بـ Binance.
ختام عملية الترحيل
باختصار، تم إنجاز المهمة عبر 1) استخدام تقنيات النسخ المتماثل للتحقق من صحة دفتر الأستاذ الجديد الخاص بـ Binance 2) تطبيق استراتيجية ترحيل على مستوى الحسابات لترقية المحرك تدريجيًا وبأمان ولكن بثبات.
نعتقد أنه يمكن إعادة استخدام نموذج الترحيل عبر الإنترنت المذكور أعلاه في مهام مماثلة. إذا كانت العمليات والموضوعات التي تم مناقشتها قد أثارت اهتمامك، فلماذا لا تفكر في الانضمام إلى الفريق؟ نحن دائمًا نبحث عن أفراد مكرسين لديهم آفاق جديدة لتحدياتنا اليومية في Binance.
المراجع
كيف يدعم دفتر الأستاذ الخاص بـ Binance تجربتك في Binance
أداة GitHub للترحيل عبر الإنترنت للمخطط (Schema-migration Tool) لـ MySQL
للمزيد من القراءة
استخدام MLOps لبناء خط أنابيب تعلم آلي شامل يعمل في الوقت الحقيقي | مدونة Binance
هل Binance المكان المناسب لك؟ أسباب لعدم الانضمام إلى Binance | مدونة Binance
