主要要點
我們的幣安賬本遷移旨在解決我們以前的關係數據庫服務器固有的熱賬戶問題。
加密貨幣交易所全年 365 天、每天 24 小時不間斷運營,無需維護窗口,而不像普通交易所那樣每天都有休息時間。
遷移到新的幣安賬本必須在線進行,保證用戶資產的安全,並且不會對業務產生任何影響,因此最終用戶的體驗仍然無縫。
我們選擇了漸進的、逐個賬戶的遷移策略,而不是像 gh-ost 工具那樣採用的切換、一次性策略。
瞭解有關我們的幣安賬本遷移以及整個過程中使用的工具和技術的更多信息。
Binance Ledger 是我們技術運營的基礎,每天處理龐大用戶羣中的數百萬筆交易。您可以在我們的“Binance Ledger 如何爲您的幣安體驗提供支持”博客中瞭解有關該系統、其目標和挑戰的更多信息。我們從舊版本到新版本的遷移過程面臨一個典型的挑戰:當飛機仍在飛行時,我們如何才能動態升級引擎?我們必須遷移用戶的資產,保證資金安全是我們的首要任務。
幣安的主要遷移挑戰
爲了實現我們既定的目標,我們必須應對以下挑戰:
確保新賬本的完全正確性
能夠及時準確地發現任何資金問題並予以解決
不會導致上游停機
將我們的遷移任務與在線數據庫 DDL 進行比較
在深入研究解決方案細節之前,讓我們先看看對大型表執行在線 DDL(數據定義語言)的常見問題。DDL 到底是什麼?好吧,想象一下一個包含數億行的表,我們需要添加另一列。我們希望在線執行此操作,而不會中斷業務。
gh-ost工具被廣泛用於解決這個問題,你可以在下圖中看到它的工作原理。
該過程主要包括兩個階段:
同步階段,持續到新表與原始表完全相同。需要同步的數據有兩種:
現有數據
增量數據(在正在進行的遷移過程中從原始表生成的新數據)
切換階段將原始表與新表進行交換,而不會中斷任何正在進行的交易。
幣安賬本的問題有何不同
儘管存在一些相似之處,但幣安賬本在我們的在線遷移任務中面臨着一些獨特的挑戰。
首先,幣安後端系統在分佈式環境中運行,而在線數據庫 DDL 處於單片環境中。其次,我們不能採用一次性切換的方法,因爲數據是我們用戶的資產。最後,在開始進行大規模遷移之前,我們需要確保所有相關服務作爲一個整體運行。
與前面的在線 DDL 示例一樣,我們的遷移也分爲兩個階段:
同步階段,專門構建一個複製器服務來將舊賬本的餘額同步到新賬本
逐個帳戶切換階段
基於階段的方法
任務非常艱鉅,正如人們所說,羅馬不是一天建成的。面對龐大而複雜的問題領域,分而治之的方法往往非常有效。
第 1 階段:複製
原因
我們可以將我們的思考過程總結爲兩個要點:
我們將幣安賬本建模爲加入現有 MySQL 集羣的新從屬節點,爲當前賬本系統提供支持。通過利用複製技術,我們可以異步保持用戶餘額完全同步。
然後,我們可以將生產流量逐字路由到幣安賬本,以驗證其正確性和穩健性。即使在此階段出現問題,也不會對我們和我們的用戶產生影響。
什麼
下面我們說明了整體複製管道。需要注意的關鍵路徑是:
轉賬 → 賬本 → 幣安賬本複製器 → 幣安賬本
如何
我們將複製過程分爲兩個步驟:
轉儲賬本數據庫的快照,然後將其導入幣安賬本
在快照轉儲之後複製分類帳數據庫的 bin 日誌。
最終,餘額和餘額日誌的數據將在舊分類賬和幣安分類賬之間保持完全同步,並可以通過完整對賬模塊進一步驗證。
何時
幣安賬本於 2022 年 8 月初上線。隨後,我們啓動了複製過程,一直持續到 2022 年 11 月中旬。這個過程對我們來說是一個重要的時期,因爲新賬本系統的正確性需要 100% 驗證。在進入下一個遷移階段之前,這一步是不能跳過的。
最終,我們沒有發現任何問題,並進行了幾次發佈例行程序以適應情況。三個月的過程並不是特別快,但對於我們的 SAFU 目標來說卻是必要的。
第二階段:在線遷移
原因
爲了遷移數億個賬戶,我們構建了一個定製的遷移作業。
什麼
下面我們描述了一個帳戶的核心遷移流程:
以下是需要牢記的一些要點:
賬戶系統維護每個賬戶的所有權映射。
賬戶 A → 分類賬
賬戶 B → Binance Ledger
帳戶 C → 被禁止
在遷移賬戶之前,如果存在任何待處理的併發交易,則會跳過該交易以減少對業務的影響。
我們將所有權映射從分類賬改爲禁止,不允許任何進一步的餘額更新,從而使其不可變。
我們覈對了舊賬本和幣安賬本之間的餘額。
我們將所有權映射從禁止更改爲幣安賬本,以便將來的餘額更新直接路由到幣安賬本。
根據我們的性能指標,從步驟 3 到步驟 5 平均需要 150 毫秒。理論上,用戶在這 150 毫秒的遷移期間無法進行任何交易。結果顯示,受影響的交易爲零。
執行
在幣安,我們提倡“良好的執行勝過精心規劃”。堅實的執行是我們成功的關鍵,資金安全始終是我們的首要任務。我們採取了爲期三週的逐步遷移策略,儘早發現問題,從而幫助降低負面影響的程度。
和解進程
協調對於及時從公正的角度檢測潛在的餘額異常非常重要。我們可以以近乎實時的方式進行該過程,以便在情況惡化之前迅速採取行動。專門爲在線遷移過程開發了兩種類型的協調模塊:實時和完整。
即時的
建立基於交易級別的對賬流程是爲了實時檢測任何資金問題。
滿的
我們可以根據同步到數據倉庫的快照定期執行全面覈對。此過程可確保舊賬本和幣安賬本之間的所有餘額相同。
例如,假設有 1000 萬用戶仍在使用舊賬本。我們可以使用此完整對賬來驗證舊賬本和幣安賬本之間的餘額和餘額日誌是否相同。
結束遷移過程
簡而言之,該任務是通過以下方式完成的:1)使用複製技術驗證新幣安賬本的正確性;2)實施逐個賬戶的遷移策略,緩慢、安全但穩步地升級引擎。
我們相信上述在線遷移範例可以在類似任務中重複使用。如果討論的流程和主題引起了你的興趣,爲什麼不考慮加入團隊呢?我們一直在尋找能夠以新視角看待幣安日常挑戰的敬業人士。
參考
幣安賬本如何增強您的幣安體驗
GitHub 的 MySQL 在線模式遷移工具
進一步閱讀
使用 MLOps 構建實時端到端機器學習管道 | 幣安博客
幣安適合你嗎?不加入幣安的理由 | 幣安博客
