買以太坊 買以太坊
Ctrl+D 買以太坊
ads
首頁 > Luna > Info

以太坊:區塊鏈存儲爆炸:問題、分析與優化_以下哪項不是區塊鏈目前的分類

Author:

Time:1900/1/1 0:00:00

(編按:本文為QuarkChain創始人兼CEO周期博士撰寫的技術文章,并以此文章問依據,在DApp Learning進行了技術分享講座,中文講座視頻請點擊文章第二篇推送?)

背景

DeFi、GameFi等去中心化應用的蓬勃發展,極大地增加了對低交易費用的高性能區塊鏈的需求。然而,構建高性能區塊鏈的一個關鍵挑戰是存儲爆炸。下圖是取自 Etherscan 的圖表,它說明了一個以太坊全節點(存檔)的區塊鏈數據大小。

從圖中我們可以看出,節點的鏈數據規模穩步增長,現在已經達到~9TB。由于去中心化區塊鏈的一個目標是允許普通配置的計算機運行節點,因此在普通配置的計算機上強制要求 9TB+ 存儲會難以達到。

如果我們進一步分析存儲使用情況,我們可以發現區塊數據只占了約300GB的數據(從區塊高度0到13.6M),這一數字遠小于9TB。那么剩下的8.7TB數據從何而來呢?

實際上,存檔節點執行所有塊并保留所有歷史數據,包括:

狀態

交易收據

這其中,狀態是這 8.7TB 的主要組成部分。所以有時,我們將存儲爆炸稱為“狀態爆炸”。但是為什狀態會如此之大?

什么是以太坊狀態?

動態 | 我國將圍繞AI、區塊鏈等領域集中力量編寫一批新教材:據教育部官方消息,日前,國家教材委員會印發《全國大中小學教材建設規劃(2019-2022年)》,教育部印發《中小學教材管理辦法》《職業院校教材管理辦法》《普通高等學校教材管理辦法》《學校選用境外教材管理辦法》。國家教材委員會辦公室負責人表示,在高等學校教材建設方面,將打造一批反映世界先進水平的自然科學教材。適應新形勢,瞄準國家戰略需求,圍繞人工智能、大數據、區塊鏈、網絡空間安全、環境科學、海洋科學、能源科學等領域,集中力量編寫一批新教材。[2020/1/7]

以太坊狀態是一個Merkle Patrica樹(MPT),其中

葉子節點是地址 (0x...) => 帳戶的映射,其中帳戶存儲與地址關聯的余額、nonce等

內部節點維護樹結構,以便可以快速計算整個樹的哈希根

由于存檔節點將保留所有區塊的所有歷史狀態,這意味著 MPT 中的任何更新都將創建 O(log(N)) 個內部節點,并且不會刪除舊的內部節點。

Geth 的全節點

政策 | 網信辦要求區塊鏈信息服務提供者填報備案信息:國家互聯網信息辦公室2019年1月10日發布《區塊鏈信息服務管理規定》(以下簡稱“《規定》”),自2019年2月15日起施行。

《規定》要求,區塊鏈信息服務提供者應當在提供服務之日起十個工作日內通過國家互聯網信息辦公室區塊鏈信息服務備案管理系統填報備案信息,變更服務項目、平臺網址等事項或者終止服務的,應當辦理變更或注銷手續。服務提供者開發上線新產品、新應用、新功能的,應當按照有關規定報國家和省、自治區、直轄市互聯網信息辦公室進行安全評估。

《規定》還提出,區塊鏈信息服務提供者應當落實信息內容安全管理主體責任;對違反法律、行政法規和服務協議的區塊鏈信息服務使用者,應當依法依約采取處置措施。[2019/1/10]

為了解決存檔節點狀態爆炸的問題,Geth 的天才工程師們創建了一種稱為“修剪”模式的新模式,該模式僅定期存儲 MPT。這里我們舉一個簡化的例子,其中節點只保存每 3 個區塊的MPT。(注意,為了獲得一個不包含任何狀態區塊的狀態,節點必須獲得該區塊之前最近的狀態,并重放接下來的交易)。

通過定期存儲 MPT,狀態的存儲大小顯著減少。據 Etherscan 數據,目前 Geth 全節點的區塊鏈數據大小約為 1TB。

動態 | 佛山市社區利用區塊鏈等技術建立社區共享文化:據珠江時報報道,廣東省佛山市禪城區祖廟街道建立“線上平臺+線下實體”相結合工作體系,拓展群眾的互動溝通渠道。祖廟通過“共享社區”手機APP,利用大數據和區塊鏈技術,喚醒沉淀的數據,將居民群眾可共享的資源、所需的服務信息發布在平臺上,進一步實現“需求清單”、“服務清單”的“智能”對接,提升社區的人文環境和逐步建立社區的共享文化,引導社區居民密切日常交往、參與公共事務、開展協商活動、組織鄰里互助,推動建立網絡化社區治理和服務新模式。[2019/1/10]

Geth 的可快速同步的全節點

通過從創世區塊開始重放所有交易來運行節點的一個問題是,重放所有交易會占用很長時間。一般來說,建立這樣一個節點需要數周時間才能從創世區塊趕上網絡的最新狀態。為了加速節點的啟動過程,Geth 進一步提供了一種快速同步模式,可以下載最新的穩定區塊的 MPT,而無需重放和維護區塊之前的歷史 MPT。下載完 MPT 后,它會像全節點一樣重放新區塊(帶有定期狀態存儲)。

在不存儲歷史 MPT(有時甚至是歷史區塊主體)的情況下,一個 Geth 節點的存儲大小可以進一步減少到 447G(截至 2021/12/06)。通過減去 300GB 的區塊數據,我們推斷狀態大小約為 150GB。

歡樂撒幣與TokenBook達成深度戰略合作,將共同推進區塊鏈基礎知識普及:今天上午,區塊鏈知識普及小程序“歡樂撒幣”與TokenBook項目方達成深度戰略合作。“歡樂撒幣”自上線半個月以來,頗受行業參與者歡迎,已經累計了近五萬用戶;TokenBook將在”歡樂撒幣“小程序里持續5天送出共計10萬枚TBCoin給答題通關用戶。雙方希望通過此次合作,向更多行業外用戶普及區塊鏈知識,傳遞區塊鏈精神。[2018/4/14]

以目前以太坊 447GB 的存儲大小和 15 TPS,我們預計具有 1TB SSD 的普通配置計算機應該能夠運行以太坊節點相當長的一段時間(比如數年)。那么存儲爆炸或狀態爆炸真的存在嗎?或許未來幾年以太坊并不會,但假如我們可以將以太坊的虛擬機 (EVM) 擴展到數百或數千 TPS 呢?

讓我們將目光轉向另一個基于 EVM 的鏈,幣安智能鏈(BSC)。截至 2021 年 12 月 8 日,BSC 已有:

約 984 GB 鏈上數據,其中區塊約占 550 GB,狀態約占 400 GB。

20.6623 億筆交易,100 TPS

如果我們進一步用交易數量來預測數據大小,我們可以得到:

如果 TPS 為 100,即 ~3,153 M TPY

1 年后,總 TX ~5,219M,區塊 ~ 1.375 TB,狀態 ~ 1.085TB

區塊鏈可幫助進行直接交易:近日,在土耳其伊斯坦布爾舉行的能源貿易和供應年度峰會上,各方一致認為,許多公用事業公司,應利用區塊鏈實施可行的直接交易。EnerStrat Consulting的主任Ashutosh Shashtri表示,“石油巨頭” BP和殼牌正在使用區塊鏈技術來進行石油和天然氣交易的訂單處理,歐亞公用事業已經在公共領域進行將區塊鏈技術應用于批發交易的測試。[2018/4/13]

3 年后,總 TX ~11,525M,區塊 ~3.025TB,狀態 ~2.387 TB

如果 TPS 為 150(觀察到的峰值 TPS),即 ~4,730 M TPY

1 年后,總 TX ~6,796M,區塊 ~1.809 TB,狀態 ~1.427 TB

3 年后,總 TX ~16,256M,區塊 ~4.327 TB,狀態 ~3.414TB

綜上所述,對于BSC來說,如果保持目前的速度甚至更高,則很快就會達到以太坊存檔節點相同的存儲大小,這是普通計算機幾乎無法運行的。

具有極高 TPS 區塊鏈的存儲爆炸問題

如果我們對一個極高 TPS 的區塊鏈(比如像 QuarkChain 能夠做到的那樣)做一個更大膽的假設,這個數字會變成多少?我們來考慮一個具有 1000 TPS 的區塊鏈并分析其區塊和狀態大小,將是:

假設 tx 大小約為 100 字節,每年區塊所需的存儲量為 1000 (TPS) * 100(每 tx 字節數)* 365 * 24 * 3600 = 2.86 TB

假設 MPT 有 100 億賬戶(超過世界人口!),我們預計狀態大小將為 150G(以太坊狀態大小)/0.18B(以太坊唯一地址)* 10B = 8.3 TB

將這些數字放在一起,我們很容易得出一個結論,這是大多數普通配置計算機將 無法承受的要求!

為了優化存儲成本,我們必須將限制放寬為兼容 EVM 而不是兼容以太坊。即,我們必須構建/運行另一個支持 EVM 的鏈,而不是高度優化的以太坊客戶端。

狀態存儲優化

我們提出的第一個優化是使用普通的 KV 而不是 MPT。當 MPT 很大時,MPT 中的所有內部節點可能非常昂貴。而我們的優化將去掉 MPT 中的所有內部節點。假設每個賬戶的數據大約是 50 字節(20 個地址 + 2 個nonce + 12 個賬戶 + 其他),我們可以節省下100億賬戶的數據為:

~ 10B * 50 + 100GB(代碼)= 600 GB,大約是MPT版本的1/10!

雖然使用普通 KV 會帶來巨大的好處,但一個主要問題是我們無法在如此短的區塊間隔內計算每個區塊的狀態后哈希,這意味著我們將失去以太坊的以下好處:

快速同步:下載任何區塊的狀態并通過重放剩余的區塊來快速同步網絡

分叉檢測(或拜占庭檢測):來自對等方新創建的區塊是否會導致與本地執行區塊的狀態不同。

為了啟用快速同步,我們有一個周期性的快照區塊(快照間隔 = epoch = 例如,14 周)。一個快照區塊包含前狀態哈希這一附加信息,即前一個快照區塊的后狀態哈希(執行交易之后的狀態哈希):

非快照區塊不維護狀態哈希,而是具有增量哈希,其中包含該區塊的所有交易事務的原始數據庫操作(刪除、更新)的哈希。這使得分叉檢測成為可能!

我們使用交易前狀態哈希來代替以太坊中區塊的交易后狀態哈希。原因是節點不能立即計算狀交易后的狀態哈希,但是通過使用交易前狀態哈希,節點可以使用整個epoch間隔來計算哈希。例如,假設狀態哈希計算每秒處理 10M 的狀態數據,那么計算 600 GB 的整個狀態將需要 600 GB / 10 M ~ 16.67 小時(vs. epoch = 14 周)

計算狀態前哈希的流程如下:

1. 當一個快照區塊被接收并最終確定時,它的 KV 狀態被快照,并創建一個后臺線程來迭代所有 KV 條目(地址 => 帳戶)并計算哈希。

2. 當下一個快照區塊被創建時,計算出的狀態前哈希值將存儲在該區塊中。同樣,節點將創建 KV 的另一個快照并在后臺計算其哈希。

3.當下一個快照區塊被創建時,節點除了存儲狀態前哈希之外,節點現在可以釋放快照區塊的KV快照,這意味著來自快照區塊以來所有被刪除/更新的數據將被自動垃圾回收(例如,在 levelDB 中壓縮)

其結果意味著,要存儲狀態,節點只需要最多兩個 KV 快照(很可能是一個帶增量和一個 KV 快照)。

使用快照區塊,我們可以通過僅存儲以下數據來進一步減少節點中所需的區塊數據:

最新的快照區塊的交易執行前狀態快照,即(最新 —? 1)快照區塊的交易執行后狀態

(最新 — 1)快照區塊之后的完整區塊?

我們可以對存儲成本進行簡單的數學計算:假設 epoch 持續時間為 2 周,則區塊重放大小為

2 * 14(天)* 24(小時)* 3600(秒)* 100 * 1000(TPS)= 224 GB!

而且,這里的數字不會隨著時間的推移而增長!

我們分析了以太坊當前的存儲使用情況:

不僅是區塊,狀態存儲消耗了很多的空間

當 TPS > 1000 時,存儲空間用量高得令人望而卻步

我們提出對區塊和狀態進行優化:

區塊大小從每年 2.86 TB 減少到 224 GB

狀態大小(~10B 帳戶)從 8.3 TB 減少到 600 GB

一臺 2TB 的普通配置計算機應該能滿足長時間運行節點的條件

缺點:輕節點無法驗證狀態中的一個數據(必須是全節點)

感謝 dapp-learning 主辦此次活動。教學全程視頻可點擊公眾號第二條推送觀看。

Tags:區塊鏈以太坊MPTTPS以下哪項不是區塊鏈目前的分類以太坊幣最新價格今日價格行情SMPTtps幣行情

Luna
DEFI:虛擬世界熱點散亂的“微創新之年”_DEF

· 小跑對話?·? 王? ? 瑋,區塊鏈資深從業者2021年的年終總結選擇了虛擬世界,因為這里確實是2021你最瘋狂的地方.

1900/1/1 0:00:00
DOR:因為「Web3.0」 推特創始人被自己的投資人拉黑了_ardor

每一個加密世界的原住民,應該都對 Web3.0 這一概念并不陌生。Web3.0 概念通常指將所有數據和內容都留存在鏈上、并由用戶所擁有的下一代互聯網,支持者們認為這有助于我們建立一個更加去中心化.

1900/1/1 0:00:00
AXI:NFT:今年最燒腦的一場財富大冒險_元宇宙

一個12歲的小朋友,在兩個月里賺到34萬美元,這種按照常理不可想象的事情,在2021年的夏天成為現實。而這種現實,關聯到當下A股市場一個新的風口:NFT.

1900/1/1 0:00:00
DAO:Web3:創作者經濟的黃金時代_web3游戲龍之島

1996 年 1 月,比爾·蓋茨發表了一篇題為《內容為王》(Content is King) 的文章,后來成為了早期互聯網經典文章之一.

1900/1/1 0:00:00
元宇宙:一文說清:元宇宙是不是坑?虛擬地產有沒有價值?_以太坊

元宇宙,無疑成為今年最火的概念。但它究竟是未來的大趨勢,還是又一個割韭菜利器? 按照一般的理解: 元宇宙就是“沉浸式VR游戲+社交”,然后被資本包裝成高大上的概念,吹起一個巨大的泡泡,最后又是一.

1900/1/1 0:00:00
AXI:數字房產的投機泡沫 是根據經濟學原理的可預測結果_P2P Taxi Token

最近的熱門新趨勢是以“數字房地產”為特色的游戲。我擔心這些會導致數字土地投機泡沫,使玩家、開發商和投資者都損失大量金錢.

1900/1/1 0:00:00
ads