買以太坊 買以太坊
Ctrl+D 買以太坊
ads
首頁 > Filecoin > Info

ETH:了解 Geth 客戶端:快照加速機制_togetherbnb能睡幾個

Author:

Time:1900/1/1 0:00:00

轉自:以太坊愛好者

作者:曾汨

本文為?Geth客戶端有問必答系列的第一篇文章,大家可以就Geth客戶端的問題踴躍提問,我會每周用一篇小文章回答得票最高的問題。本周呼聲最高的問題是:你能說說flat數據庫結構與legacy結構的主要區別嗎?

以太坊的狀態

在深入了解加速結構之前,我們先回顧一下以太坊的“狀態”概念、在涉及到不同層次的抽象時又是如何存儲的。

以太坊有兩種不同類型的狀態:賬戶的集合;每一合約賬戶存儲槽的集合。從?完全抽象的角度?來看,兩種數據都是鍵-值對。賬戶集合把地址映射到該地址的nonce、余額,等等。而一個合約的存儲領域把任意的值映射到某個值。

但糟糕的是,雖然把這些鍵值對存儲成扁平數據可以非常高效,但驗證它們的正確性在計算上就會變得很難。每當對數據修改時,我們都要自下而上對所有數據做哈希運算。

為免去總是對整個數據庫做哈希運算的需要,我們可以把數據庫分割成連續的小片,然后建立出一種樹狀結構!最原始、最有用的數據就放在葉子節點上,然后樹上每一個內部節點都是該節點以下內容的哈希值。如此一來,當我們要修改某些值時,就只需做對數次的哈希運算。這種數據結構其實有一個路人皆知的名字,就是“默克爾樹”。

但還沒完,這種辦法在計算復雜性上還是有所欠缺。默克爾樹結構雖然在修改現有數據時非常高效,但是,如果插入數據和刪除數據會更改底層小數據塊的邊界,那就會讓所有已經算好的哈希值全都變為無效。

美聯儲威廉姆斯:我們處于了解(央行)數字貨幣的早期階段:金色財經報道,美聯儲威廉姆斯表示,我們處于了解(央行)數字貨幣的早期階段。[2023/2/16 12:09:47]

這時候,與其盲目地對數據庫分組,我們可以使用鍵本身來組織數據、基于共同前綴將數據都安排到樹狀格式中!這樣插入和刪除操作都不會影響到所有節點,只會影響到從樹根到葉子路徑上的節點。這種數據結構就叫“帕特里夏樹”。

把上面兩種辦法合在一起——帕特里夏樹的樹狀分層和默克爾樹的哈希算法——就是所謂的“默克爾-帕特里夏樹”,也是實踐中用于代表以太坊狀態的數據結構。無論是修改、插入、刪除還是驗證,都只有對數復雜度!唯一的小小例外是,有些鍵會在插入前做哈希運算,以平衡整棵樹。

以太坊的狀態存儲

上文解釋了為什么以太坊要用默克爾帕特里夏樹結構來存儲其狀態。遺憾的是,雖然所需操作的速度都很快,但每一種選擇都有所犧牲。

更新操作和驗證操作的對數復雜性?意味著對?

每一個單獨的密鑰?的

讀取和存儲都是對數復雜的(

logarithmicreadsandlogarithmicstorage)。這是因為樹狀結構的每一個內部節點都要單獨保存在硬盤上。

此時此刻,賬戶樹的深度確切是多少我不知道,但在大約一年以前,賬戶狀態就已填滿了7層高的樹。這就意味著,每一次樹操作都要觸達至少7~8個內部節點,因此會做至少7~8次持久數據庫訪問。LevelDB組織數據時最多也是7層,所以還有一個額外的乘數。最終的結果是,單次?狀態訪問預計會放大為?25~50次隨機的?硬盤訪問。你再乘上一個區塊中的所有交易的所有狀態讀取和寫入,你會得到一個?嚇人?的數字。

美國金融犯罪執法網絡希望了解更多隱私技術:美國金融犯罪執法網絡(FinCEN)希望加深對隱私技術工作原理的理解,包括對某些區塊鏈協議的管理。根據周三發布的一份新聞稿,FinCEN計劃在9月9日舉辦一個虛擬項目,并邀請“開發隱私問題解決方案”的公司參與。FinCEN表示,此次會議將重點討論“隱私保護原則”在開發技術解決方案中所扮演的角色,這些技術解決方案將增加金融服務的創新,同時應對有關非法活動和國家安全風險。(Coindesk)[2021/5/27 22:50:34]

可怕之處還在于,這個數字就是運行一個以太坊節點、保證能全時驗證所有狀態的成本。

我們能做得更好一點嗎?

并不是所有訪問都要一視同仁

以太坊的運行依賴于對狀態的密碼學證明。只要我們還想保持對所有數據的驗證能力,就繞不開硬盤讀寫放大問題。也就是說,我們——?

可以并且也事實上?——相信我們已經驗證過的數據。

不斷重復驗證每一個狀態物是沒有意義的,但如果每次從硬盤中拉取數據都要驗證一次的話,就是在做這樣沒有意義的事。默克爾帕特里夏樹結構本質上是為寫入操作設計的,但反過來就成了讀取操作的負擔。我們擺脫不了它,也無法讓它瘦身,但?這絕不意味著?我們在每一個場合都必須使用它。

以太坊節點訪問狀態的場景可大致分為以下三類:

聲音 | 劉勝:認識區塊鏈要了解幣、鏈、網三個層次:金色財經現場報道,今日,2018可信區塊鏈峰會在北京召開。聯動優勢科技有限公司首席架構師劉勝分享了區塊鏈標準化中的思考,他認為認識區塊鏈需要了解三個層次:幣(典型的元信息)、鏈(數據結構+應用)、網(軟件定義網絡),圍繞著高度防篡改,行業聯盟鏈是當前重點的研究方向,隨著技術的進步將會有大規模商用。[2018/10/10]

在導入一個新區塊的時候,EVM代碼的執行會產生或多或少基本平衡的狀態讀取和寫入次數。不過,一個用于拒絕服務式攻擊的區塊可能會產生遠多于寫入操作的讀取操作次數。

當節點運營者檢索狀態的時候,EVM代碼執行僅產生讀取操作。

當節點在同步區塊鏈的時候,同步者會向遠程節點請求狀態,被請求者會將數據挖掘出來并通過網絡傳播給同步者。

基于上述訪問模式,如果我們可以短路讀取操作而不觸及狀態樹,則許多節點操作都可以變得快?

很多。這樣甚至能開啟一些新奇的訪問模式,讓原來因為太過昂貴而不可行的模式變為可能。

當然,還是不免有所犧牲。沒有去掉樹結構,任何新的加速結構都會帶來額外的開銷。問題只在于:額外的開銷是否能帶來足夠多的好處,值得我們一試?

請循其本

我們已經開發出了神奇的默克爾帕特里夏樹結構來解決我們所有的問題,現在,我們希望讓讀取操作能繞過它。那么,我們應該用什么樣的加速結構來讓讀取操作重新變得快起來呢?顯然,如果我們不需要樹結構,那就大可以把伴隨樹結構而生的復雜性都丟在一邊,我們可以直接回到原始狀態。

金色財經獨家現場報道 Jeffrey Wernick:要想改變事物,必須了解市場結構:金色財經獨家現場報道,在火幣Pro舉辦的越南Blockchain Festival千人大會上,企業家、Uber, Airbnb和比特幣的早期投資者Jeffrey Wernick指出:很多人可以說出很多專業術語,但是他們并不是真正的懂得其中的含義,甚至很多程序員也不知道他們在說什么。我并不很關心各種各樣的幣,我們需要看到,互聯網技術很美好,是我喜歡的工具,而且隨著科技進步,中產階級、中下階層、世界很多地方都有所改善,我們的生活更加舒適,但是某種程度上是因為我們借了更多錢成為債務奴隸,為什么經濟如此糟糕。世界各國央行應該采取非常有創新的政策來維持,不管是量化寬松還是資本管制,因為市場脆弱到它必須得到各國政府支持才能保證金融市場的質量。要想改變事物,必須了解市場結構,必須先學會賺錢,而不僅僅是籌集資金。[2018/5/24]

如同在本文開頭說到的那樣,理論上的理想狀態下?以太坊狀態的數據存儲方式應是簡單鍵值對,沒了默克爾帕特里夏樹構成的限制,那就沒有什么能阻止我們去實現這種理想方案了!

不久之前,Geth引入了?snapshot加速結構。一個快照就是給定一個區塊處的以太坊狀態的完整視圖。抽象掉實現方面的細節,它就是把所有賬戶和合約存儲槽堆放在一起,都由扁平的鍵值對來表示。

每當我們想要訪問某個賬戶或者某個存儲槽的時候,我們只需付出一次LevelDB的查詢操作即可,而不用在每棵樹上查詢7~8次。理論上來說,更新快照也很簡單,處理完一個區塊后,我們只需為每個要更新的存儲槽多做1次額外的LevelDB寫入操作即可。

金色財經現場報道 優勢資本董事長吳克忠:區塊鏈為占有資源、使用資源、交換資源、交易信用和貨幣問題提供了解決方案:金色財經現場報道,在2018中國區塊鏈高峰論壇峰會上,優勢資本董事長吳克忠表示,“回歸莊園時代:吃飯、出行、住宿、易物、定制服裝、金融標會。區塊鏈為占有資源(所有權)、使用資源(使用權)、交換資源(交易權)、以及交易信用和貨幣問題(信用權)都提供了解決方案。”[2018/5/19]

快照加速結構實際上將讀取操作的計算復雜性從O(logn)降到了O(1),代價是將寫入操作的計算復雜性從O(logn)變成了O(1+logn),并將硬盤存儲空間從O(nlogn)增加到了O(n+nlogn)。

魔鬼藏在細節中

維持以太坊狀態快照的可用性也不容易。只要區塊還在一個接一個地產生,一個接一個地摞在最后一個區塊上,那將最新變更合并到快照中的粗疏辦法就能正常工作。但是,哪怕有微小的區塊鏈重組,快照機制就崩潰了,因為根本沒有設計撤銷操作。對扁平數據表示模式來說,持久化寫入是單向的操作。而且讓事情變得更糟糕的是,我們沒辦法訪問更老的狀態了。

為了克服這些限制,Geth客戶端的快照由兩部分組成:一部分持久化的硬盤層,是對舊區塊處狀態的完整快照;還有一棵內存內diff層組成的樹,用于收集最新的寫入操作。

處理新區塊的時候,我們不會直接合并這些寫入操作到硬盤層,而僅僅是創建一個新的、包含這些變更的內存內diff層。當內存內部的diff層積累到足夠高的層數時,最底部的一個就開始合并更新并推到硬盤層。當需要讀取一個狀態物時,我們就從最頂端的diff層開始查找,一直往下,直至在diff層中或者在硬盤層中找到。

這種數據表示方法非常強大,解決了很多問題。因為內存內部的diff層組成了一棵樹,所以128個區塊以內的鏈重組只需取出屬于父塊的diff層,然后就此開始構建即可。需要較舊狀態的dApp和遠程同步者可以訪問到最近128個最近的狀態。開銷變成了128次映射查找,但128次內存內的查找比起8次硬盤讀取及LevelDB的4~5倍放大要快上幾個數量級。

當然,這里面還有很多很多的坑。就不講太深了,簡單列舉就有下面這張清單:

Self-destruct特別難以對付,因為它們需要短路diff層的沉降。

如果出現了比持久硬盤層更深的鏈重組,那現在的快照就要完全廢棄掉、重新生成。整套操作非常昂貴。

在節點關機時,內存內的diff層需要持久化到日志并加載備份,不然重啟之后快照就沒用了。

使用最底層的diff層作為一個累加器,僅在其超過一定的內存使用時才刷新到硬盤。這就允許跨區塊對同一存儲槽執行去重寫入操作。

要為硬盤層分配一個讀取緩存,這樣合約重復訪問同一個古老的存儲槽時硬盤才不會損壞。

在內存內diff層中使用累積的布隆過濾器,以便快速檢測出狀態物有沒有可能存在于diff層中,還是應該直接跳到硬盤中查找。

不把原始數據設為鍵,而是以這些數據的哈希值為鍵,以保證快照的迭代順序與默克爾帕特里夏樹相同。

生成持久化硬盤層的時間要比剪除狀態樹窗口的時間多得多,所以即使是生成器,也需要動態地追蹤鏈的運行。

美丑并存

Geth的快照加速結構將狀態讀取的復雜性降低了一個數量級。這就意味著基于讀取操作的DoS攻擊的發動難度上了一個數量級,而?eth_call?調用也快了一個數量級。

快照還讓對最近的塊進行極速狀態迭代成為可能。實際上這曾是我們開發快照機制的主要理由,因為我們可以此為基礎創造新的?snap?同步算法。講清楚它需要一篇全新的文章,但最近我們在Rinkeby測試網上的基準測試很能說明問題:

耗時

上行流量

下載流量

包數量

硬盤讀取量

fast同步

2h34m

4.53GB

11.43GB

357335

2.89TB

snap同步

42m

0.083GB

6.53GB

37347

0.04TB

-63.7%

-98.2%

-43.9%

-90.5%

-98.6%

當然,這一切同樣不是沒有代價的。當初始同步完成之后,參與主網的節點需要9~10小時來建構初始快照,還需要額外的15GB以上的硬盤。

那糟糕的部分是哪里呢?我們花了6個月時間才積累起足夠的自信、發布了快照機制,而且現在它仍然不是默認功能,需要主動使用?--snapshot?標記來開啟,而且還有一些圍繞內存使用和崩潰恢復的打磨工作要做。

總而言之,對于這一提升,我們非常自豪。其中有巨大的工作量,而且是在黑暗中摸索、自己實現所有東西并祈禱它能工作。還有一個有趣的事情,第一個版本的快照同步是在兩年半以前寫的,但一直都處于被阻塞的狀態,因為我們缺乏必要的加速結構來驅動它。

結語

希望你能喜歡?

Geth客戶端有問必答?的這一篇文章。我花了比自己所預想的多出一倍的時間,但我并不后悔,因為這個主題值得。下周見。

Tags:以太坊區塊鏈ETHGETH以太坊價格今日行情分析區塊鏈個人怎么買togetherbnb薇拉雙人互動togetherbnb能睡幾個

Filecoin
BTC:行情分析 | 大盤震蕩上行,關鍵阻力位來了_GUSDT

作者|哈希派分析團隊 金色財經合約行情分析 | BTC持倉量處于近期低位,觀望情緒較濃:據火幣BTC永續合約行情顯示,截至今日18:00(GMT+8).

1900/1/1 0:00:00
區塊鏈:區塊鏈2020半年回顧:誰在見證歷史,誰在創造歷史?_區塊鏈幣是什么幣

“2020年什么也沒干,光見證歷史了。”見證歷史這件事,對于現實世界的人而言如此,對于加密世界的從業者更是如此.

1900/1/1 0:00:00
tron:科普 | 什么是期權產品?比特幣期權市場價格的有效性如何判斷?_Metronome

Overview概述 本文將通過對比股票市場期權產品、商品交易所期權產品以及比特幣期權產品來介紹比特幣期權市場價格的有效性.

1900/1/1 0:00:00
PRIME:觀點 | 代幣化所有權與通證經濟是未來的發展模式嗎?_萊特幣和比特幣的關系

作者:JeffDorman?簡介:?Arca首席投資官,領導投資委員會,并負責投資組合的資產規模和風險管理.

1900/1/1 0:00:00
MAR:3分鐘了解基于AMM機制的預測市場Polymarket_Marvin Inu

撰文:LeftOfCenter繼Veil和FluxMarket之后,又一個預測市場悄然出現,名為Polymarket的消費級預測市場不久之前剛剛發布Beta版.

1900/1/1 0:00:00
數字貨幣:全國各地積極“上鏈”,產業區塊鏈迎來新的發展機遇_區塊鏈

來源:人民日報海外版原文標題:《“區塊鏈+”蓄勢展身手》記者:彭訓文近日,河北、貴州、湖南、北京、廣州、贛州等多省市發布區塊鏈發展行動規劃,對區塊鏈平臺建設、促進企業“上鏈”方面進行規劃.

1900/1/1 0:00:00
ads