買以太坊 買以太坊
Ctrl+D 買以太坊
ads

PAP:一文了解 ZK 在推進鏈上 AI 的作用_PAPR

Author:

Time:1900/1/1 0:00:00

原文來自:ModulusLabs

編譯:DeFi之道

很高興終于可以與你們分享我們的第一篇論文,該論文是通過以太坊基金會的資助完成的,它的名稱是《TheCostofIntelligence:ProvingMachineLearningInferencewithZero-Knowledge?》(或paper0,這是酷孩子們的叫法)。

沒錯,這些都是真數字!有圖表!論文還討論了理論結構及其對性能的影響!事實上,paper0是第一個跨通用AI原語套件對ZK證明系統進行基準測試的研究工作,你現在就可以閱讀整篇論文。

而這篇文章,你可以將其視為論文的總結,有關詳細信息,請參閱原論文。

事不宜遲,讓我們深入了解:

Paper0:我們的調查要點

事實上,計算的未來將大量使用復雜的人工智能。看看我的文本編輯器:

距離DASH區塊獎勵減半已不足4天:6月19日消息,數據顯示,距離DASH區塊獎勵減半已不足4天,DASH鏈上交易筆數已超4800萬,持幣地址數達168萬。減半后,DASH區塊獎勵將減少至約2.566枚DASH。[2023/6/19 21:47:19]

Notion的提示告訴我,他們的LLM可以讓這句話變得更好

然而,鏈上不存在功能性神經網絡,甚至連最小的推薦系統或匹配算法都不存在。真見鬼!甚至連實驗也沒有一個……當然,原因是非常明顯的,因為這太貴了,畢竟,即使運行價值數十萬FLOP的計算的成本也是數百萬gas,目前相當于數百美元。

那么,如果我們想將AI范式帶入無需信任的世界,我們該怎么做?我們會翻車,然后放棄嗎?當然不是…等等!Roll-over)……Giveup……

如果像Starkware、MatterLabs和其他公司這樣的Rollup服務,正在使用零知識證明來大規模擴展計算,同時保持密碼學安全,那么我們能為AI做同樣的事情嗎?

這個問題成為推動我們在paper0中工作的激勵種子。劇透警報,以下是我們發現的:

票務服務提供商Platinum Group為F1車隊推出NFT門票:5月26日消息,票務服務提供商Platinum Group與區塊鏈基礎設施公司 Elemint 和 Web3 機構 Bary 合作,從本周末的摩納哥大獎賽開始為F1車隊創建、鑄造和銷售 NFT 門票。門票將在以太坊側鏈Polygon上鑄造。[2023/5/26 9:44:35]

“現代ZK證明系統的性能越來越高,并且越來越多樣化。它們已經可以支持成本在某種程度上是合理的人工智能操作。事實上,有些系統在證明神經網絡方面比其他系統好得多。然而,所有這些仍然達不到實際應用所需的性能,并且對于神奇的用例來說是嚴重不足的。換句話說,如果不進一步加速用于AI操作的ZK系統,用例就會非常有限。“

paper0總結

這是眾所周知的秘密:AI性能幾乎總是與模型大小成比例。這種趨勢看起來也沒有放緩。只要這種情況仍然存在,對于我們這些web3中的人來說,這將是特別痛苦的。

IPC測試網上線,用戶、開發者和存儲提供者可以展開子網實驗:4月21日消息,經過18個月的開發,IPC的首次公開部署會在Spacenet測試網上,這是首次有一個長時間運行的IPC測試網對公眾可用,讓用戶、開發者和存儲提供者可以展開子網實驗,嘗試Filecoin根網絡之外的其他共識模型。據悉,IPC讓終端用戶和應用開發者可以動態啟動層級化的子網,能夠并行執行交易,從而將根網絡(Filecoin主網)的一些過量負載移除出去,同時能夠為應用的需求提供更好的運作條件。此外,IPC框架還利用主網提供的更強的安全保證,來實現跨子網交易和子網安全性守護機制。[2023/4/21 14:18:42]

畢竟,計算成本是我們最終、不可避免的噩夢來源。

今天的ZKP已經可以支持小模型了,但中型到大型模型打破了范式

基準:實驗設計

對于paper0,我們關注任何零知識證明系統中的2個基本指標:

推特用戶發現比特幣Logo存在設計瑕疵:對比特幣運作方式無影響:2月11日消息,產品設計師Doc近日在推特上發布圖片稱,比特幣Logo中有一個小的設計細節,自2010年最初問世以來,一直在多次迭代中保持不變。

2010年11月12日,bitcointalk.org成員bitboy(與YouTuber bitboy Crypto無關)發布了標志性比特幣Logo的矢量文件,該Logo已在全球范圍內被廣泛接受。當它被放大時,可以看到一條橙色的小線從背景延伸到白色的“?”中。

這一信息最初是由推特用戶@_Bosch_披露的,他隨后分享了一個更新的比特幣Logo,刪除了此前發現的小標志,改善了風格比例。在進一步的調查中,社區成員@skyler_fs發現?標志的一個曲率也不光滑。

這一消息不會影響比特幣的運作方式,社區成員也沒有對此表示任何擔憂。即使有人在修復了缺陷后創建了新的Logo矢量文件,它也不會得到主流的接受,除非社區另有決定。(Cointelegraph)[2023/2/11 12:01:13]

證明生成時間:prover創建AI推理的伴隨證明所需的時間,以及

GMX回應調高Gas:由鏈上活動增加導致,GMX并未從中獲利:6月29日消息,去中心化交易平臺GMX表示在GMX上開倉和平倉的過程涉及兩部分交易,用戶發送請求開倉/平倉與keeper執行請求。兩者交易的成本因現行的Arbitrum手續費而異,由于Odyssey導致鏈上活動大幅增加,過去幾個小時內價格飆升。此外,手續費用只會用于執行交易,并且GMX沒有也不會從此類費用中賺取任何收益,如果它在收集時有差額,GMX將補足其差額。并列出范例證明交易用戶支付的成本低于實際的交易成本。

最后GMX官方表示,keeper執行請求這部分的費用將繼續根據網絡狀況進行調整,希望Odyssey參與者能夠利用整周的時間來完成他們的三項活動。GMX在任何時候都沒有也不會從此類手續費中獲利或賺取收益。

此前社區反映,GMX將最小費用設置為0.005ETH(setMinExecutionFee=0.005ETH),改動swap執行費用。[2022/6/29 1:39:06]

prover內存使用峰值:證明者在證明期間的任何給定時間用于生成推理證明的最大內存;

這主要是一個實際的選擇,并且是從我們構建Rockybot的經驗中做出的。此外,所有測量都是針對證明生成時間進行的,并且沒有考慮預處理或witness生成。

當然,還有其他方面的成本需要跟蹤。這包括驗證者運行時間和證明大小。我們將來可能會重新審視這些指標,但將它們視為paper0的范圍之外。

至于我們測試的實際證明系統,通過投票,我們選定了6個:

Paper0測試的證明系統匯總表,以及協助我們的作者

最后,我們創建了兩套用于基準測試的多線性感知器——值得注意的是,MLP相對簡單,主要由線性運算組成。這包括一套隨著參數數量增加而擴展的架構,以及第二套隨著層數增加而擴展的架構。如下表所示,每個套件都測試了證明系統以不同方式擴展的能力,并大致代表了從LeNet5到ResNet-34的知名深度學習架構的規模。

參數和深度基準套件

結果:迅如閃電

對于以上6個證明系統的參數和深度范圍的證明生成時間結果

對于以上6個證明系統的參數和深度范圍內的峰值內存結果

有關這些結果的完整內容,以及對每個系統內瓶頸的深入分析,請參閱paper0的第4節。

用例和最終要點

好吧,以上是一些非常簡潔的圖表,而以下則是要點:

“在證明時間方面,Plonky2是迄今為止表現最好的系統,因為它使用了基于FRI的多項式承諾和Goldilocks域。事實上,對于我們最大的基準架構,它比Halo2快3倍。然而,這是以prover內存消耗為顯著代價的,Plonky2的性能始終較差,有時會使Halo2的峰值RAM使用量翻倍。在證明時間和內存方面,基于GKR的zkCNNprover似乎最適合處理大型模型——即使沒有優化的實現。”

那這在實踐中究竟意味著什么?我們將重點介紹2個示例:

1、Worldcoin:Worldcoin正在構建世界上第一個“隱私保護身份證明協議”,換句話說,通過將身份驗證與一種非常獨特的生物特征聯系起來來解決女巫攻擊問題。這是一個瘋狂的想法,它使用卷積神經網絡來壓縮、轉換和證明存儲的虹膜數據。雖然他們當前的設置涉及orb硬件中安全飛地內的可信計算環境,但他們希望改為使用ZKP來證明模型的正確計算。這將允許用戶對自己的生物特征數據進行自我保護,并提供加密安全保證。

現在具體一點:Worldcoin的模型具有180萬參數和50層。這是區分100億個不同虹膜所必需的模型復雜性。哎呀!

雖然在計算優化的云CPU上證明Plonky2等系統,可以在幾分鐘內為這種規模的模型生成推理證明,但證明者的內存消耗將超過任何商用移動硬件。

事實上,沒有一個測試系統能夠在移動硬件上證明這個神經網絡……

2.AIArena:AIArena是一款類似于《任天堂明星大亂斗》風格的鏈上平臺格斗游戲,其具有一個獨特的特點:玩家并不是操作化身實時進行對抗,而是讓玩家擁有的AI模型相互競爭和戰斗,是的,這聽起來很酷。

隨著時間的推移,AIArena的出色團隊正努力將他們的游戲轉向一個完全無需信任的錦標賽計劃。但問題是,這涉及驗證每次游戲數量驚人的AI計算的挑戰。

比賽以每秒60幀的速度運行,持續3分鐘時間。這意味著每輪比賽,兩個玩家模型之間的推理結果超過20000個。以AIArena的一個策略網絡為例,一個相對較小的MLP需要大約0.008秒來執行一次前向傳遞,使用zkCNN證明該模型需要0.6秒,即,每采取一次動作就需要增加1000倍的計算。

這也意味著計算成本將增加1000倍。隨著單元經濟對鏈上服務變得越來越重要,開發人員必須平衡去中心化安全的價值與證明生成的實際成本。

https://aws.amazon.com/ec2/pricing/

無論是上面的例子,ZK-KYC,DALL-E風格的圖像生成,還是智能合約中的大型語言模型,ZKML的世界中都存在著一個完整的用例世界。然而,要真正實現這些,我們強烈認為ZKprover仍需要大量改進。特別是對于自我完善的區塊鏈的未來。

那么,我們該何去何從?

我們有具體的表現數據,我們知道在證明神經網絡時哪些技術往往表現最好。當然,我們開始發現各種用例,這些用例激勵了我們不斷成長的社區。

我想知道接下來會發生什么……

很快就會為你們提供更多更新;)

Tags:PAPERPAPAPEGMXFlyPaperPAPRMAPESgmx幣發行總量

比特幣價格實時行情
UNI:金色午報 | 2月6日午間重要動態一覽_COIN

7:00-12:00關鍵詞:AmberGroup、Damus、Uniswap、韓國STO1.OKX錢包地址過去24小時流入約5996枚ETH;2.AmberGroup地址近十日內從幣安轉出11.

1900/1/1 0:00:00
加密貨幣:英國推進加密監管進程 有意借鑒傳統金融制度_AI Trader

本文來自彭博社,原文作者:EmilyNicolle 摘要: 英國財政部表示,加密貨幣交易所需要定義上幣要求;擬議的規則包括加密貨幣托管、借貸、市場濫用.

1900/1/1 0:00:00
VIT:Vitalik:如何用預言機實現共同質押?_CDP

原文:《Canoraclesdoubleasco-stakers?HowRAI-likesystemsmightsafelysupportstakedETH》byVitalikButerin 編.

1900/1/1 0:00:00
TOKE:盤點2月值得關注的22個潛力小項目_web3.0幣種怎么提現

作者:FungiAlpha,加密研究員編譯:Leo,BlockBeats不要一直處在錯過的情緒里,主動去發現的一些值得關注的新項目,碼住后體驗,成為這些項目的早期用戶吧.

1900/1/1 0:00:00
ZKS:全方位拆解zkSync:會成為ZK Rollup引領者嗎?_zks幣創始人是誰

zkSync是一條以太坊第二層鏈,使用零知識rollup(ZKrollup)技術來解決以太坊當前的可擴展性問題。讓我們深入了解這個激動人心的項目,了解zkSync對加密行業的影響.

1900/1/1 0:00:00
WEB:開發者關系是決定Web3成敗的關鍵要素_REL

之前我們討論了早期創業公司如何建設開發者社區并追蹤產品與市場的契合度。不過,如果沒有一個強大的開發者關系團隊,這些舉措很難取得效果.

1900/1/1 0:00:00
ads