來源:PermaDAO
摘要
目前市場上的主流去中心化儲存平台包括Arweave、Filecoin 和Storj,提供了不依賴單一中心控制點的資料儲存方式,與傳統雲端儲存服務形成對比。 Arweave 專注於長期或永久存儲,採用一次性支付模型;Filecoin 和Storj 則建立基於區塊鏈的儲存市場,提供靈活的儲存方案。 Arweave 利用「有效資料挖礦」機制激勵礦工,而Filecoin 透過複製證明和時空證明確保資料儲存。 Arweave 的儲存實操簡便,而Filecoin 和Storj 分別針對專業市場和傳統雲端儲存用戶。去中心化儲存的未來發展前景廣泛,特別是在資料的去中心化、抗審查和AI 領域的應用。
去中心化儲存是一種資料儲存方法,不依賴單一中央控制點。這種方式與傳統的中心化儲存(如傳統的雲端儲存服務,例如Amazon S3 或Google Cloud )形成對比,後者通常由單一的企業或組織進行管理。
主流去中心化存儲
目前市面上主流的去中心化儲存有Arweave、Filecoin、Storj。它們各自有獨特的特色和設計理念:
-
Arweave 專注於長期或永久性資料儲存。
-
Filecoin 提供類似傳統雲端儲存的去中心化市場,支援靈活的儲存需求。
-
Storj 專注於提供安全和隱私保護的去中心化雲端儲存服務。
這三個平台都使用了區塊鏈技術,但它們的應用場景、技術實現和支付模型有所不同,各自適合不同類型的儲存需求:
1. Arweave
-
目標:提供一種長期的、永久性的資料儲存解決方案。 Arweave的目標是儲存資料直到“永遠”,主要用於長期資料保存。
-
技術:使用獨特的區塊鏈技術,名為「塊織物」(Blockweave)。與傳統區塊鏈不同,區塊織物在每個新區塊中包含對早期隨機區塊的引用,這樣設計旨在鼓勵資料的長期保存。
-
支付模型:使用者為資料儲存支付一次性費用,資料儲存後理論上可以永久存取。
2. Filecoin
-
目標:旨在創建一個去中心化的儲存市場,類似於傳統的雲端儲存服務。
-
技術:Filecoin是IPFS(網際網路檔案系統)的激勵層。它使用“存儲證明”和“時空證明”來確保資料正確儲存。
-
支付模型:使用者根據儲存的資料量和時間向儲存提供者支付費用。這是一種更傳統的租賃模式,用戶可以根據需要增加或減少存儲,並相應地支付費用。
3. Storj
-
目標:為用戶提供一個去中心化的雲端儲存解決方案,重點在於安全性和隱私保護。
-
技術:Storj使用加密和分片技術來保護資料的安全和隱私。資料在上傳前在客戶端被加密和分割成多個小塊,然後分散式儲存在全球範圍內的節點上。
-
支付模型:Storj的支付模型類似傳統雲端存儲,基於使用的儲存空間和頻寬計費。
對比之下,Arweave 獨樹一幟,其所強調的永久存儲,更加註重數據的抗審查和持久性。 Filecoin 和Storj 都是用了儲存市場,專注於使用區塊鏈技術重構儲存市場。
業務架構解析
Arweave 進行資料永久儲存的理論基礎類似「摩爾定律」。根據對1980 年至今的資料儲存成本統計結果,儲存成本每年以20% 的速率下降。依照這個統計規律,無窮多年後資料儲存的成本會收斂為一個常數。 Arweave 永存則是以此為基礎,計算了資料200 年的儲存成本。用戶進行資料儲存時將一次性支付這筆費用。
同時,Arweave 設計了一個非常優雅簡潔的資料挖礦機制。我們可以把它命名為「有效資料挖礦」。
所謂「有效數據」是指過去已經儲存在Arweave 網路中的數據,用戶為這些有效數據支付了200 年的儲存費用。網路中另一個角色群體— 礦工,他們是用有效資料進行挖礦,並提供了有效資料的讀取服務。與其他儲存區塊鏈不同之處在於,Arweave 不強制礦工儲存數據,而是建立了激勵規則鼓勵每個礦工最大化的去儲存「有效數據」。在Arweave 網路裡,礦工儲存的「有效資料」越多,挖礦的「算力」就越大。
假設Arweave 網路中有100 TB 的有效數據,對於礦工而言不是必選儲存所有100 TB 的數據。也就是說,礦工只儲存100 MB 的資料就可以挖礦,只是礦工的算力非常小的。如果礦工選擇儲存所有100 TB 的數據,他所具備的算力將達到最大值。
在「有效數據挖礦」的機制中,Arweave 網路激勵礦工盡可能的去儲存最多的數據,但不強制他們去進行所有數據的儲存。那麼該激勵模式,資料是否存在遺失的可能性?下面是一個關於資料遺失的模擬演算:
其中第一行和第二行的0.5 指的是單一節點儲存了50% 的資料。假設該區塊網路有20 萬個區塊,網路中有200 個節點,每個節點都隨機的儲存了10 萬個區塊(50% 的區塊資料),可根據機率計算出單一區塊不可訪問的機率為6.223^10-61。雲端服務提供的資料可靠性為99.9999999%,即10 的7 次方。上面的Arweave 演算則達到了驚人的61 次方。
Filcoin 和Storj 兩者都是用區塊鏈技術建立了一個資料儲存市場。其中Storj 主要改進是資料隱私性。本文主要說明Filecoin 的原理。
類似於傳統的訂單簿,使用者使用Filcoin 需要先到交易市場進行出價掛單,並註明資料儲存的時間和備份數量,礦工會接收可以獲利的訂單。為了保障整個交易市場的公平性,Filcoin 建立了複雜的經濟模型,設定了罰沒和小額分期支付等多種規則。其核心技術為複製證明和時空證明。
-
複製證明:礦工向使用者證明資料已經被專用的實體設備進行了儲存。礦工每次進行證明儲存用戶的資料時,網路將向該礦工支付費用。
-
時空證明:如果只有複製證明,並不能保障你的資料一直被存儲,礦工可以僅在提交證明時儲存這部分資料。為此Filecoin 補充了時空證明,目的就是讓礦工持續儲存這些資料的人。
總結以上,Arweave 永存的依據和實作方案分別是:
-
永存的成本逐年降低
-
透過「有效數據挖礦」對礦工進行激勵,實現數據永存
Filcoin 和Storj 是使用了區塊技術創造的去中心化儲存市場,他們的模式都類似於傳統的交易市場的訂單簿,由掛單人提供需求、礦工接受訂單進行資料儲存保障。 Filcoin 的核心技術要點是:複製證明和時空證明。
儲存實操
將資料儲存到Arweave 有兩種方式。第一種方式直接發送資料到Arweave 節點,並支付AR。第二種方式是使用ANS-104(Bundled)資料綁定協定將資料批次打包到Arweave。
直接儲存資料到Arweave
用戶只需要準備一個持有AR 到錢包即可完成該動作。使用下列程式碼,將一個命名為file.pdf 的儲存到Arweave:
更多文件參考:
https://github.com/ArweaveTeam/arweave-js
使用ANS-104 儲存資料到Arweave(建議)
Arweave 的區塊的出塊速率較低,通常為2 分鐘左右,並且一個區塊只能處理1000 筆交易,這極大的限制了Arweave 存儲的交易筆數,儘管一筆Arweave 交易的存儲量是無限的,用戶可以將100 MB 甚至10 GB 的資料透過一筆交易直接儲存到Arweave。為了解決交易筆數的擴容問題,ANS-104 應運而生。
ANS-104 是一種多筆交易的綁定技術,可以一次將數萬筆不同的資料實體綁定到一筆普通Arweave 交易中。可以類比Ethereum 到Layer2 Rollup 解決方案,差異是ANS-104 並不會損失資料的安全性,綁定的資料也是100% 的完整資料儲存在Arweave 上。
使用ANS-104 儲存資料代碼示範如下:
程式碼使用了arseeding 輕節點作為資料綁定服務,arseeding 輕節點是完全開源的Arweave 資料節點,支援所有Arweave 原生節點介面並拓展了ANS-104 介面。同時arseeding 整合了跨鏈支付協議everPay,因此除了使用AR 支付儲存費用之外,使用者和開發者也可以使用ETH、BNB、USDT 和USDC 等各種資產進行資料永存。
更多文件參考:
https://web3infra.dev/docs/Arseeding/guide/quickStart
儲存費用
目前Arweave 上儲存1 GB 資料為$7.5。
最新的儲存費用參考:https://ar-fees.arweave.dev/
檢索並下載Arweave 的數據
Arweave 擁有標準化的GraphQL 服務接口,任何個人和機構都可以按照標準去實現Arweave 索引。以下是兩個典型好用的索引閘道:
-
ArweaveNet 網關,索引最完整。
連結:https://arweave.net/graphql
-
KNN3 網關,即時檢索arseeding 節點數據,速度快。
連結:https://knn3-gateway.knn3.xyz/arseeding/graphql
下載Arweave 數據,只需知道數據的ARID 或ItemID 即可,程式碼範例:
Filcoin 的儲存方法
很遺憾,Filcoin 沒有提供給一般使用者和開發者的儲存工具,對於一般開發者而言,Filcoin 是一個不可用的狀態。從零星的技術文件可以找到一些透過第三方服務商進行Filecoin 存儲的方案,但是仔細查看服務商的文檔,大多數服務商也僅僅提供了IPFS 存儲,這些服務商不一定將資料存儲到了Filcoin。可能由於筆者等級有限,實在找不到一個較好的途徑將資料儲存到Filcoin,同時也沒有對應的介面可以直接從Filecoin 取得資料。
Storj 的儲存方法
Storj 的儲存方式和Web2 一樣,開發者需要到官網註冊並取得API-KEY。 Storj 的儲存相容於AWS S3 接口,這裡就不再贅述。 Storj 的儲存費用很低,1 GB 儲存1 個月只需$0.004。不過折算為200 年儲存費用會比Arweave 稍高,為$9.6。
儲存實操可以看出,Arweave 的交易處理模式和Bitcoin/Ethereum 等區塊鏈是一致的。 Filecoin 並沒有提供可用的SDK 和接口,很遺憾所謂的存儲龍頭大哥竟然對於開發者是不可用狀態,不禁令人唏噓。 Storj 的儲存方式和Web2 完全一致。
值得注意的是,Arweave 是原生的區塊鏈存儲,資料一旦發送到Arweave 之後是不可刪除且不可篡改。 Filcoin 和Storj 是租賃模式,專案方可以隨時停止儲存租賃服務,該模式下資料是不具備區塊鏈特性的,資料特性和儲存到中心化雲端服務是一致的。
為了更清晰的區分Arweave 和Filcoin 等資料儲存的區別,我們可以把Arweave 上的資料命名為“共識數據”,不論是BTC 還是Ethereum 上的數據,都屬於共識數據,這些數據都具備不可篡改和可追溯的特性。 Filecoin 儲存租賃市場所儲存的資料不能稱為共識資料。
發展前景
去中心化儲存出現了兩個完全的不同的業務線。其中以Arweave 為代表的業務線以共識資料為核心,強調資料去中心化、抗審查、可追溯等特性。以Filecoin 為代表的業務線是以去中心化市場為核心,強調分配儲存資源和證明儲存成功。類比DeFi 的發展,早期的IDEX 用區塊鏈技術打造了訂單簿市場,訂單簿是非常傳統的業務模型,旨在用掛掉吃單的模式解決票券兌換。 DeFi 的爆發是Uniswap AMM 交易模型帶來的流動性挖礦技術,AMM 讓訂單完全自動化運營,實現了流動性的組合性,最終迎來了DeFi Summer 大爆發。目前的去中心化儲存賽道裡,Filecoin 所代表的同樣是區塊鏈技術打造了訂單簿市場,而Arweave 則使用了類似AMM 的統一模型對資料供需進行管理。 Arweave 統一模型更便於資料定價和處理,使用Arweave 可以更方便的完成普通資料向共識資料的轉化,這種共識之上的資料或將迎來「資料組合性」大爆發。
同時,不得不提及SCP 理論(基於儲存的共識範式),其核心思想是只要資料儲存具備共識,那麼使用這些資料組成的應用程式也可以形成共識。 SCP 強調鏈下計算,資料可以存到BTC、Ethereum 等各條鏈上,透過聚合區塊鏈上的資料形成唯一狀態。既然這些狀態在任何計算單元運作都會產生相同的結果,為什麼我們還需要在鏈上運算?浪費這麼多的運算資源?
目前火熱的BRC20,比特幣銘文都使用了鏈下計算的共識。 BRC20 協議和Arweave SCP 所強調的儲存共識是一致的,都是透過區塊鏈作為數據層提供不可變、可追溯的交易數據,狀態的計算完全在鏈下進行。借助Arweave 的儲存能力,SCP 理論可以獲得更強大的共識資料集。 Arweave SCP 理論已經發展出一套工程上完整的應用方案— Permaweb,相當於比特幣索引器的終極版本,Permaweb 不僅可以處理資產,更可以處理文字、圖片甚至影片。想像不久的將來,超強大的索引器可以進行串流播放,打造出完全去中心化的抖音。
目前Permaweb 方案支援的應用類型寬泛,不論是網盤、內容共創、遊戲都能很輕易的使用該架構進行開發。 Permaweb 應用之間的資料可以相互組合。例如作家透過內容共創將創作的文字和版權上傳Arweave,在另一款遊戲中開發者可以直接引用作家的內容,並讓玩家向作者進行版權付費。
目前DePIN 遇到最大困境是區塊鏈效能,DePIN 設備將會走入千家萬戶,但沒有任何一條區塊鏈能承載如此龐大的用戶互動。大多數DePIN 仍然採用了中心化的方式處理數據,這將使DePIN 喪失去中心化的特性。共識資料可以為DePIN 帶來更強大的賦能,一旦DePIN 資料永久化之後,這些資料也會獲得組合性特徵。例如一張綠色能源證,可以在區塊鏈PoW 運算時抵消能源消耗,可以在內容創作上成為一個標識,也可以在遊戲中成為徽章。數據和價值將無所不在地流動。
共識數據也同樣適用於AI 人工智慧領域。人類的知識和歷史應永存,共識資料可以保障AI 無法污染和竄改人類的知識和歷史。同樣地,共識數據可以作為AI 的最佳數據原料,讓AI 可以學習和處理各種有效資訊。