方法論、工具與團隊:如何成為一名Web3 數據分析師?

web3 數據團隊的基本考慮和技能。

作者:Andrew Hong

譯者:GaryMa 吳說區塊鏈

本文假設你是一個剛接觸web3的數據分析師,開始組建你的web3 分析團隊,或者剛剛對web3 數據產生興趣。無論採用哪種方式,你都應該已經大致熟悉了APIs、數據庫、轉換和模型在web2 中的工作方式。

在這本新指南中,我將盡量簡明扼要地闡述我的三個觀點:

1、思考:為什麼開放的數據渠道會改變數據發揮效用的方式

2、工具:web3 數據棧中的工具概述,以及如何利用它們

3、團隊:web3 數據團隊的基本考慮和技能

數據思考

讓我們先總結一下如何在web2 中構建、查詢和訪問數據(即訪問Twitter 的API)。我們有四個步驟來簡化數據渠道:

1、觸發API 事件(發送了一些推文)

2、更新到數據庫(連接到現有的用戶模型/狀態更改)

3、特定產品/分析用例的數據轉換

4、模型訓練和部署(用於管理你的Twitter feed)

當數據是開源的時候,唯一需要的步驟是在轉換完成之後。 Kaggle(1000個數據科學/特徵工程競賽)和hugs Face(26,000 個頂級NLP 模型)等社區使用一些公開的數據子集來幫助企業構建更好的模型。有一些特定領域的情況,比如在前面的三個步驟中開放數據的開放街道地圖,但是它們仍然有寫權限的限制。

我想聲明的是,我只是在這裡談論數據,我並不是說web2 完全沒有開源。像大多數其他的工程角色一樣,web2 數據有大量的開源工具來構建他們的管道(dbt, apache, TensorFlow)。我們仍然在web3 中使用所有這些工具。總之,他們的工具是開放的,但他們的數據是封閉的。

Web3 也將數據開源,這意味著不再只有數據科學家在開放環境下工作,分析工程師和數據工程師也在開放環境下工作!每個人都參與到一個更連續的工作流程中,而不是一個幾乎是黑盒的數據循環。

工作的形式已經從web2 數據大壩到web3 數據河流、三角洲和海洋。同樣重要的是需要注意,生態系統中的所有產品都會同時受到這個循環的影響。

讓我們看一個web3 分析師如何一起工作的例子。有幾十家交易所使用不同的交易機制和費用,允許你將代幣A 交換為代幣B。如果這些是典型的交易所,如納斯達克,每個交易所將報告自己的數據在10k 或一些API,然後其他一些服務,比如capIQ,會把所有交換數據放在一起,然後收取費用,讓你訪問他們的API。也許有時候,他們會舉辦一次創新競賽,這樣他們就可以在未來收取額外的數據/圖表功能。

在web3 交易所中,我們有這樣的數據流:

1、dex.trades 是Dune 上的一個表格(由許多社區分析工程師隨著時間的推移整理而成),所有的DEX 交換數據都被聚合在一起,所以你可以很容易地在所有交易所中搜索單個代幣的交易量。

2、一名數據分析師通過社區開源查詢創建了一個儀錶盤,所以現在我們對整個DEX 行業有了一個公開的概述。即使所有的查詢看起來都是由一個人寫的,你可以猜測這是在discord上經過大量的爭論,才准確地將其拼湊在一起得。

3、DAO 科學家查看儀表板,並開始在他們自己的查詢中分割數據,查看特定的對,比如穩定幣。他們會觀察用戶行為和商業模式,然後開始建立假設。由於科學家可以看到哪個DEX 在交易量中佔據了更大的份額,他們將提出一個新的模型,並提議改變治理參數,以便在鏈上進行投票和執行。

4、之後,我們可以隨時查看公眾查詢/儀表板,看看提案如何創造出更具競爭力的產品。

5、在未來,如果另一個DEX 出現(或升級到一個新版本),這個過程將重複。有人將創建插入查詢來更新這個表。這將反過來反映在所有的儀表板和模型(沒有任何人必須回去和手動修復/更改任何東西)。任何其他分析師/科學家都可以以別人已經完成的工作為基礎。

由於共享的生態系統,討論、協作和學習在一個更緊密的反饋循環中發生。我承認這有時會讓人難以承受,我認識的分析師基本上都在輪換數據耗盡。然而,只要我們中的一個人繼續推動數據向前(例如,某人創建了插入DEX 查詢),那麼其他人都會受益。

它並不總是必須是複雜的抽象視圖,有時它只是實用功能,如使它容易搜索ENS 反向解析器或工具的改進,如自動生成大多數graphQL 映射與一個CLI 命令!所有這些都可以被每個人重用,並且可以在某些產品前端或您自己的個人交易模型中進行API 的使用。

雖然這裡開啟的可能性是驚人的,我確實承認,輪子還沒有平穩地運行。與數據工程相比,數據分析師/科學領域的生態系統仍然很不成熟。我認為有以下幾個原因:

數據工程是web3多年來的核心焦點,從客戶端RPC API 的改進到基本的SQL/graphQL 聚合。像theGraph 和Dune 這樣的產品就是他們在這方面所付出努力的例證。

對於分析師來說,要理解web3 獨特的跨協議關係表是非常困難的。例如,分析人員可以理解如何只分析Uniswap,但卻很難在混合中添加聚合器、其他DEXs 和不同的代幣類型。最重要的是,實現這一切的工具直到去年才真正出現。數據科學家通常習慣於收集原始數據並獨自完成所有的工作(建立他們自己的管道)。我認為他們不習慣在開發初期與分析師和工程師進行如此密切和公開的合作。對我個人來說,這花了一段時間。

除了學習如何協同工作之外,web3 數據社區還在學習如何跨這個新的數據堆棧工作。你不再需要控制基礎設施,或者慢慢地從excel 構建到數據池或數據倉庫,只要你的產品上線,你的數據就會到處上線。你的團隊基本上是被扔到了數據基礎設施的最深處。

數據工具

以下是一些數據工具匯總:

下面我們看看每種類型以及用法:

1、交互+數據源:這主要用於前端、錢包和較低層次的數據攝取。 1

.1、客戶端:雖然以太坊的底層實現是相同的,但每個客戶端都有不同的額外特性。例如,Erigon 對數據存儲/同步進行了大量優化,Quorum 支持隱私鏈。

1.2、節點即服務:你不必選擇運行哪個客戶端,但使用這些服務將為你節省維護節點和API 正常運行的麻煩。節點的複雜性取決於你想要捕獲多少數據(輕節點→全節點→歸檔節點)。

2、查詢+數據映射:這一層中的數據要么作為URI 在合約中引用,要么來自使用合約ABI 將交易數據從字節映射到表模式。合約ABI 告訴我們合約中包含哪些函數和事件,否則,我們只能看到部署的字節碼(沒有這個ABI,你無法反向工程/解碼合約交易)。

2.1、交易數據:這些是最常用的,主要用於儀表板和報告。 theGraph 和Flipside API 也在前端中使用。有些表是合約的1:1 映射,有些表允許模式中額外的轉換。

2.2、元數據“協議”:這些並不是真正的數據產品,而是用於存儲DIDs 或文件存儲的。大多數NFT 將使用其中的一個或多個數據源,我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢。

2.3、專業提供商:其中一些是非常健壯的數據流產品,Blocknative 用於mempool 數據,Parsec 用於鏈上交易數據。其他的聚合鏈上和鏈外數據,比如DAO 治理或國庫數據。

2.4、高維度數據提供商:你不能查詢/轉換他們的數據,但是他們已經幫你完成了所有繁重的工作。

如果沒有強大的、傑出的社區來配合這些工具,web3 就不會出現!我們可以看到每種類型對應的傑出社區:

1、Flashbots:專注於MEV 上,提供從保護交易的自定義RPC 到專業白帽服務的所有事宜。 MEV 主要指的是槍跑問題,當有人支付比你更多的Gas(但直接給礦商),這樣他們就可以搶先執行他們的交易。

2、Dune 數據精英:專注於為Dune 的數據生態做貢獻的數據分析精英。

3、Flipside 數據精英:專注於為Web3 數據升天做貢獻的數據分析精英。

4、MetricsDAO:跨生態工作,處理多個鏈上的各種數據獎勵。

5、DiamondDAO:專注於Stellar 的數據科學工作,主要在治理、財政庫以及代幣管理方面。

6、IndexCoop:專注於代幣等特定領域的分析,以製定加密貨幣行業最好的指數。

7、OurNetwork:每週對各類協議以及Web3 的數據覆蓋。

注:以上DAO 的參與聯繫方式詳看原文。

每個社區都做了大量的工作來改善web3 的生態系統。毫無疑問,擁有社區的產品將以100 倍的速度增長。這仍然是一個被嚴重低估的競爭優勢,我認為除非人們在這些社區中建立了一些東西,否則他們不會獲得這個優勢。

數據團隊

不用說,你也應該在這些社區中尋找可以加入你的團隊的人。讓我們進一步分析重要的web3數據技能和經驗,這樣你就能真正知道你在搜索什麼。如果你想被雇傭,把這看作是你追求的技能和經驗!

至少,分析師應該是Etherscan 偵探,知道如何閱讀Dune 儀錶盤。這可能需要1 個月的時間來適應悠閒的學習,如果你真的要瘋狂學習,則需要2週的時間。

除此之外,你還需要考慮更多的內容,特別是時間分配和技能轉移。

1、時間方面:在web3 中,數據分析師大約有30-40% 的時間將花在與生態系統中的其他分析師和協議保持同步上。請確保你不會氣暈他們,否則,這將成為對每個人的長期損害。與更大的數據社區一起學習、貢獻和構建是必要的。

2、可轉移性方面:在這個領域,技能和領域都是高度可轉移的。如果使用不同的協議,可能會減少上手時間,因為鏈上數據的表模式都是一樣的。

記住,知道如何使用這些工具並不重要,每個分析師或多或少都應該會寫SQL 或創建數據儀錶盤。這一切都是關於如何做出貢獻並與社區合作。如果你正在面試的人不是任何web3 數據社區的一員(而且似乎對這一塊沒有任何興趣),你可能要問問自己這是否是一個危險信號。

原文鏈接:

https://ath.mirror.xyz/w2cxg5OP1OEcqvSgsEjSSyKRJhPmam0w-fXGogiG-8g

展開全文打開碳鏈價值APP 查看更多精彩資訊

Total
0
Shares
Related Posts