Multicoin合夥人:讀懂GPU網路io.net

按:2024年3月6日,Solana生態DePIN協議io.net宣布完成3000萬美元A輪融資,io.net表示將把所籌資金將用於建立世界上最大的去中心化GPU網絡並解決AI計算短缺問題,Multicoin Capital參投。 Multicoin Capital合夥人Shayon Sengupta發文講述為何投資io.net。金財經xiaozou翻譯。

我們很高興地宣布我們對io.net的投資,io.net是領先的AI(人工智慧)工作負載分散式運算市場。我們領投了其種子輪並參與了A輪融資。目前,io.net已經從Multicoin、Hack VC、6th Man Ventures、Modular Capital和一個關係匪淺的大型天使投資方成功籌資3000萬美元,將打造一個按需生產的運算市場。

我與io.net創始人Ahmad Shadid的首次見面是在2023年4月的Austin Solana Hacker House(Solana黑客之家),他的關注重心放在了ML工作負載計算資源訪問的民主化方面,我立即被此吸引。

從那以後,io.net團隊一直以光速執行這項理念。如今,該網路已經匯聚了數萬個分散式GPU,為AI企業提供了超過57,000個運算小時數。我們很高興能與他們合作,他們將推動下一個十年的AI復興。

1.全球計算短缺

人工智慧運算需求正以驚人的速度成長,需求是無法滿足的。 2023年,AI工作負載資料中心收入超過1,000億美元,即使在最保守的情況下,人工智慧需求還是超過了晶片供應。

在高利率和資本稀缺的時期,能夠容納這類硬體的新資料中心需要大量的前期投資。問題的關鍵在於NVidia A100和H100等先進晶片是有生產限制的。雖然GPU效能不斷提高,成本穩定下降,但實體製造過程提速不夠快,原料、零件和生產能力的短缺限制了發展步伐。

儘管人工智慧前景光明,但其物理足跡日益擴展,對空間、電力和尖端設備的需求使世界各地陷入預算緊張。 io.net為我們創建一個發展步伐不受當前供應鏈限制的世界鋪平了道路。

io.net是DePIN理論的經典實例:使用代幣激勵機制從結構上降低獲取和保留供應方資源的成本,並最終降低最終消費者的成本。該網路將大量異質GPU匯集到一個共享池中,供人工智慧開發人員和公司使用。如今,該網路包含了來自資料中心、礦場和消費級設備的數千個GPU。

儘管這種資源聚合是有價值的,但AI工作負載不會自動從中心化的企業級硬體擴展到分散式網路。在加密史上,已經有過幾次建立分散式運算網路的嘗試,其中大多數都沒有產生有意義的需求端量級。

跨異構硬體(具有不同的記憶體、頻寬和儲存配置)協調和調度工作負載並非易事。我們相信io.net團隊擁有當今市場上最實用的解決方案,可以使這種硬體聚合對終端客戶有益,並且經濟高效。

2、鋪平集群前進道路

在計算的歷史上,軟體框架和設計模式是圍繞著市場上可用的硬體配置來進行自我塑造的。大多數用於人工智慧開發的框架和函式庫都嚴重依賴中心化硬體資源,但在過去的十年中,在跨地理分散式硬體間分配工作負載方面取得了重大進展。

io.net利用全世界的潛在硬件,在其上部署定制的網絡和協調層,使它們在線上,創建一個超級可擴展的GPU互聯網。該網路利用Ray、Ludwig、Kubernetes和其他各種開源分散式運算框架,以允許機器學習工程和營運團隊可以在GPU網路上只進行微小調整來擴展他們的工作負載。

ML團隊可以透過按需啟動叢集來並行io.net GPU上的工作負載,並利用這些程式庫來處理協調、調度、容錯和擴充。例如,如果一群動態圖形設計師將他們的家用GPU貢獻給網絡,io.net就可以建立一個集群,讓世界上任何地方的圖像擴散模型開發人員都可以存取集體運算資源。

BC8.ai是Stable Diffusion的微調變體,完全在io.net硬體上訓練,就是很好的例子。 io.net瀏覽器顯示即時推理以及對網路貢獻者的支付情況。

每個推理都記錄在鏈上以提供溯源。這種特殊影像生成由6個消費級遊戲GPU RTX 4090共同完成。

今天,網路上有成千上萬個設備,橫跨礦場、未充分利用的資料中心和Render網路消費者節點。除了創造新的GPU供應外,io.net還能夠通常提供更便宜的資源在成本上與傳統雲端供應商競爭。

他們透過將GPU協調和開銷外包給協議來實現成本節約。另一方面,雲端供應商對基礎設施成本進行加價,因為他們還有員工費用、硬體維護費和資料中心開銷。消費者群聚和礦場的機會成本大大低於超大規模主體可接受的成本,因此存在結構性套利,io.net上的資源即時定價要低於不斷增長的雲端費率。

3.興建GPU互聯網

Io.net有一個獨特的優勢,那就是維護輕資產,並將服務任何既定客戶的邊際成本降低到幾乎為零,同時與市場的供需雙方建立直接關係。他們處於有利地位,可以為成千上萬的新企業提供服務,這些企業需要使用GPU來建構有競爭力的將來人人都會與之互動的產品。

我們很高興能與Ahmad及其團隊合作,他們在全球範圍內建立並加速人工智慧的發展。如果你正在建立計算密集型應用程序,你可以註冊訪問io.net的資源。如果你有閒置的GPU,也可以把它們貢獻給網路獲得積分獎勵。

Total
0
Shares
Related Posts