對話io.net:利用閒置GPU,實現去中心化AI算力平台。


io.net是基於Solana區塊鏈的網絡,允許用戶提供閒置算力給資源密集的人工智慧公司。公司完成了A輪融資,估值達10億美元,主要投資者包括Hack VC、Multicoin Capital等。首席策略長Garrison Yang參與了英文播客,討論了技術優勢、未來發展計劃等問題。 io.net解決了AI和雲端運算產業的痛點,提供便宜、快速的算力服務。未來五年,公司計畫發展成為去中心化通用運算層,合作Render、Filecoin等平台。使用者可以透過提供算力、參與社群討論等方式參與io.net。

io.net 是基於Solana區塊鏈的網絡,允許擁有閒置算力的用戶向資源密集型的人工智慧公司提供算力。雙方,io.net 完成了其A 輪融資,估值達到10 億美元,參投了3000 萬美元,由被黑VC 領投,Multicoin Capital、Animoca Brands、Solana Ventures、Aptos、OKX Ventures 等參投。期本吳說英文播客邀請了io.net 的首席戰略官兼首席市場官Garrison Yang (0xHushey),討論了io.net的技術優勢、未來發展計劃以及如何解決人工智能和雲計算行業的痛點等問題。

本文內容僅代表觀點者觀點,不代表吳說觀點,不提供任何財務建議,請讀者嚴格遵守堡壘法規。

文字概要由GPT處理,可能有錯誤,全文請收聽播客:

Youtube:https://youtu.be/HSBBGT5Vqvg

io.net 是什麼?

io.net正在建立世界上最大的AI運算網絡,我們的目標本質上是建立一個去中心化的,能夠與AWS(亞馬遜網路服務)競爭的對手。這個計畫始於2020年,當時我們的創辦人兼任CEO在開發演算法交易的必要模型時,尋求更經濟的力資源。即使在2020年,從AWS和Azure購買算力的成本也被證明是過於昂貴的。因此,他在全球範圍內進行了探索,包括在西雅圖和亞太地區的獨立資料中心,以及在使用中的加密貨幣礦工處的算力資源。他將這些資源互聯起來,從各個地理分配的位置取得GPU,一個龐大的運算網路。這一舉措了。最初,他使用了Ray,當時Ray 並沒有被廣泛認識,因為大多數人更喜歡亞馬遜網路服務推廣的Kubernetes。他獨立運營這個網絡,支持他的交易模型兩年半。

2023年,Open AI推出了ChatGPT訓練,突然之間,全世界都將注意力轉向了AI,尤其是它所需的巨大算力。 ChatGPT在2023年宣布,它每天花費70萬美元來他們的ChatGPT模型人們也質疑它如何能夠在不向用戶收費的情況下提供即時推理——對查詢的回應。艾哈邁德認識到開放人工智慧使用了Ray架構來擴展他們的運算網絡,這導致了我們業務的開始。意識到他擁有AI產業高度追求的資源:能夠擴展去中心化和分佈節點的能力,從而降低為AI公司提供算力的成本,因此成立了io.net。重點是,我們是2023年4月Solana黑客馬拉鬆的里程碑者之一。 io.net平台於2023年11月正式向公眾發布,四個多月,我們見證了快速的進展。

開發io.net 的另一個原因,除了渴望創建最大的人工智慧運算網路之外,還使我們希望確保一個去中心化、由社群驅動和社群在全球範圍內擁有的計算網路記憶體。透過提供一個去中心化的算力來源,我們旨在保證應用程式、資料來源、AI模型和AI模型推理在未來仍然全球可存取、免審查,並可涵蓋國界使用。

io.net是如何解決AI和雲端運算產業的痛點的?

AI已經在我們的生活中存在了相當長的時間。真正較新的發展是面向消費者的AI和對消費者可見的企業AI。例如,ChatGPT打開了許多大門,就像通用的AI影像和視訊平台一樣,它們已經成為我們日常生活中使用的工具。

大多數人沒有意識到,我們已經使用人工智慧很久了。 Facebook 使用人工智慧掃描你發布的圖片,谷歌使用人工智慧來幫助支援他們的搜尋引擎,Siri 使用人工智慧來理解和回應我們的查詢。現在,隨著AI變得越來越流行,更多的公司希望使用AI進行開發,他們的成本增加了。算力已經成為世界上最重要和迫切稀缺的資源之一。今天,AI依賴GPU運算而不是CPU運算,使得GPU需求非常高。

問題是,算力的供應還顯然不夠──全世界的算力需求是AWS、Azure和Google Cloud這樣的中心化雲端服務最能提供的算力總和的2.5倍。儘管這些大公司囤積了許多顯示卡,但他們沒有足夠的GPU 算力來服務每個人。然後,有許多算力存在於獨立資料中心、加密貨幣礦工和我們的消費設備(例如MacBook 和遊戲PC)中。問題是,這些資源很難聚合和利用。

io.net所做的都是由各種來源聚合GPU的算力。有些來源的品質更高、更可靠、更有價值,有些則不然,但我們將它們全部聚合起來,為AI公司提供一個集群的結果是,AI 可以以比中心化雲端服務成功的現價便宜高達公司90% 的價格訪問這個算力,而且速度更快。使用io.net,沒有合約要簽署,沒有KYC,沒有長期承諾,你可以選擇你的節點來自哪裡,它們的速度是多少。這種方法幫助我們透過提供一個去中心化、實現成本高、易於存取的運算平台來解決人工智慧和雲端運算產業的主要痛點。

io.net能否匹配企業級GPU進行AI模型訓練?

簡單來說:完全沒問題。

透過將多個微小的低於企業級的顯示卡聚合在一起,可以以不同的成本提供相同等級的算力。 io.net需要解決或如何擴大這些實體基礎設施的規模。

企業級顯示卡也可以由我們聚合在一起。獨立的企業級資料中心可能這裡有五張顯示卡,那裡又擁有十張顯示卡,而通常這些資料中心不會協調統一為單一的客戶服務。但如果他們把這些資源放在io.net上,我們可以將其聚合在一起。這不僅最大化了這些企業級GPU的使用率,也增強了它們的貨幣化能力。本質上,io.net充當一個平台,促進來自不同來源的算力的聚合,為AI模型訓練創造了效率和投產更高的運算環境。

零散閒置的GPU其實只是被低效率利用的資源,我們可以將它們交給有需要的客戶,而終端客戶可以以便宜的價格來使用它們。

但我想說清楚的是,雖然我們的目標是考慮建立一個去中心化的替代中心化雲端服務的選擇,但我並不希望它完全取代現有的基礎設施。最好的比較對像是電網和再生能源。我們不會取代基礎發電(如核電),畢竟它在一段時間內產生大量能源,穩定、便宜且。但高效核電作為“基礎荷電電源”,不能靈活調整。這就是為什麼還需要太陽能和電池作為電網的補充。

對於AWS來說也是一樣,如果一個企業與AWS聘了一個五年的合約,為一定量的算力付費,期間無論他們是否使用都要持續付費。這樣向中心算力雲端服務首先購買固定力整體上是高效率的。然而,當你需求急速時,可介入使用的io.net 就有價值了。例如,如果你今天想運行一個實驗,或者你知道你的負載在七天或一個月內會巔峰,您可以從io.net以更經濟的方式購買額外的算力。一個去中心化的網絡,您不需要合約或KYC,可選擇不同類型、不同來源、不同大小且可自訂的算力資源,就這麼簡單。這為企業提供了許多不同的選擇,也為人們提供了選擇和定價權。

io.net在平衡個人和企業之間貢獻者的挑戰和策略是什麼?

我們理想的供應商有兩種類型的人。一種是擁有剩餘資源的企業資料中心,通常是高品質的供應資源,具有高速的網路頻寬,最適合先服務企業客戶。第二種類型加密貨幣礦工的巔峰能力——一些專用設備來提供或運行GPU 進行加密挖礦或類似活動,通常具有平均水平的連接速度和專用硬體。

我們將GPU比喻為投資資產的房子。你投資房子是為了出租並賺錢,GPU也是。儘管由於預期更新的晶片而貶值,我們已經看到價格因當前未知而升值。由於需求高,A100 GPU 現在可以在大約九個月內收回投資。與傳統的加密貨幣挖礦經濟學預期相比,這是一個非常有吸引力的投資報酬率。

以上的還只是穩定幣,是直接收入,還不包括代幣。而當你引入加密貨幣經濟和代幣時,所說的就更加巨大了。這類似於區塊鏈中的驗證者經濟,你同時擁有可變價值的代幣,也來自客戶的固定收入。

另外,io.net正在建立的大型非中心化網路還蘊藏著其他機會。比如說,有一些運算節點無法勝任AI/ML相關任務,可能連線速度不夠理想,或只是單純沒有充分利用,導致它們的「單位經濟模型」突然生效。儘管如此,這些設備在成為相對高端的驗證器方面仍然擁有巨大的潛力。它們能夠執行其他類型的工作,提供不同層級的計算服務。

由於AI/ML的單位經濟非常強大,我們選擇先著手解決這一領域的挑戰,然後才將我們的運算網路推廣到更廣泛的用途。這種策略不僅是為了解決眼前的問題,也為網路的未來發展奠定了基礎。

談到建立區塊鏈的機會,我認為不一定要是我們自己的鏈。也許未來的SVM(Solana虛擬機)決定提供應用鏈,或者讓所有驗證的設備直接支援Solana,這些都是可能的發展方向大多數情況都為io.net增加了實用性,尤其是如果我們能夠建立一個Solana的應用鏈,那將會非常引人注目。因為這意味著我們的區塊鏈,又提供了一個能夠為去中心化應用(DApps)提供運算層的基礎設施,從而實現真正的去中心化。

您認為誰適合使用io.net ?

就需求方而言,目前io.net主要用於高精度的AI/ML工作負載,這主要中斷了兩類需求,分別是模型訓練和模型推理。

首先是模型訓練的需求。雖然模型訓練目前都使用位於相同位置的GPU,但是模型訓練並沒有模型推理在一起有嚴格的延遲要求,實際上可以不使用聚合的GPU,即透過使用io.net擴展架構,花費更長的訓練時間,最終實現更精彩的模型訓練。畢竟成本是模型最值得關注的部分。

其次是模型推理的需求。成本和動態負載是其兩個主要問題,這非常適合使用io.net 來解決。一方面,模型推理成本很高,而之前已經透過io.net 解釋過成本非常低。另外至此,模型推理的負載需求往往會不可預測地快速提升,如果你將自己的ChatGPT模型發佈出來,你需要考慮所有不可預測的負載。但是io.net非常靈活,你可以隨時參與使用。可以向中心化雲端服務商購買基礎服務,然後由io.net應對負載高峰。我們為企業提供靈活的、以經濟高效的方式管理需求高峰,並以去中心化的、搶購的資源提供額外的資源負載算力。

我想現在已經沒有多少人在訓練自己的模型了,畢竟這非常昂貴,Facebook、蘋果和微軟都花了數百上千萬去訓練模型。人們更多的是直接使用大型科技公司開發的基礎模型,然後對現有的模型做調整和推理。我認為這是訓練產業的發展方向:少量的模型,一定程度的模型調整,以及大量的模型推理。所以io.net專注於模型推理,這是開發者的“最後一英里”,也更容易變現。我們在平台上建立了一個很受歡迎的名為BC8.AI 的產品,每天大約有25,000 筆交易,全部都是模型推理。

從更廣泛的範圍來看,我們選擇從AI/ML開展項目,是因為其強大的單位經濟,但io.net的發展前景緻力於做AI的計算層,還想成為最大的去中心化通用計算層,隨著技術和市場的發展,將會有更多的機會出現,讓我們能夠利用這個龐大的非中心化網路去支援各種運算需求,最終實現一個更加開放、自由的數位化世界。

io.net 堆疊的哪些部分與區塊鏈相關?

管理無許可交易之間的權限是在區塊鏈上的。我們基本上允許你以無許可的方式加入網路。在供應和需求的匹配中沒有人加入。你使用,你支付,你知道人們會錢並且會為你提供計算收到隊列。實際上這裡有一個證明,供應方承諾在一定期限內提供能力。如果你用一個小時租,我承諾提供一個小時。如果我沒有在整個小時內提供那個能力,我會損失非常大。這方面的經濟學機制就像是驗證器。

我們還在鏈上儲存運算證明,有一個令人印象深刻的帳本的運行日誌。所以如果你看一個模型推理結果,你始終可以準確追蹤到哪個節點提供了該計算,什麼時間提供了計算,提供了多少計算,你為此支付了多少費用。

未來,這種透明度和資料儲存將非常有助於追蹤這些計算是如何產生的。你可能會看一個圖像,並且總是可以追蹤到誰影響了它,誰提供了計算,以及它是來自哪個模型推理出來的。我認為隨著人工智慧產業的發展,這類類型的透明度將變得非常重要。

另外,我們選擇Solana 作為我們的區塊鏈需求,是因為它快速且便宜。儘管最近面臨一些可擴展性挑戰,但它已被證明能夠處理我們所需的交易負載。我們的目標是解決問題多地在Solana上維持我們的核心基礎設施,利用其容量和即將到來的更新,如Firedancer,追求更大的可擴展性。

買家在io.net上選擇計算聚合的配對流程是如何運作的?

買方需要深入的額外細節。他們簡單地指出他們想要的設備類型、連接速度和他們偏好的位置。這為買方提供了他們需要確定的所有信息,基於他們正在尋找的容量來決定需要GPU。隨著行業的發展,當多少延遲和容量不再是唯一的決定因素時,我預計購買者將做出更嚴重的選擇。他們可能會出於特定原因選擇某些位置,或基於經濟價值在低端和高端設備之間做出選擇。目前由於稀缺,如果買家需要容量,他們會接受任何可用的、能滿足他們需求的容量。他們會檢查我們的網絡,檢查是否有足夠的4090 可用,然後選擇並使用它們。

目前有一個市場教育的過程,我認為隨著去中心化雲端服務的發展壯大,產業需求也會持續發展和擴大。

另一方面是對低品質節點的管理。一旦代幣空投或挖礦計畫開始,這個問題就出現了。所以我們引入了“時間分數”和“趣味分數”。 io.net上的每個節點都有一個總計分數,這可以讓使用者看到一個節點多久保持可用、它的上線時間以及其他效能指標,從而形成幫助決策。我們不斷地對每個節點進行ping操作,如果一個節點沒有回應,它就被認為是不可用的。如果不可用,就不會獲得獎勵。加密貨幣經濟刺激是直截了當的:如果一個節點可用,它為需求方提供更好的服務,而且更填補地被佔用,失業率更多的獎勵。只要節點在被招募時維持可用性和效能,需求方就能獲得所需的算力,雙贏。

您如何看待io.net未來五年的發展?

我們在4月28日發幣,我相信世界會在那之後改變,當然程度取決於它的後續發展。

目前,大家都知道算力非常有價值,但除了購買GPU,身為消費者無法真正將其作為商品交易和使用。我們的設想是在「算力」作為一種可訪問的商品的基礎上,建構一個產品和服務的生態系統。透過創造一種代幣化的方式讓人們交易算力,並進一步建構其他東西。我們的目標就是把$IO變成算力貨幣。如果算力是數位石油,那麼它需要一個石油美元,我們正在嘗試建造需要那個石油美元。我們已經為它創建了一個市場,人們可以進行交易,將資產換取價值,以及使用其上建構的DeFi 產品。未來當我們進入通用計算領域這時,更多的事情可以發生,因為更多的行業可以參與其中。

接下來,我們需要將供應方增加10倍,改善需求方自助服務體驗,並擴展範例,如雲端遊戲、圖像渲染、視訊渲染——這些可能不屬於傳統AI工作負載下的事情。另外,透過在提供需端點擴展,讓低階顯示卡滿足低階需求,可以進一步拓展客戶類型來提高市場貢獻。

現在,我們每天的營業額大約是七、八千美元,年化約230萬美元,而這才四個月而已。所以我們只需要繼續成長市場的供需兩端,並讓飛輪旋轉起來。我希望,在接下來的四、五年平台將會變得非常大,將大量的算力移動到網路上。我們的目標是逐步將DePIN過渡給社區,DePIN應該始終是一個去中心化的資產,在其之上構建不同的應用,無論是io.net 還是其他由DePIN 驅動的協議和服務,那些都是完全分開的。但是DePIN 的階段中心化是非常重要的。

io.net 與Render 和Filecoin 之間的關係是什麼?

io.net首先是擁有一個UI,這可以讓使用者體驗更好。然後我們為Render、Filecoin及其他DeFIN帶來了兩樣東西:網路架構和操作軟體,它在設備上運行的客戶端操作。網路架構關鍵,因為不是所有的DePIN 都可以將數千個地理去中心化的GPU 聚合成一個單一的叢集。透過將GPU 放在我們的DePIN 上,可以被其他網路存取並讀取使用,主要是AI。

渲染在渲染方面圖像表現出色——這是其網路被建構和工具化的目的。 Filecoin 同樣,是為了儲存而建構的。這些公司在各自的功能上都表現出色,但我們更擅長服務AI 工作負載,不管是Render、Filecoin 還是其他DefIN,都需要讓上硬體的客戶端有能力滿足那些AI 工作負載,這都可以存取我們的網絡並使用我們的工具來為AI 客戶賺錢,畢竟AI 確實擁有強大的單位經濟。

未來io.net 也不打算取代像Render 或Filecoin 這樣的平台,而是提供了更多的合作可能性。如果有人想利用他們的算力為Filecoin 或像Render 這樣的專案服務,他們可以使用io.net。 net作為一個平台自由地這樣做。

說到市場競爭,我們也有自己的思考。這個領域的經濟如此之好,難免有人單位參與競爭。不過,建立市場業務的好處是,我們具備先發優勢。我們更早,我們更大,實際上我們有4-5年的先發優勢,這會帶來巨大的優勢慣性。我們的網路架構——例如部署一個完全地理去中心化的擁有6000多個節點的叢集——也是其他人難以做到的。此外,競爭者還必須克服高峰的成本。

io.net的獨特技術優勢是什麼?

基本上所有建構DePIN 的策略並沒有什麼特別的不同——一個關鍵因素是如何將物理位置相互分離的GPU 聚合;另一個關鍵因素是到底聚合多少GPU,細節包括它們是否必須是相同的型號、它們之間間允許的距離、聚集的大小、延遲的數量,等等。

這些看起來可能很簡單,但實現這些網路能力和所做的權衡至關重要。如果有人複製我們的方法,例如分叉Ray並提供Ray集群,會發現他並不能保證和我們相同的延遲。而在力作為世界中的一種商品,取決於計算延遲、可用性和連接速度的微小差異。

而這就是我們的技術壁壘所在。它包括網路架構以及編排層的構建,為開發人員部署的便利性、工人的連接性和佇列UI/UX 決策。

除了技術壁壘,還有一個策略市場壁壘:決定是否從影像渲染、視訊渲染、儲存、AI工作負載、同步雲端遊戲或像素串流媒體這樣的領域開始。這些不是傳統意義上的技術壁壘,但它們是根據資源限製而做出取捨的重大策略選擇。

喜歡io.net的用戶如何參與?

如果您對io.net 感興趣,有幾種方式可以參與。對於那些在家中擁有消費設備,例如MacBook 或4090 遊戲PC 的人,我鼓勵您連接到網路並提供算力。這是一個了解去中心化實體基礎設施網路如何運作的完美方式,它們的存在就是為了優化世界上的低效率資源。

對於礦工來說,io.net 提供了一個令人興奮的機會來貢獻和受益。如果你對將GPU 作為收益的資產的想法感興趣,這是值得考慮的。 GPU 是產生收益的資產,通常提供比房子或汽車等傳統投資更快的回報。這不是投資建議,但這是一個值得考慮的角度——算力的財務化。我們將$IO變成數位石油美元,支援完整的化產品、工具和服務的生態系統,並在其基礎上建立整個DeFi 生態系統。

開發者可以嘗試在io.net 上部署和集群,像我今天花了三分鐘就可以部署6000 個節點。身為普通人以往很難獲得如此規模的算力,這是一個新奇有趣的體驗。

即使你不直接提供算力,仍然有很多機會參與。你可以加入我們社群的討論,例如關於數據可用性、保護抗審查AI 模型和推理的話題。請在Twitter 上關注我們或加入我們的Discord,我們的Discord 中有一些非常聰明、睿智的思想家負責主持,歡迎加入進來進行對話,我們會在這裡。

資訊來源:0x資訊編譯自網際網路。版權歸作者吳說區塊鏈所有,未經許可,不得轉載

Total
0
Shares
Related Posts