io.net 是基於Solana 區塊鏈的網絡,允許擁有閒置算力的用戶向資源密集型的人工智慧公司提供算力。先前,io.net 完成了其A 輪融資,估值達到10 億美元,籌集了3000 萬美元,由Hack VC 領投,Multicoin Capital、Animoca Brands、Solana Ventures、Aptos、OKX Ventures 等參投。本期吳說英文播客邀請了io.net 的首席策略官兼首席市場官Garrison Yang(0xHushey),討論了io.net 的技術優勢、未來發展計劃以及如何解決人工智能和雲端運算產業的痛點等問題。
本文內容僅代表受訪者觀點,不代表吳說觀點,不提供任何財務建議,請讀者嚴格遵守所在地法規。
文字摘要由GPT 處理,可能有錯誤,全文請收聽播客:
Youtube:https://youtu.be/HSBBGT5Vqvg
io.net 是什麼?
io.net 正在建立世界上最大的AI 運算網絡,我們的目標本質上是建立一個去中心化的,能與AWS(亞馬遜網路服務)競爭的對手。這個計畫始於2020年,當時我們的創辦人兼CEO 在開發演算法交易的量化模型時,尋求更經濟的算力資源。即使在2020年,從AWS 和Azure 購買算力的成本也被證明是過於昂貴的。因此,他探索了全球,包括在沙烏地阿拉伯和亞太地區的獨立資料中心,以及在使用中的加密礦工處的算力資源。他將這些資源互聯,從各種地理分佈的位置取得GPU,形成龐大的運算網路。這項舉措成功了。最初,他使用了Ray,當時Ray並沒有被廣泛認識,因為大多數人更喜歡由亞馬遜網路服務推廣的Kubernetes。他獨立運營這個網絡,支持他的交易模型兩年半。
2023 年,Open AI 推出了ChatGPT,突然間,全世界都將注意力轉向了AI,尤其是它所需的巨大算力。 ChatGPT 在2023 年宣布,它每天花費70萬美元來訓練他們的ChatGPT 模型。人們也質疑它如何能夠在不向用戶收費的情況下提供即時推理——對查詢的回應。 Ahmad認識到Open AI 使用了Ray架構來擴展他們的運算網絡,這導致了我們業務的開始。 Ahmad 意識到他擁有AI 產業高度追求的資源:能夠擴展分散和分散式節點的能力,從而以較低的成本為AI 公司提供算力,因此成立了io.net。值得注意的是,我們是2023 年4 月Solana 黑客馬拉鬆的獲勝者之一。 io.net 平台於2023 年11 月正式向公眾發布,僅僅四個多月,我們就見證了快速的進展。
開發io.net 的另一個原因,除了渴望創建最大的AI 計算網絡外,還在於我們希望確保一個去中心化、由社區驅動和社區擁有的計算網絡在全球範圍內存在。透過提供一個去中心化的算力來源,我們旨在保證應用程式、資料來源、AI 模型和AI 模型推理在未來仍然全球可存取、免審查,並可跨越國界使用。
io.net 是如何解決AI 和雲端運算產業的痛點的?
AI 已經在我們的生活中存在了相當長的時間。真正較新的發展是面向消費者的AI 和對消費者可見的企業AI。例如,ChatGPT 打開了許多大門,就像通用的AI 影像和視訊平台一樣,它們已經成為我們日常生活中使用的工具。
大多數人沒有意識到的是,我們已經使用AI 很長一段時間了。 Facebook使用AI 掃描你發布的圖片,Google使用AI 幫助支援他們的搜尋引擎,Siri使用AI 來理解和回應我們的查詢。現在,隨著AI 變得更加流行,更多的公司希望使用AI 進行開發,他們的成本增加了。算力已成為世界上最重要和日益稀缺的資源之一。今天,AI 依賴GPU 運算而不是CPU 運算,使得GPU 需求非常高。
問題是,算力的供應還遠遠不夠——全世界的算力需求是AWS、Azure 和Google Cloud 這樣的中心化雲端服務供應商所能提供的算力總和的2.5倍。儘管這些大公司囤積了許多顯示卡,但他們沒有足夠的GPU 算力來服務每個人。然後,有許多算力存在於獨立資料中心、加密礦工和我們的消費設備(例如MacBook 和遊戲PC)中。問題是,這些資源很難聚合和利用。
io.net 所做的是從各種來源聚合GPU 的算力。一些來源的品質更高、更可靠、更有價值,有些則不然,但我們將它們全部聚合起來,為AI 公司提供一個群集的算力。結果是,AI 公司可以以比中心化雲端服務供應商的現價便宜高達90%的價格存取這個算力,而且它更快。使用io.net,沒有合約要簽署,沒有KYC,沒有長期承諾,你可以選擇你的節點來自哪裡,它們的速度是多少。這種方法幫助我們透過提供一個去中心化、成本效益高、易於存取的運算平台來解決AI 和雲端運算產業的主要痛點。
io.net 能否匹配企業級GPU 進行AI 模型訓練?
簡單來說:完全沒問題。
透過將多個稍微低於企業級的顯示卡聚合在一起,可以以更低的成本提供相同等級的算力。 io.net 需要解決的是如何擴大這些實體基礎設施的規模。
企業級顯示卡也可以由我們聚合在一起。獨立的企業級資料中心可能在這裡有五張顯示卡,那裡又擁有十張顯示卡,而通常這些資料中心不會協調彼此為單一客戶服務。但如果他們把這些資源放在io.net 上,我們可以將其聚合在一起。這不僅最大化了這些企業級GPU 的使用率,也增強了它們的貨幣化能力。本質上,io.net 充當一個平台,促進了來自不同來源的算力的聚合,為AI 模型訓練創造了一個效率和投產比更高的計算環境。
各處置的GPU 原本只是被低效率利用的資源,我們可以將它們傳遞給有需要的客戶,而終端客戶可以以便宜的價格來使用它們。
但我想說清楚的是,雖然我們的目標是建立一個去中心化的替代中心化雲端服務提供者的選擇,但我並不期望它完全取代現有的基礎設施。最好的比較對像是考慮電網和再生能源。我們不會取代基礎發電(如核電),畢竟它在一段時間內產生大量能源,穩定、便宜且有效率。但核電作為”基荷電源“,不能靈活調整。這就是為什麼還需要太陽能和電池作為電網的補充。
對於AWS 也是一樣,如果一個企業與AWS 簽訂了一個五年的合同,為一定量的算力付費,期間不管他們是否使用都要持續付費。這樣向中心化雲端服務供應商購買固定算力整體上是經濟高效的。然而,當你有需求高峰時,可按需使用的io.net 就有價值了。例如,如果你今天想運行一個實驗,或者你知道你的負載在七天或一個月內會激增,你可以從io.net 以更經濟的方式購買額外算力。作為一個去中心化的網絡,你不需要合約或KYC,任意挑選不同類型、不同來源、不同大小且可自訂的算力資源,就這麼簡單。這為企業提供了許多不同的選項,並為人們提供了選擇和定價權。
io.net 在平衡個人和企業貢獻者之間的挑戰和策略是什麼?
我們理想的供應商有兩種類型的人。一種是擁有剩餘資源的企業資料中心,通常這是高品質的供應資源,具有高速的網路頻寬,最適合先服務企業客戶。第二種類型屬於加密礦工的範疇——某人購買專用裝備來提供能力或運行GPU 進行加密挖礦或類似活動,通常具有高於平均水平的連接速度和專用硬體。
我們將GPU 比喻為投資資產的房子。你投資房子是為了出租它並賺錢,GPU 也是一樣。儘管預期由於更新的晶片而貶值,我們已經看到價格因當前短缺而升值。由於需求高,A100 GPU 現在可以在大約九個月內回收其投資。與傳統的加密挖礦經濟學預期相比,這是一個非常吸引人的投資報酬率。
以上所說的還只是穩定幣,這是直接收入,還沒包括代幣。而當你引入加密經濟和代幣時,激勵就更為巨大了。這類似於區塊鏈中的驗證者經濟,你在賺取具有可變價值的代幣的同時,也從客戶那裡賺取固定收入。
另外,io.net 正在建立的大型非中心化網絡還蘊含著其他機會。舉例而言,總是會有一些計算節點無法勝任AI/ML 相關任務,可能因為連接速度不夠理想,或者只是單純沒充分利用,導致它們的「單位經濟模型「並未生效。儘管如此,這些設備在成為相對高端的驗證器方面仍然擁有巨大的潛力。它們還能執行其他類型的工作,提供不同等級的計算服務。
正是由於AI/ML 的單位經濟非常強大,我們選擇先著手解決這一領域的挑戰,然後才將我們的運算網路推廣到更廣泛的用途。這種策略不僅是為了解決眼前的問題,也為網路的未來發展奠定了基礎。
談到建立區塊鏈的機會,我認為不一定要是我們自己的鏈。也許未來SVM(Solana 虛擬機器)決定提供應用鏈,或讓所有的驗證器直接支援Solana ,這些都是可能的發展方向。每種情況都為io.net 增加了實用性,尤其是如果我們能夠建立一個類似Solana 的應用鏈,那將極為引人注目。因為這意味著我們既有區塊鏈,又提供了一個能夠為去中心化應用(DApps)提供基礎設施的運算層,從而實現真正的去中心化。
你認為誰適合使用io.net ?
就需求方而言,目前io.net 主要用於端到端的AI /ML工作負載,這主要分成兩類需求,分別是模型訓練和模型推理。
首先是模型訓練的需求。雖然模型訓練目前都使用位於同一地點的GPU,但模型訓練不像模型推理有嚴格的延遲要求,實際上可以不使用聚合在一起的GPU,即透過使用io.net 擴展架構,花費更長的訓練時間,最終實現更低成本的模型訓練。畢竟成本是模型訓練最值得關心的部分。
其次是模型推理的需求。成本和動態負載是其兩個主要問題,這都很適合使用io.net 來應對。一方面,模型推理成本很高,而之前已經解釋過io.net 成本非常低。另一方面,模型推理的負載需求往往會不可預測地快速提升,如果你將自己的ChatGPT 模型發佈出來,你需要考慮所有不可預測的負載。但io.net 非常靈活,你可以隨時按需使用。你完全可以向中心化雲端服務商購買基礎服務,然後由io.net 來應對負載高峰。我們為企業提供靈活性,以經濟高效的方式管理需求峰值,以去中心化的、按需購買的資源提供額外負載算力。
我認為現在已經沒有多少人在訓練自己的模型,畢竟這很昂貴,Facebook、蘋果和微軟都花了數百萬人去訓練模型。人們更多的是直接使用大型科技公司開發的基礎模型,然後對已有模型做調整和推理。我認為這是產業的發展方向:少量的模型訓練,一定程度的模型調整,以及大量的模型推理。所以io.net 專注於模型推理,這是開發者的」最後一英里“,也更容易變現。我們在平台上建立了一個很受歡迎的名為BC8.AI 的產品,每天有大概2.5 萬筆交易,全部都是模型推理。
從更廣泛的範圍來看,我們選擇從AI/ML 開展項目,是因為其強大的單位經濟,但io.net 的發展前景不僅限於做AI 的計算層,還想成為最大的去中心化通用運算層,隨著技術和市場的發展,將有更多的機會出現,讓我們能夠利用這個龐大的非中心化網路去支援各種各樣的運算需求,最終實現一個更加開放、自由的數字世界。
io.net 堆疊的哪些部分與區塊鏈相關?
管理無許可交易之間的權限是在區塊鏈上的。我們基本上允許你以無許可的方式加入網路。在供給和需求的匹配中沒有人為中介。你使用,你支付,你知道人們會收到錢並且會為你提供計算隊列。實際上這裡有一個證明,供應方承諾在一定時間內提供能力。如果你租用一個小時,我承諾提供一個小時。如果我沒有在整個小時內提供那個能力,我會被罰款。經濟學和機制在這方面非常類似驗證器。
我們還在鏈上儲存運算證明,有一個像是帳本的運行日誌。所以如果你看一個模型推理結果,你始終可以準確追蹤到哪個節點提供了該計算,什麼時間提供了計算,提供了多少計算,你為此支付了多少費用。
在未來,這種透明度和資料儲存將非常有助於追蹤這些計算是如何被產生的。你可能會看一個圖像,並且總是可以追蹤到誰影響了它,誰提供了計算,以及它是從哪個模型推理出來的。我認為隨著AI 產業的發展,這種類型的透明度將變得非常重要。
另外,我們選擇Solana 作為我們的區塊鏈需求,是因為它快速且便宜。儘管最近面臨一些可擴展性挑戰,但它已被證明能夠處理我們所看到的交易負載。我們的目標是盡可能在Solana 上維持我們的核心基礎設施,利用其容量和即將到來的更新,例如Firedancer,以獲得更大的可擴展性。
買家在io.net 上選擇計算群集的匹配過程是如何運作的?
買家不需要深入過多細節。他們簡單地指明他們想要的設備類型、連接速度和他們偏好的位置。這為買家提供了他們需要確定的所有信息,基於他們正在尋找的容量來決定需要多少GPU。隨著行業的發展,當延遲和容量不再是唯一的決定因素時,我預計買家將做出更細微的選擇。他們可能會出於特定原因選擇某些位置,或基於經濟價值在低端和高端設備之間做出選擇。目前由於稀缺,如果買家需要容量,他們會接受任何可用的、能滿足他們需求的容量。他們會檢查我們的網絡,檢查是否有足夠的4090可用,然後選擇並使用它們。
目前有一個市場教育的過程,我認為隨著去中心化雲端服務供應商的發展壯大,產業需求也會持續發展和擴大。
另一方面是對低品質節點的管理。一旦代幣空投或挖礦計畫開始,這個問題就出現了。所以我們引入了”時間分數“和”聲譽分數“。 io.net 上的每個節點都有一個聲譽分數,這允許客戶看到一個節點多久保持可用、它的上線時間和其他效能指標,以此幫助決策。我們不斷地對每個節點進行ping操作,如果一個節點沒有回應,它就被認為是不可用的。如果它不可用,它就不會獲得獎勵。加密經濟誘因是直截了當的:如果一個節點可用,它為需求方提供更好的服務,並且更頻繁地被雇用,賺取更多的獎勵。只要節點在被雇用時保持可用性和效能,需求方就會獲得所需的算力,雙贏。
你如何看待io.net 在未來五年的發展?
我們在4 月28 日發幣,我確信世界會在那之後改變,當然程度取決於它的後續發展。
目前,大家都知道算力非常有價值,但除了購買GPU,作為一個消費者無法真正將其作為一個商品交易和使用。我們設想的是在」算力「作為一種可訪問的商品的基礎上,建構一個產品和服務的生態系統。透過創造一種代幣化的方式讓人們交易算力,並進一步建構其他東西。我們的目標是將$IO變成算力貨幣。如果算力是數位石油,那麼它需要一個石油美元,我們正在試圖建造那個石油美元。我們已經為它創建了一個市場,人們可以交易,將資產換取價值,以及使用其上構建的DeFi 產品。未來當我們進入通用計算領域時,更多的事情可以發生,因為更多的行業可以參與其中。
接下來,我們需要將供應方增加10倍,改善需求方自助服務體驗,並且擴展用例,如雲端遊戲、圖像渲染、視訊渲染——這些可能不屬於傳統AI 工作負載下的事情。另外,透過在供需兩端擴展,讓低階顯示卡滿足低階需求,可以進一步拓展客戶類型來提高市場份額。
現在,我們每天的營業額大約是七、八千美元,年化約230萬美元,而這才四個月而已。所以我們只需要繼續成長市場的供需兩端,並讓飛輪旋轉起來。我希望,在接下來的四、五年平台變得非常大,將大量的算力移動到網路上。我們的目標是逐步將DePIN過渡給社區,DePIN 應該始終是一個去中心化的資產,在其之上構建的不同應用,無論是io.net 還是其他由DePIN 驅動的協議和服務,那些都是完全分開的。但DePIN 的逐步去中心化是非常重要的。
io.net 與Render 和Filecoin之間的關係是什麼?
io.net 首先是擁有一個UI,這可以讓使用者體驗更好。然後我們為Render、Filecoin 及其他DeFIN 帶來了兩樣東西:網路架構和操作軟體,它操作在設備上運行的客戶端。網路架構至關重要,因為並非所有DePIN 都能將數千個地理分散的GPU 聚合成一個單一的群集。透過將GPU 放在我們的DePIN 上,可以被其他網路存取並按需使用,主要是AI。
Render 在渲染影像方面表現出色——這是其網路被建構和工具化的目的。 Filecoin 同樣,是為儲存而建置的。這些公司在各自的功能上都表現出色,但我們更擅長服務AI 工作負載,不論是Render、Filecoin 還是其他DeFIN,都需要讓硬體上的客戶端有能力滿足那些AI 工作負載,這都可以存取我們的網絡和使用我們的工具來為AI 客戶賺錢,畢竟AI 確實擁有強大的單位經濟。
未來io.net 也不打算取代像Render 或Filecoin 這樣的平台,而是提供了更多的合作可能性。如果有人想利用他們的算力為Filecoin 或像Render 這樣的專案服務,他們可以使用io.net 作為一個平台自由地這樣做。
說到市場競爭,我們也有自己的思考。這個領域的單位經濟如此之好,難免有人參與競爭。不過,建立市場業務的好處是,我們具備先發優勢。我們更早,我們更大,實際上我們有4-5年的先發優勢,這會帶來巨大的優勢慣性。我們的網路架構——例如部署一個完全地理分散的擁有6000多個節點的群集——也是其他人難以做到的。此外,競爭者還必須克服激增的成本。
io.net 的獨特技術優勢是什麼?
其實所有建構DePINs 的策略並沒有太大的不同——一個關鍵因素是如何將物理位置彼此分離的GPU 聚合;另一個關鍵因素是到底聚合多少GPU ,細節包括它們是否必須是相同的型號、它們之間允許的距離、群集的大小、延遲有多少,等等。
這些看起來可能簡單,但實現這些網路能力和所做的權衡至關重要。如果有人複製我們的方法,例如分叉Ray 並提供Ray 群集,會發現他並不能保證和我們相同的延遲。而在算力作為一種商品的世界中,競爭力取決於延遲、可用性和連接速度的微小差異。
而這便是我們的技術壁壘所在。它包括網路架構以及編排層的構建,為開發人員部署的便利性、工人的連接簡單性和眾多UI/UX 決策。
除了技術壁壘,還有一個市場策略壁壘:決定是否從影像渲染、視訊渲染、儲存、AI 工作負載、同步雲端遊戲或像素串流媒體這樣的領域開始。這些不是傳統意義上的技術壁壘,但它們是基於資源限製而作出取捨的重大策略選擇。
喜歡io.net 的用戶如何參與?
如果你對io.net 有興趣,有幾種方式可以參與。對於那些在家中擁有消費設備,例如MacBook 或4090遊戲PC 的人,我鼓勵你連接到網路並提供算力。這是一個了解去中心化實體基礎設施網路如何運作的絕佳方式,它們的存在就是為了優化世界上的低效率資源。
對於礦工來說,io.net 提供了一個令人興奮的機會來貢獻和受益。如果你對將GPU 作為資產來賺取收益的想法感興趣,這是值得考慮的。 GPU 是產生收益的資產,通常提供比房子或汽車等傳統投資更快的回報。這不是投資建議,但這是一個值得考慮的角度——算力的財務化。我們將$IO 變成數位石油美元,支援一個完整的財務化產品、工具和服務的生態系統,並在其之上建立整個DeFi 生態系統。
開發者可以嘗試在io.net 上部署叢集,像我今天花了三分鐘就可以部署6000個節點。身為一個普通人以往是很難獲得這樣規模的算力,這是一個新奇且迷人的體驗。
即使你不直接提供算力,仍然有很多機會參與。你可以加入我們社群的討論,例如關於數據可用性、保護抗審查AI 模型和推理的話題。請在Twitter 上關注我們或加入我們的Discord,我們的Discord 中有一些非常聰明、睿智的思想家負責主持,歡迎加入進來進行對話,我們會在這裡。