作者:Kyle Samani(Multicoin Capital合夥人) 和ChatGPT;翻譯:金色財經cryptonaitive和ChatGPT
注:這篇文章的絕大部分內容,包括大部分標題,都是由ChatGPT 撰寫的。作者寫的文字是斜體的。你可以在這裡看到作者與ChatGPT 的對話過程。
Crypto 和AI 的世界一直在並行發展,每個領域都在突破技術和創新的界限。隨著我們在這兩個領域不斷取得進展,越來越清楚的是,它們的未來是密切糾纏在一起的。在這篇文章中,我們將探索Crypto 和AI 十字路口的四個重要交叉點。
“顯卡的AirBnB”模型
AI 和機器學習 (ML) 工作負載的興起對 Nvidia A100 等高性能顯卡產生了巨大需求。作為回應,出現了一個類似於“顯卡的AirBnB”的新市場。這允許個人和組織出租他們未使用的 GPU 資源,以滿足 AI 研究人員和開發人員的需求。
這是市場歷史上真正獨特的時刻。在 ChatGPT 推出之前,GPU 的供應已經供不應求。從那時起,需求可能至少增長了 10 倍,甚至可能增長了 100 倍。此外,我們知道模型隨著訓練規模的增加呈對數增長;這意味著對 GPU 計算的需求呈指數級增長,以提高模型質量。儘管總供應遠遠超過需求,但對商品的需求如此巨大地超過可用供應的時刻很少見;如果今天地球上的每一個 GPU 都可用於 AI 推理和訓練,那麼就不會短缺,而是會過剩!
然而,在探索“顯卡的 AirBnB”的概念時,需要考慮幾個主要的技術挑戰:
-
並非所有顯卡都能支持所有工作負載:顯卡有各種形狀、尺寸和規格。因此,某些 GPU 可能無法處理某些 AI 任務。為了使該模型取得成功,需要有一種方法將正確的 GPU 資源與適當的 AI 工作負載相匹配。隨著市場的成熟,我們應該期待看到針對不同 AI 任務的顯卡進一步專業化和優化。
-
調整訓練過程以適應更高的延遲:今天的大多數基礎模型都是在GPU 集群上訓練的,GPU通過極低延遲連接。在去中心化環境中,延遲會增加幾個數量級,因為 GPU 可能分佈在多個位置並通過公共互聯網連接。為了克服這一挑戰,有機會開發出新訓練過程,它們具有更高延遲連接。通過重新思考我們訓練 AI 模型的方式,我們可以更好地利用更大 GPU 的去中心化集群。
-
驗證問題:無法知道不受信任的計算機是否執行了特定代碼段。因此,很難相信不受信任的計算機的輸出。然而,這個問題可以通過信譽系統與加密經濟質押相結合來緩解,在某些情況下,還可以通過支持快速驗證的新型模型來緩解。
有相當多的團隊在這個領域工作,包括訓練和推理。 Multicoin Capital投資了Render Network, Render Network最初專注於3D渲染,並且已經開放了它的 GPU 網絡來也支持AI推理。
除了 Render Network,還有一些其他公司在這個領域工作:Akash、BitTensor、Gensyn、Prodia、Together,以及其他仍處於開發中的項目。
代幣激勵RLHF (Reinforcement Learning from Human Feedback,基於人類反饋的強化學習)
代幣激勵幾乎肯定不會適用於從人類反饋中強化學習(RLHF)的所有用例。問題是,我們可以使用什麼框架來考慮什麼時候代幣激勵對 RLHF 有意義,什麼時候應該使用現金支付(例如 USDC)。
隨著以下情況變得更加真實,代幣激勵可能會改善 RLHF:
-
該模型變得更加狹小和垂直(與通用和橫向相對,例如 ChatGPT)。如果某人將提供 RLHF 作為他們的主要工作,並因此通過提供 RLHF 產生大部分收入,他們可能需要現金來支付租金和購買食物。當你從一般查詢轉向更具體的領域時,模型開發人員將需要更多訓練有素的員工參與,他們更有可能獲得整體商業機會的長期成功。
-
在 RLHF 工作本身之外提供 RLHF 的人的收入越高。如果一個人有足夠的收入或其他努力的儲蓄來證明在特定領域的 RLHF 模型中投入有意義的時間的風險是合理的,那麼他們只能接受鎖定/非流動性代幣作為補償而不是現金。為了最大限度地提高成功的可能性,模型開發人員不應該只向提供特定領域 RLHF 的工作人員發放未鎖定的代幣。相反,代幣應該在一段時間內授予,以激勵長期決策。
代幣激勵 RLHF 模型可能適用的一些行業包括:
-
醫學: 人們應該能夠與法學碩士一起從事輕量級、第一反應的診斷,以及長期預防和長壽醫學。
-
法律: 企業主和個人應該能夠使用大語言模型來更有效地駕馭各種異構法律體系的複雜性。
-
工程和建築:增強設計工具或仿真模型。
-
金融和經濟:改進預測模型、風險評估和算法交易系統。
-
科學研究:完善用於模擬實驗、預測分子相互作用和分析複雜數據集的 AI 模型。
-
教育和培訓:為人工智能驅動的學習平台做出貢獻,以提高教育內容的質量和有效性。
-
環境科學與可持續性:優化人工智能模型以預測環境趨勢、資源分配和促進可持續實踐。
有一個垂直領域的代幣激勵 RLHF 已經投入生產:地圖。 Hivemapper不僅對司機有好處,對投入時間編輯和整理地圖數據的地圖編輯人員也有好處。你可以使用 Hivemapper 自己嘗試地圖人工智能訓練工具.
零知識機器學習 (zkML)
區塊鏈不知道現實世界中發生了什麼。然而,了解發生在鏈外的事件對他們來說是非常有益的,這樣他們就可以根據現實世界狀態以編程方式轉移價值。
預言機解決了這個問題的一部分。但是預言機還不夠。僅僅將現實世界數據中繼到鏈上是不夠的。在進入鏈之前,需要計算很多數據。例如,讓我們考慮一個收益聚合器,它需要在不同池子之間轉移存款以賺取更多收益。為了以信任最小化的方式做到這一點,聚合器需要計算所有可用池子的當前收益和風險。這很快就變成了適合 ML 的優化問題。然而,在鏈上計算 ML 的成本太高,因此這對 zkML 來說是一個機會。
像Modulus Labs這樣的團隊現在正在這個領域建設。我們希望更多的團隊使用通用 ZKVM 在這個領域進行構建,例如Risc Zero和Lurk。
深度偽造時代的真實性
隨著深度偽造變得越來越複雜,保持對數字媒體的真實性和信任至關重要。一種解決方案涉及利用公鑰密碼學,允許創作者通過使用公鑰對其內容進行簽名來保證其內容的真實性。
公鑰本身不足以解決真實性問題。需要有一個公共記錄,將公鑰映射到真實世界的身份,以便進行驗證和建立信任。通過將公鑰與經過驗證的身份相關聯,可以創建一個反饋和懲罰系統,如果有人被發現濫用他們的密鑰,例如在深度偽造的圖像或視頻上簽名。
為了使這個系統有效,公鑰簽名與現實世界身份驗證的集成將是至關重要的。支撐許多加密貨幣系統的區塊鏈技術可以在創建去中心化和防篡改的身份註冊方面發揮重要作用。該註冊表會將公鑰映射到真實世界的身份,從而更容易建立信任並追究不良行為者的責任。
至少會有兩種配置:嵌入式硬件和用戶控制的軟件。
-
嵌入式硬件:我們預計智能手機和其他設備將很快集成基於硬件的本地圖像、視頻和其他媒介簽名功能。
Solana Labs 最近推出了Saga電話,它由Solana 移動堆棧(Solana Mobile Stack,SMS)驅動。在接下來的幾個月裡,我希望 SMS 能夠得到更新,以便每張照片都使用 SMS 進行簽名種子庫SDK,證明照片不是由 AI 生成的。
-
用戶控制的軟件:人們將使用Photoshop、Octane 等設計工具和 Stable Diffusion 等圖像生成器來製作藝術品。我們期望這些軟件提供商將集成公鑰加密機制,使創作者能夠證明真實性,同時也承認在製作過程中使用的工具。
結論
總之,加密貨幣和人工智能技術的融合為應對緊迫挑戰和解鎖跨多個行業的創新解決方案提供了大量機會。通過探索這些領域的交叉點,我們可以找到新的方法來優化 AI 訓練中的資源分配,利用代幣激勵從人類反饋中進行特定領域的強化學習,並在面對深度偽造時保持數字媒體的真實性。
“顯卡的 AirBnB”模型提供了去中心化和民主化訪問高性能 GPU 的潛力,使更多的人和組織能夠為 AI 研究和開發做出貢獻。代幣激勵的 RLHF 可以應用於從工程和金融到教育和環境科學的各個行業,通過利用領域專家的知識改進人工智能模型。 ZKML 將允許區塊鏈根據現實世界中的複雜變化更新鏈上的財務狀態。最後,通過將公鑰密碼學與現實世界的身份驗證和區塊鏈技術相結合,我們可以創建一個強大的系統來應對深度偽造帶來的挑戰並保持對數字媒體的信任。
隨著我們不斷發現加密和人工智能之間的協同作用,我們無疑會發現更多機會來推動創新、創造價值並解決當今社會面臨的一些最緊迫的問題。擁抱這兩個領域之間的交叉點將幫助我們突破技術的界限,塑造一個更加互聯、高效和真實的未來。