a16z「左上角」Kuzco指引:高效率進行AI算力挖礦的方法解析


Kuzco是一個專注於LLM大語言模型算力挖礦的項目,獲得了a16z的支持。與io.net不同,Kuzco注重提供實際價值,而io.net則被視為“空中樓閣”,因其市場預期高於實際表現。 Kuzco利用閒置的GPU資源為大型語言模型提供高效算力,使用者可以透過相容API使用這些模型。目前,Kuzco正在進行階段性測試,未來有潛力因市場的變化和技術的發展而增值,尤其是在AI算力需求日益增長的背景下。

作者:J1N,科技新聞

前言

作者今天分享的Kuzco是一個專門服務LLM大語言模型算力挖礦網絡,今年曾是a16z在紐約啟動的加密貨幣創業加速器(CSX)秋季加速器計劃,被該計劃選中的項目將在8週內至少獲得a16z 50 萬美元的投資,並會得到a16z 營運團隊的指導與支持。目前來說,離該計畫結束大約還剩2 週時間。

Kuzco專案還是一個非常早期的階段,與io.net 同屬於GPU 算力網路領域,但走的是不同的發展方向。而io.net 因為有強大的資金支持和背景,已經比Kuzco 更早完成了對用戶的空投,並成功上線了幣安、Coinbase、Bybit等主流加密貨幣交易所,獲得了更大的市場曝光。

筆者親自參與了io.net 的挖礦費,老實說,整個過程就像是讓顯卡“掛著賺錢”,一般假設顯卡空掛著,它就自動給你生成收益,連電都沒有怎麼辦每台礦機每天消耗電才1.2度,三個月總共才10.8美元電費。加上最終上顯示卡的折舊費和上網工具的零頭,100到200美元的成本輕鬆搞定。獲得4000美元收益,怎麼看都覺得,這個計畫就像是左腳踩右腳螺旋上漲的「空中樓閣」。

而後續代幣價格的下跌驗證了這一點。另外,文人也編譯了一篇文章,標題是《價格暴跌70%:AI算力引導泡沫是如何破滅的? 》,這篇文章也進一步反映了AI算力市場的泡沫。是租賃市場的價格還是項目代幣的下跌,都是市場在修正這些項目的真實價值,這種價格回檔是符合市場規律的,說明未來可能會朝著更理性的方向發展。

Kuzco 在挖礦機制上與先前的熱門項目io.net 有顯著不同。 io.net 是「空中樓閣」,依靠顯示卡空掛就能輕鬆獲得訂單倍數的收益,背後支撐的實際價值並不明顯。而Kuzco則更加腳踏實地,並且得到了a16z的支持。我花了幾週時間,認真測試了不同配置的礦機,包括單卡、多卡以及不同系統的建造。透過這些實際操作,我支持了大家分享這些實操,讓大家了解一個為用戶提供實際價值的挖礦專案經驗,而不是僅僅依靠泡沫支撐的虛假繁榮。

專門服務LLM大語言算力模型挖礦網絡

Kuzco 是一個Solana 生態的去中心化GPU 網絡,旨在有效利用個人用戶的閒置GPU 資源,為大型語言模型(如Llama3、Mistral、Phi3)提供廉價的算力服務。使用者可以透過與OpenAI 相容的API來使用這些模型。 Kuzco的架構架構能夠靈活配置的算力資源,實現大型語言模型的運行,同時透過獎勵激勵機制提供算力的礦工。

專案營運狀況

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

10月21日,Kuzco專案有2,000台線上GPU礦機,最高時曾達6,000台。最常用的GPU型號包括3090、3060等。礦工目前獲得的是KZO Point獎勵,但這些積分還不能變現,同時專案也還沒有公佈代幣經濟模型。創作者推測,隨著a16z 加速器計畫的推進,該計畫未來可能會有更多新的進展和更新發布。

如何部署

官方硬體需求

Kuzco專案可以在Mac、Windows 和Linux 作業系統上運行,支援多種不同的硬體配置。系統最低要求是16GB 的運作記憶體、30GB 的可用磁碟空間和至少10MB/s 的網路頻寬。 Kuzco 支援至少有8GB記憶體的NVIDIA(N卡)和AMD(A卡)顯示卡,一般用戶的N卡最低要求是GTX750,而專業的算力顯示卡大部分都支援。

筆者,不建議使用A卡進行力算挖礦,因為AMD 顯示卡的兼容性較差,尤其是在查看AI任務中的表現不如N卡。如果你一定要使用A卡,需要官方的兼容性支援不過列表。在AI 領域,作者必須說一句:AMD,NO

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

作家的五卡平台,主機板華子Z490

筆者測試了幾款硬體的挖礦效率,但由於網路活躍,效率表現可能會改變。

GTX1070:20托克/秒

RTX2060:30托克/秒

RTX2070S:40托克/秒

RTX3080:80托克/秒

RTX4060Ti:50托克/秒

RTX4070S:70托克/秒

M2:20托克/秒

M3:30托克/秒

單位:Avager代幣/ Second (平均每秒完成的代幣計算量)

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

即時監測礦機運作狀況

配置方式

Kuzco 提供了客戶應用,使用者可以下載並使用它來啟動挖礦,但這種方式有時會不穩定,可能會斷線,並且不會自動重新啟動。 文獻建議更穩定的做法是使用Linux 系統或Windows 的WSL(Windows Subsystem for Linux)環境,透過命令列(CLI)或Docker 容器來啟動挖礦。如果需要使用多張顯示卡,可以在Linux 中透過Docker 容器指定某個GPU 來進行多卡挖礦。例如要使用多張顯示卡指定GPU0:「docker run –rm –runtime=nvidia –gpus ‘」device=0″’ -d kuzcoxyz/worker:latest –worker –code 」,即可啟動多個圖形處理器

多卡挖礦時請注意以下硬體設備硬體層面需要:

電源:電源是關鍵,不能省錢。建議以「1人民幣=1瓦」的標準來購買,並盡量使用金牌電源。挖礦時根據顯示卡的數量選擇1500W到2000W的電源,或使用多個電源,但多個電源需要額外的啟動線連接主機板才能正常供電。否則無法正常啟動。

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

消耗資訊

線材:在高功耗的環境下,電源線容易損壞,所以作者建議使用品質較好的電源線。另外,不同品牌的模組電源所使用的線材介面不一樣,不能通用。如果使用不同品牌的線材,可能會導致設備損壞或燒毀。因此,線材必須與電源的品牌保持一致,確保相容性。

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

電源線老化損壞

主機板:主機板的每個通道(配備x1、x8、x16)只能支援一張顯示卡。例如有幾個通道就可以支援幾張顯示卡。以太坊挖礦時期流行的B85主機板是不錯的選擇。

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

工匠參與以太坊挖礦時留下的B85平台,已報廢

CPU:因為需要同時處理多個任務,CPU的執行緒越多越好。在使用Docker啟動挖礦時,很少會佔用大量的CPU資源。如果使用多張顯示卡,必須依序逐一啟動,否則系統可能會崩盤或卡住。

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

要上i9,沒有必要為了面子上e5

顯示卡:一個Docker 程序大約佔用6 GB 記憶體(官方文件寫8 GB,實際6 GB 即可運作),如果顯示卡有12GB 顯示記憶體,你可以在一張顯示卡上執行兩個Docker 程序。挖礦時,顯示卡的工作負載會佔用50%到90%,且顯示卡的溫度應保持在85度以內,才是合理且安全的。

PCIE轉接線:建議使用x1轉x16的PCIE轉接線,x1插主機板,x16插顯示卡。若使用40系列顯示卡,則需要使用x16的延長線。

網路連線品質:網路連線品質對挖礦效率產生很大影響。 文學測試發現,利用新加坡的網路節點接收到的算力任務比提高香港節點更多,轉發,選擇更好的網路節點可以挖礦效率。

挖礦過程中如果發生故障狀況,首先要檢查主機板和軟體的運作狀況。如果問題出現在軟體方面,可以透過查看終端錯誤訊息來判斷,可能是記憶體錯誤,需要重新啟動電腦;或者是因為官方文件更新,本地礦機未及時更新程式碼導致,解決方法是更換節點或更新程式碼。

a16z「左上角」Kuzco實作指引:如何有效率地進行AI算力挖礦?

運行錯誤

在硬體層面,如果礦機無法開機,請先檢查主機板上的故障燈。以華碩主機板為例,最常遇到的是VGA亮白燈,其表示顯示卡電源有問題,遇到這種情況嘗試重新嘗試拔掉PCIE和顯示卡電源線。不過,有時白燈可能會亮起但機器仍正常運作。

總結

雖然有作者把io.net 稱為「空中樓閣」,意指它的市值被嚴重高估,但它確實憑藉10 億美元的估值成功融資了4000 萬美元。然而,io.net 上線後,出現了許多仿盤,這些仿盤的產品和背後的資方都無法經受嚴格考證,說明io.net的成功並不是每個專案都能輕易複製的。

基於這個觀察,作者一直在尋找一個更具實際價值的挖礦計畫。最終,作者發現了Kuzco。 Kuzco 首先獲得了a16z 的授權和支持,這增加了其可信度和潛力。其次,Kuzco 的挖礦機制真正實現是透過GPU提供力算服務。

更重要的是,從宏觀角度來看,Kuzco 所在的領域,大型語言模型(LLM)是當前大眾使用最廣泛的AI 產品,全球每天都有無數人在使用這些模型,而這些模型需要龐大的計算筆者認為,為如此龐大的需求提供算力,不僅非常有意義,而且具有實際的商業價值,因此,Kuzco 是一個值得關注的項目。

再來就是參與GPU算力網路的成本較低,尤其是40系列二手顯示卡在市場的價格穩定,折舊成本低,因此值得購買。不過,作者提醒選擇租用顯示卡,因為租卡的費用比買二手顯示卡高很多。同時,Kuzco 的空投並不明確,如果交易發生大規模租卡將會有更大的風險。

而且礦機本身有很好的擴展性,除了Kuzco之外,還可以用來挖其他GPU項目,或者用它成為區塊鏈的節點驗證者,一些有價值的運行腳本和服務來增加更多的收益。這即使意味著不再挖Kuzco,礦機仍然可以繼續產生。

最後很多人問挖礦一天能獲得多少收益,這個問題沒有明確的答案,除了專案方,沒有人能準確知道最終的收益是多少。挖礦的回報有很多不確定性,可能會有很大的收益,也可能低於預期,所以無法事先確定具體能賺多少錢。

資訊來源:0x資訊編譯自網際網路。版權歸作者Techub News所有,未經許可,不得轉載

Total
0
Shares
Related Posts