語音助理、動態定價、自動駕駛汽車等等反映出一種現象AI計算無所不在。在這幾年AI運算加速發展進程中,簡單來講就是無晶片不AI。
晶片公司巨頭英偉達稱,2024財年第二季售出價值103億美元的晶片,根據市場研究公司Omdia估計H100 GPU出貨量超過了816噸。面對如此龐大的晶片量數據,全球晶片荒的現象仍未緩解。時至今日,H100早已一卡難求。
誰控制了英偉達的晶片,誰就控制了AI未來的發展,這絕非虛言。要知道對於大模型“世界”來說,演算法是“生產關係”,算力是“生產力”,數據是“生產資料”。算力就是讓大模型運作起來了前提要求。現在製約AI發展的一大困境就是算力不夠。
現在,有一家被稱為“算力黃牛”的公司CoreWeave,手中掌握了成千上萬塊英偉達的AI“算卡”,還出其不意,將英偉達晶片作為抵押物,成功完成23億美元債務融資,估值在四年內飆升至80億美元。
這家AI雲端運算新秀究竟是如何在Google、微軟等巨頭的競爭中開闢出自己的一片天地呢?
01.挖礦起家
Core Weave由Michael Intrator、Brian Venturo、Brannin McBee於2017年成立,是專業的雲端供應商,在業界最快,最靈活的基礎架構之上提供大規模的GPU運算資源。
Michael Intrator,CoreWeave的首席執行官,負責公司的所有營運工作。在加入CoreWeave之前,Michael Intrator是Hudson Ridge Asset Management(該公司押注天然氣期貨)的共同創辦人和執行長。
Brian Venturo,CoreWeave的共同創辦人兼技術長。在加入CoreWeave之前,他花了十多年的時間建立和經營專注於能源市場的對沖基金。
Brannin McBee身為CoreWeave公司的共同創辦人和首席策略官,在雲端運算和資料分析方面擁有非常專業的知識,為運算密集型應用情境提供專業且可擴展的解決方案。
根據Brian Venturo回憶,2016年他們買了第一個GPU,並在以太坊網路上挖出了第一個區塊,自此便踏入了Web3挖礦業,並在2017年成功將副業轉變為公司營運。
CoreWeave最初作為一家針對以太坊的挖礦公司,他們的生產資料就是GPU,在2018年底就已部署超過50,000個GPU,佔據了以太坊網路算力的1%以上,成為北美最大的以太坊礦工。
隨著市場競爭逐漸激烈,同時受限於電力價格影響,他們意識到在挖礦領域的優勢後續可能會逐漸消失,於是他們決定發展其他領域,開始多元化經營,找準了公司未來的發展方向,實現轉型。
從2019年起,CoreWeave開始專注於購買企業級GPU晶片組,建構專門的雲端基礎設施,圍繞英偉達的晶片調整業務。
乘著AI發展的大浪潮,CoreWeave依托英偉達顯示卡成為雲端運算服務公司,拿下微軟、Google等大客戶,一舉進入獨角獸行列,成為目前全球最大的獨立GPU雲端供應商之一,為VFX、人工智慧、遊戲和醫療等各行各業的客戶提供服務。
CoreWeave迎來了自己發展歷程中的輝煌時刻,事實證明轉型這個決定是正確且幸運的,在大環境的洪流之中,這家新創公司抓住了不斷膨脹的AI市場需求。
02.專業雲端基礎設施
CoreWeave將自己定位於一家專門為企業規模的GPU加速工作負載提供雲端服務的供應商。它的業務模式是基礎設施即服務,以小時出租GPU,客戶只需要以使用時間和計算資源量來支付費用。
根據CoreWeave官網的介紹,其雲端服務包括NVIDIA HGX H100 GPU運算、CPU運算、Kubernetes、虛擬伺服器、儲存、網路服務等六大部分。
其中,Kubernetes提供了一個完全託管的,裸機無伺服器的雲端服務基礎設施,不僅為GPU加速的工作負載提供了最佳的效能,同時降低了DevOps的開銷。
作為英偉達第一家運算精英雲端解決方案供應商,CoreWeave可以在雲端中存取十多個Nvidia GPU SKU,包括H100、A100、A40和RTX A6000,除此Coreweave還提供了全球最大的NVIDIA HGX H100 GPU集群,每個GPU擁有40GB的HBM2記憶體。
而新的融資也將用於購買更多的GPU,以及投資資料中心。
目前,CoreWeave在紐約市、芝加哥和拉斯維加斯設有資料中心,共計為超過5,100萬人提供低延遲存取加速運算。 7月25日,CoreWeave宣布位於德州普萊諾耗資16億美元的新資料中心設施將於2023年12月31日全面運作。
GPU驅動的解決方案
在成功從挖礦產業轉型成功後,CoreWeave主要為四種應用場景和產業提供專業的雲端服務,包括:機器學習和人工智慧、視覺特效和渲染、生命科學批次、元宇宙和像素流。
Blackstone高級董事總經理Jasvinder Khaira表示:“生成式AI不斷增長的運算需求將需要對專門的GPU雲端基礎設施進行大量投資,而CoreWeave顯然是推動創新的領導者。”
訓練機器學習模型,特別是現代深度神經網路模型,是CoreWeave Cloud架構的核心。整個CoreWeave Cloud堆疊專為實現高度可擴展、經濟高效的模型訓練而建置。
在與NovelAI合作的案例中,透過利用CoreWeave的GPU叢集來訓練和運行其基於GPT的人工智慧模型,NovelAI為使用者提供了一個可以根據輸入生成不同類型、風格和主題的文字內容的工具,實現了在三個月內從0增長到了40000名用戶,並且在Reddit等社交媒體上獲得了廣泛的關注和好評。
在人工智慧爆紅之前,CoreWeave的大部分業務來自視覺特效和渲染領域,刻在基因裡的「熟悉感」也讓其在圖形領域具有得天獨厚的優勢。曾為《權力的遊戲》、《行屍走肉》等知名作品提供過視覺特效和渲染服務Molecule VFX,透過利用CoreWeave的GPU集群來加速其基於Blender的渲染流程,大大節省了時間和成本,並提高了畫面品質.
CoreWeave的整個基礎設施專為計算密集型工作負載而構建,從伺服器到儲存和網路解決方案,其設計非常靈活,可以滿足各種不同類型的客戶需求,按小時租賃GPU的模式也吸引了大批對價格敏感的客戶,根據官網訊息,與通用公有雲相比,CoreWeave速度快35倍,成本低80%。而根據a16z分析,CoreWeave的定價遠低於顧客為AWS、微軟、Google甚至甲骨文的GPU所支付的價格。
當下,CoreWeave的首要任務就是加倍努力建立人工智慧基礎設施,並積極開拓此領域的新客戶,由DeepMind共同創辦人Mustafa Suleyman領導的新創公司Inflection AI就是其中之一。 CoreWeave聯合Nvidia和Inflection AI共同建構了一個擁有22,000個Nvidia H100 GPU的AI訓練集群,據稱這是世界上最大的AI訓練集群之一。
CoreWeave為生成式AI、大型語言模型和AI工廠提供加速運算基礎設施的策略將有助於為每個產業帶來最高效能、最節能的運算平台。
03.緊跟萬億GPU霸主步伐
根據Crunchbase的數據,今年4月,CoreWeave完成了2.21億美元的B輪融資,由Magnetar Capital領投,英偉達、前GitHub CEO Nat Friedman和前蘋果高層Daniel Gross參投。隔月,Magnetar Capital又瘋狂加投2億美元,該公司B輪融資總額達到了4.21億美元。
然而這並不是結束,其實這場關於算力晶片的好戲才剛開始。
8月,CoreWeave完成了由Magnetar Capital和黑石(Blackstone)牽頭的23億美元債務融資,頂級機構Coatue和資管巨頭貝萊德(BlackRock)紛紛押注,使得這家公司的估值直接飆升至80億美元。
令人吃驚的是,這23億美元的巨額債務融資竟是以「一卡難求」的英偉達晶片作為抵押品來獲得的,果然,在人工智慧飛速發展的時代,GPU就是貨幣。而CoreWeave與英偉達之間的故事則要從很早之前說起。
早在CoreWeave挖礦起家的時候,使用的就是英偉達的GPU。即使後來遇上了業界的「寒冬」時刻,不少挖礦企業倒閉、顯示卡市場也變得不景氣,CoreWeave也依然沒有斷開與英偉達的聯繫,反而大量囤積顯卡,一段深厚的革命友誼就此展開。
後來,CoreWeave轉型為服務通用雲端運算平台的公司,利用其擁有的超過5萬個英偉達GPU來為各種人工智慧、渲染、遊戲等領域的客戶提供服務。在此期間,CoreWeave一直與英偉達保持著良好的合作關係,它們成為了彼此忠實的合作夥伴。
豪氣如英偉達,怎麼會虧待自己的兄弟呢?所以在英偉達H100十分緊缺的情況下,CoreWeave還是分配到了大量新卡,而該公司也是全球首批使用英偉達最新HGX H10晶片的雲端服務商之一。就是這樣,CoreWeave透過不斷的創新和優化,「抱緊了英偉達的大腿」。
除了有英偉達這個靠山,CoreWeave本身的競爭優勢也十分明顯。首先該公司專注於GPU運算,而不是像其他雲端服務商那樣提供各種通用的雲端服務,這使其能夠更好地優化硬體和軟體,同時提高效率和效能。並且,CoreWeave擁有自己的資料中心和硬體設備,這使得它可以降低營運成本和提高利潤率。除此之外,基於AI工作負載的GPU雲端服務使其可以更好地滿足使用者的特定需求和期望。
從整個雲端運算競爭市場來看,Google、亞馬遜和微軟依然佔據大部分市場份額,根據Statista 2023年第二季數據報告,Amazon、Microsoft和Google等8家雲端服務商控制了市場的80%份額。其中,AWS去年營收達到了801億美元,Google雲端和Azure營收也遠遠超出了CoreWeave的估值。
在這樣的激烈競爭中,CoreWeave選擇緊跟著英偉達,沒有自主研發晶片,只做算力資源集中的策略讓其在人工智慧興起的機遇下緊緊抓住了適合自己的賽道和機會。
04.未來角斗場
先進的技術、靈活的平台、低廉的價格和專業的服務,讓CoreWeave在GPU雲端市場上展現了強大的競爭力。據預測,GPU雲市場在未來幾年將持續成長,尤其是在AI領域。而CoreWeave可望藉由此趨勢,進一步擴大其市場份額和影響力,成為當代AI領域最重要的運算產品之一。
人工智慧技術的蓬勃發展加速了市場對算力基礎設施的需求,對於投資者來說,生成式人工智慧仍然是一個很大的亮點。根據PitchBook的數據,2023年第一季度,生成式人工智慧新創公司在46筆交易中獲得了約17億美元的收益。
在當今的人工智慧競賽中,率先進入市場至關重要。而CoreWeave致力於幫助公司獲得快速進入市場所需的運算資源,專為計算密集型工作負載打造解決方案,這使其成為那些急於將產品推向市場的人工智慧新創公司的一個絕佳之選。
CoreWeave執行長兼聯合創始人Mike Intrator表示,“我們知道人工智慧算力需求即將爆炸式增長,所以我們做了數年時間的準備工作以應對這一刻。”正所謂“十年磨一劍” ,在這場關於AI算力的爭霸賽中,CoreWeave似乎已勝券在握。