原粒半導體創始人方紹峽：大模型將催生邊緣算力需求

據界面新聞6 月27 日報導，原粒半導體創始人兼CEO 方紹峽在接受采訪時表示，大模型的爆發首先帶動的是訓練，算力需求目前最緊俏也是這部分，英偉達目前在訓練一側是絕對的霸主。但當大模型訓出來後，開放API 響應廣大網友們每天的各種請求，推理的算力價值就會被浮出水面。方紹峽還表示，與雲計算的數據中心架構相比，大模型在邊緣端的智能計算是在一個已經訓練好、有基本智能水平的模型基礎上。當邊緣端具備多模態大模型的離線學習進化能力時，本地模型將變成私人定制化的東西，數據也無需再往雲端上傳。這部分推理與訓練微調過程主要依賴邊緣多模態大模型AI 算力。據悉，原粒半導體是一家AI Chiplet 供應商，公司正式成立於今年4 月，創始團隊來自國際半導體巨頭，在AI 芯片領域深耕多年。該公司目標是通過結合創新的多模態AI 處理器技術與Chiplet 設計方法，提供高能效、低成本的通用AI Chiplet 組件。