方正證券:存力最佳化才是大模型終端應用的重中之重

根據《科創板日報》9 月19 日報道,方正證券近日在研報中表示,不同於雲端算力搭配專用GPU 工作,本地模型推理的算力更依賴終端硬體SoC,算力瓶頸可以靠著未來的晶片架構升級(Chiplet)以及製程升級(3 nm/2 nm 製程)解決,存力優化才是大模型終端應用的重中之重。存力是未來LLM 終端化應用的最大障礙,未來最先進的行動端設備或有望率先搭載HBM 突破這一障礙。來自訓練、推理環節的存力需求持續成長將帶動HBM 市場擴容,同時消費端及邊緣側算力需求趨勢也將開啟HBM 中長期維度市場空間,國內產業鏈也將在材料、設備及產品等各個環節受益。

巴比特訊

Total
0
Shares
Related Posts