巴比特訊，8 月25 日，據公眾號“雷軍”，小米雷軍錶示，小米做大模型的思路和很多公司不太一樣，選擇主力突破的是輕量化和本地部署。目前小米自研的13 億參數的端側模型已經在手機端跑通，部分場景效果媲美60 億模型在雲端的運算結果。與早些時候市場上放出的手機端大模型的方案相比，小米會調整模型結構和參數大小，適配各種芯片在內存和算力上的特點，致力於達到功耗、推理速度和生成效果的最佳平衡。
巴比特訊
dark