金山辦公與NVIDA 團隊合作,加速WPS AI 落地

據財聯社報導,6 月30 日,金山辦公與NVIDIA 團隊合作,加速WPS AI 落地,通過NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識別與理解的推理效率;借助NVIDIA Triton 推理服務器的部署,成功優化GPU 利用率,提供高推理吞吐量。相比於CPU 其pipleline 耗時共下降84%;採用NVIDIA Triton 推理服務器部署,其部署成本節省了23%。

巴比特訊

Total
0
Shares
Related Posts