世界熱推薦:金山辦公與NVIDA團(tuán)隊(duì)合作 加速WPS AI落地
2023-06-30 14:29:24 | 來(lái)源:云財(cái)經(jīng) |
2023-06-30 14:29:24 | 來(lái)源:云財(cái)經(jīng) |
(相關(guān)資料圖)
據(jù)金山辦公(688111)官微,金山辦公(688111)與NVIDIA團(tuán)隊(duì)合作,通過(guò)NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識(shí)別與理解的推理效率;借助NVIDIA Triton推理服務(wù)器的部署,成功優(yōu)化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗時(shí)共下降84%;采用NVIDIA Triton推理服務(wù)器部署,其部署成本節(jié)省了 23%。