英偉達推出Tensor RT-LLM，讓大語言模式在搭載RTX 的PC 平台上運作速度提高4 倍

根據IT 之家消息，10 月18 日，英偉達宣布推出TensorRT-LLM 開源程式庫，旨在提升大型語言模型（LLM）在本機Windows PC 上的效能。據悉，這個庫之前是為資料中心發布的，現在也可以用於Windows PC。最大的特點是，如果Windows PC 配備英偉達GeForce RTX GPU，TensorRT-LLM 可以讓LLM 在Windows PC 上的運行速度提高四倍。此外，英偉達今天還在新的GeForce 驅動更新中增加了一些基於人工智慧的功能。其中包括新的1.5 版本的RTX Video Super Resolution 功能，可在觀看線上影片時提供更好的解析度提升效果和更少的壓縮效果。英偉達也為Stable Diffusion Web UI 增加了TensorRT 人工智慧加速功能，讓擁有GeForce RTX GPU 的使用者可以比正常情況下更快地從人工智慧圖片產生器中取得影像。