圖/Shutterstock
新聞資訊
輝達(NVDA) 今天宣布推出 GeForce RTX™ SUPER 桌面 GPU,用於增強生成 AI 性能,來自所有頂級製造商的新 AI 筆記本電腦,以及針對開發人員和消費者的新 NVIDIA RTX™ 加速 AI 軟件和工具。
基於數十年的 PC 領導地位,擁有超過 1 億個 RTX GPU 驅動 AI PC 時代,輝達現在提供這些工具以增強 PC 體驗和生成 AI:NVIDIA TensorRT™ 加速流行的穩定擴散 XL 模型用於文本到圖像的工作流程,NVIDIA RTX Remix 帶有生成 AI 紋理工具,NVIDIA ACE 微服務和更多使用 DLSS 3 技術和框架生成的遊戲。
AI Workbench,一個統一且易於使用的工具包,將於本月晚些時候提供測試版。此外,NVIDIA TensorRT-LLM(TRT-LLM),一個加速並優化最新大型語言模型(LLM)推理性能的開源庫,現在支持更多針對 PC 優化的模型。由 TRT-LLM 加速,本月也將發布的 輝達技術演示 Chat with RTX,使 AI 愛好者能夠與其筆記、文件和其他內容進行互動。
在 PC 上本地運行生成 AI 對於隱私、延遲和成本敏感的應用至關重要。它需要大量已安裝的 AI 就緒系統,以及正確的開發工具來調整和優化 PC 平台的 AI 模型。
為了滿足這些需求,輝達正在其完整技術堆疊中提供創新,推動新體驗並在 NVIDIA RTX 技術已加速的 500 多個 AI 啟用 PC 應用和遊戲的基礎上建立。
RTX AI PC 和工作站 NVIDIA RTX GPU – 能夠以最高性能運行廣泛的應用 – 在 PC 上釋放生成 AI 的全部潛力。這些 GPU 中的張量核心大大提高了工作和遊戲中最苛刻應用的 AI 性能。
今天在 CES 上宣布的新 GeForce RTX 40 SUPER 系列顯卡包括 GeForce RTX 4080 SUPER、4070 Ti SUPER 和 4070 SUPER,用於頂級 AI 性能。 GeForce RTX 4080 SUPER 生成 AI 視頻的速度比 GeForce RTX 3080 Ti GPU 快 1.5 倍 – 圖像快 1.7 倍。 SUPER GPU 中的張量核心每秒可提供高達 836 萬億次操作,為遊戲、創作和日常生產力帶來變革性的 AI 能力。
領先的製造商,包括宏碁、華碩、戴爾、惠普、聯想、微星、雷蛇和三星,正在推出新一代 RTX AI 筆記本電腦,為用戶提供全套生成 AI 功能。這些新系統的性能比使用神經處理單元高出 20 至 60 倍,將於本月開始出貨。
搭載 RTX GPU 的移動工作站可以運行 NVIDIA AI 企業軟件,包括 TensorRT 和 NVIDIA RAPIDS™,用於簡化和安全的生成 AI 和數據科學開發。每個NVIDIA A800 40GB Active GPU 都包含三年 NVIDIA AI 企業授權,提供理想的 AI 和數據科學開發工作站平台。
新的 PC 開發工具,用於構建 AI 模型
為了幫助開發者快速創建、測試和定制預先訓練的生成 AI 模型和 LLM,輝達最近宣布了 NVIDIA AI Workbench。
AI Workbench 將於本月晚些時候提供測試版,提供對流行存儲庫(如 Hugging Face、GitHub 和 NVIDIA NGC™)的流暢訪問,並提供簡化的用戶界面,使開發者能夠輕鬆地重現、合作和遷移項目。
項目可以擴展到幾乎任何地方——無論是數據中心、公共雲還是 NVIDIA DGX™ Cloud——然後帶回到 PC 或工作站上的本地 RTX 系統進行推理和輕度定制。
輝達正在與惠普合作簡化 AI 模型開發,將 NVIDIA AI 基礎模型和端點(包括 RTX 加速的 AI 模型和軟件開發工具包)整合到惠普 AI 工作室中,這是一個集中的數據科學平台。這將使用戶能夠輕鬆地在 PC 和雲中搜索、導入和部署優化模型。
在為 PC 用例構建 AI 模型後,開發者可以使用 NVIDIA TensorRT 進行優化,以充分利用 RTX GPU 的張量核心。
輝達最近將 TensorRT 擴展到基於文本的應用程序,推出了適用於 Windows 的 TensorRT-LLM,這是一個用於加速 LLM 的開源庫。目前可用的 TensorRT-LLM 的最新更新將 Phi-2 添加到不斷增長的 PC 預優化模型列表中,與其他推理後端相比,運行速度最高可提高 5 倍。
RTX 加速生成 AI 為新的 PC 體驗提供動力
在 CES 上,輝達及其開發合作夥伴正在為 PC 發布新的生成 AI 驅動的應用程序和服務,包括:
NVIDIA RTX Remix,一個用於創建令人驚嘆的 RTX 經典遊戲翻新版本的平台。本月晚些時候發布測試版,它提供了生成 AI 工具,可以將經典遊戲的基本紋理轉換為現代 4K 分辨率的基於物理的渲染材料。
NVIDIA ACE 微服務,包括生成 AI 驅動的語音和動畫模型,使開發者能夠向遊戲中添加智能、動態的數字化虛擬形象。
TensorRT 加速Stable Diffusion XL(SDXL)Turbo 和其他類似模型,這是最流行的Stable Diffusion加速方法之一。與以前最快的實現相比,TensorRT 將兩者的性能提高了高達 60%。Stable Diffusion WebUI TensorRT 擴展的更新版本現已推出,包括對 SDXL、SDXL Turbo、LCM – 低秩適應(LoRA)和改進的 LoRA 支持的加速。
NVIDIA DLSS 3 帶有框架生成,它使用 AI 將幀率提高到原生渲染的 4 倍,將出現在 14 款新宣布的 RTX 遊戲中的十幾款中,包括 Horizon Forbidden West、Pax Dei 和 Dragon’s Dogma 2。
Chat with RTX,本月底將提供,允許 AI 愛好者使用稱為檢索增強生成(RAG)的流行技術輕鬆連接 PC LLM 到他們自己的數據。該演示由 TensorRT-LLM 加速,使用戶能夠快速與其筆記、文件和其他內容互動。它還將作為開源參考項目提供,因此開發人員可以輕鬆地在他們自己的應用程序中實現相同的功能。
放大鏡短評
就本新聞看來,AI PC事實上並不是硬體上,而是軟體上的概念,大多新推出的平台或加速原理早已可以在搭載RTX GPU的筆電上運作,新推出的硬體設備只是在運算效能上有所進步,或許NPU更適合用在中低價位或是手機端上使用。
延伸閱讀:
【美股新聞】輝達在中國面臨新難題:客戶不喜歡降規晶片
【美股新聞】AMD股價飆漲近10%!推出競爭Nvidia的新AI晶片,市值重返高峰!
版權聲明
本文章之版權屬撰文者與 CMoney 全曜財經,未經許可嚴禁轉載,否則不排除訢諸法律途徑。
免責宣言
本網站所提供資訊僅供參考,並無任何推介買賣之意,投資人應自行承擔交易風險。