2024 年 5 月 21 日

輝達

AI晶片新創公司Groq,由前Google資深工程師Jonathan Ross創立,其開發的語言處理單元(LPU)針對大型語言模型如GPT和Llama設計,展現出令人印象深刻的性能,達到750 TOPS和188 TeraFLOPS,並擁有320x320融合點乘矩陣乘法與5,120個向量ALU,提供了超快的推理速度。Groq LPU在LLMPerf排行榜上超越了基於GPU的雲服務提供商如輝達,在推理大型語言模型方面以其卓越的token吞吐量和低延遲成為市場上的直接競爭者,並在各種測試中展示了低延遲性能,成功將其硬件部署於全球研究項目。
輝達的股價在最近的交易中略有波動,收盤時小幅下跌,但盤後交易顯示輕微上升。自年初以來,其股價已經顯著上升,表現出強勁的市場表現。該公司是AI技術領域的重要參與者,即將公布的財報受到廣泛關注,特別是在其供應鏈在AI GPU交付方面顯著改善,以及推出世界上最快的AI超級計算機Eos。
輝達(NVDA)的股票在過去三個月內因其強勁的基本面—特別是57%的高回報權益(ROE)和28%的淨收入五年增長率—而顯著上漲了46%。公司的成功歸功於其在GPU和AI領域的技術進步,這使其成為資料中心領域的關鍵參與者,並受到市場和分析師的高度評價,預期將持續強勁增長。