2024 年 4 月 15 日

Nvidia

ServiceNow 與 NVIDIA 宣布擴大合作夥伴關係,推出針對電信業的生成式 AI 解決方案。 首款解決方案為 Now Assist for TSM,可提升客服人員工作效率、縮短問題解決時間,並優化客戶體驗。 Now Assist for TSM 將生成式 AI 應用於客戶服務與維運保障兩大領域。 此合作旨在解決電信產業的挑戰,推動全球電信公司的業務轉型。
AI晶片新創公司Groq,由前Google資深工程師Jonathan Ross創立,其開發的語言處理單元(LPU)針對大型語言模型如GPT和Llama設計,展現出令人印象深刻的性能,達到750 TOPS和188 TeraFLOPS,並擁有320x320融合點乘矩陣乘法與5,120個向量ALU,提供了超快的推理速度。Groq LPU在LLMPerf排行榜上超越了基於GPU的雲服務提供商如輝達,在推理大型語言模型方面以其卓越的token吞吐量和低延遲成為市場上的直接競爭者,並在各種測試中展示了低延遲性能,成功將其硬件部署於全球研究項目。
英特爾在2024年第一季度的盈利預測未能達到分析師的預期,導致其股價下跌超過8%。儘管2023年第四季度的業績超出預期,但由於對2024年第一季度的展望不佳,市場反應負面。此外,儘管面臨在數據中心AI和AI專用晶片市場的競爭壓力,但英特爾的首席執行官Pat Gelsinger對公司的前景保持樂觀。