AI晶片新創公司Groq,由前Google資深工程師Jonathan Ross創立,其開發的語言處理單元(LPU)針對大型語言模型如GPT和Llama設計,展現出令人印象深刻的性能,達到750 TOPS和188 TeraFLOPS,並擁有320x320融合點乘矩陣乘法與5,120個向量ALU,提供了超快的推理速度。Groq LPU在LLMPerf排行榜上超越了基於GPU的雲服務提供商如輝達,在推理大型語言模型方面以其卓越的token吞吐量和低延遲成為市場上的直接競爭者,並在各種測試中展示了低延遲性能,成功將其硬件部署於全球研究項目。
Rosenblatt Securities 的分析師 Hans Mosesmann 將美超微(SMCI)的股票價格目標從 $700 上調至 $1,300 並維持買入評級,這一調整背後的關鍵因素包括美超微採用水冷散熱伺服器技術,這對於解決 AI 雲計算的挑戰至關重要。儘管美超微股票在周二下跌了 6.8%,無明顯原因,主要似乎是對其過度樂觀估值的糾正,但其年內上漲了 175%,過去一年漲幅達 757%,顯示出強勁的市場表現和增長潛力。
蘋果公司的最新產品Vision Pro,雖然提供了創新的空間計算體驗,結合了數位內容與實體世界,但因價格高昂、重量大、舒適度差、引起頭痛和眼睛疲勞等問題,近期出現了一波退貨潮。同時,蘋果正積極開發名為iPhone Flip的可折疊iPhone,預計最早於2025年推出,該設備將採用傳統的摺疊設計和連續螢幕,並有消息指出Apple Vision Pro團隊的關鍵人員已被調至該項目以加速開發進程。
微軟正在開發一款新的網絡卡以提升其Maia AI伺服器晶片的性能,這可能會減少對英偉達的依賴,並已指派Pradeep Sindhu領導此項目。這項創新旨在縮短OpenAI在微軟伺服器上訓練模型的時間並降低成本,同時強化微軟在人工智能軟件市場的競爭優勢。