隨著大型語言模型(LLMs)的普及,GPU訓練過程中的可擴展性與能源消耗成為主要瓶頸。然而,CPU因其效能與能效,成為小型語言模型(SMLs)和資料處理任務的理想選擇。仁寶全新伺服器採用Intel Xeon 6處理器,具備高效能核心(E-cores)與效能核心(P-cores)的雙架構設計,實現AI推理與HPC的卓越表現。
SR230-2是一款2U 2P伺服器平台,擁有高達128顆處理器核心,並提供5倍AI推理效能提升。其高渦輪頻率設計加速模型訓練,最高504MB的L3快取大幅降低延遲,為資料存取和處理提供強大支援。
SD230-8專為節省空間的資料中心打造,具備2倍HPC效能提升,並採用MRDIMM技術,AI推理效能最高提升5.5倍。配備Intel先進矩陣擴充技術(AMX),SD230-8在自然語言處理(NLP)、推薦系統及圖像識別等應用中展現卓越效能。
SR230-2與SD230-8分別在單節點與多節點設計上提供靈活性與高效能,滿足未來資料中心多元需求,並在能源效能上展現卓越表現。這些創新伺服器解決方案將助力企業加速數位化轉型,提升營運效率並創造更多價值。
發表意見
中時新聞網對留言系統使用者發布的文字、圖片或檔案保有片面修改或移除的權利。當使用者使用本網站留言服務時,表示已詳細閱讀並完全了解,且同意配合下述規定:
違反上述規定者,中時新聞網有權刪除留言,或者直接封鎖帳號!請使用者在發言前,務必先閱讀留言板規則,謝謝配合。