随着大型语言模型(LLMs)的普及,GPU训练过程中的可扩展性与能源消耗成为主要瓶颈。然而,CPU因其效能与能效,成为小型语言模型(SMLs)和资料处理任务的理想选择。仁宝全新伺服器採用Intel Xeon 6处理器,具备高效能核心(E-cores)与效能核心(P-cores)的双架构设计,实现AI推理与HPC的卓越表现。

SR230-2是一款2U 2P伺服器平台,拥有高达128颗处理器核心,并提供5倍AI推理效能提升。其高涡轮频率设计加速模型训练,最高504MB的L3快取大幅降低延迟,为资料存取和处理提供强大支援。

SD230-8专为节省空间的资料中心打造,具备2倍HPC效能提升,并採用MRDIMM技术,AI推理效能最高提升5.5倍。配备Intel先进矩阵扩充技术(AMX),SD230-8在自然语言处理(NLP)、推荐系统及图像识别等应用中展现卓越效能。

SR230-2与SD230-8分别在单节点与多节点设计上提供灵活性与高效能,满足未来资料中心多元需求,并在能源效能上展现卓越表现。这些创新伺服器解决方案将助力企业加速数位化转型,提升营运效率并创造更多价值。

#23 #AI #效能 #HPC #SD