NVIDIA (辉达) 宣布旗下的人工智慧 (AI) 运算平台,再度于最新的 MLPerf 效能基准测试中刷新效能纪录,延续其在业界唯一衡量硬体、软体与服务的 AI 效能之独立基准的领先优势。

在第二版的 MLPerf Inference 基准测试中,NVIDIA 在资料中心和边缘运算系统的六项应用领域中的每一项测试均夺下冠军。这次在既有的两项电脑视觉测试外,又另外加入四个测试项目,含括发展最快的 AI 领域:推荐系统、自然语言理解、语音辨识及医疗影像。

多个产业的组织早已运用 NVIDIAR A100 Tensor Core GPU 的卓越推论效能,将 AI 从研究单位带入日常营运内。金融机构使用对话式 AI 以更快速地回答客户的问题;零售商运用 AI 维持货架上的库存;医疗服务供应商透过 AI 分析数百万张医疗影像,以更准确地辨识疾病并帮助拯救生命。

NVIDIA 加速运算部门副总裁暨总经理 Ian Buck 表示,我们正处于一个转捩点,各行各业都想找出更好的办法来应用 AI 技术,以提供新的服务和拓展业务。我们投入许多心力,在 MLPerf 基准测试取得佳绩,进一步提升企业的 AI 效能以改善我们的生活。

最新的 MLPerf 结果出炉之际,NVIDIA 涉足 AI 推论领域的范围也急剧增长。五年前只有少数引领业界的高科技公司将 GPU 用于推论作业;如今,NVIDIA 的 AI 平台可透过各大云端运算与资料中心基础设施供应商取得,各行各业的公司都能使用 NVIDIA 的 AI 推论平台提升其业务营运的表现,并提供额外的服务。

此外,NVIDIA GPU 目前在公有云环境中提供 AI 推论的能力也首度超越 CPU。NVIDIA GPU 上的云端 AI 推论运算量约每两年成长十倍。

NVIDIA 与其合作伙伴提交的 MLPerf 0.7 基准测试成绩是透过 NVIDIA 的加速平台而得,其中包括 NVIDIA 的资料中心 GPU、边缘 AI 加速器及 NVIDIA 优化软体。

NVIDIA 在今年稍早推出搭载第三代 Tensor Cores 及多执行个体 GPU 技术的 NVIDIA A100,在 ResNet-50 测试扩大了其领先优势。在最新一次的测试中,A100 以 30 倍的优势击败了 CPU 系统,而在上一轮的测试成果中则为六倍。根据 MLPerf Inference 0.7 基准测试,A100 在新加入的资料中心推论推荐系统测试中,较最新的 CPU 效能高出237倍。

这代表一台 NVIDIA DGX A100TM 系统就能提供约 1,000台双插槽 CPU 伺服器一样的效能,这让客户在将他们的 AI 推荐系统模型从研究投入生产时,提供极高的成本效益。

此基准测试亦显示,NVIDIA T4 Tensor Core GPU 对于主流企业、边缘伺服器和高成本效益云端执行个体而言,依然是可靠的推论平台。在同样的测试中,NVIDIA T4 GPU 的表现比 CPU 高出28倍。此外,NVIDIA Jetson AGX XavierTM 是系统单晶片边缘设备中效能的佼佼者。

要有高度优化的软体堆迭才能达到如此优异的效能表现,包括 NVIDIA TensorRTTM 推论优化器与 NVIDIA Triton 推论服务软体,这两个软体都可以在 NVIDIA 的软体目录 NGC 中取得。

除了 NVIDIA 自己提交的成果,NVIDIA 的 11 个合作伙伴也使用 NVIDIA GPU 提交共 1,029 项成果,占资料中心与边缘类别提交总数的 85% 以上。

(工商 )

#系统 #冠军 #卓越 #NVIDIA #AI