记者 | 彭新

美国东部时间6月30日，世界权威AI基准测试MLPerf推出全新一期榜单。在集群封闭任务赛道中，google与英伟达各自得到4项第一；在单机封闭任务赛道中，浪潮获悉数8项训练任务的4项冠军，英伟达、宁畅各得到2项任务冠军。

MLPerf由图灵奖得主David?Patterson结合google、斯坦福、哈佛大学等公司、学术机构发起成立，是作用力最广的世界AI功能基准评测，算是AI计算的“大练兵”。负责MLPerf测试的产业组织MLCo毫米ons主席David Kanter称，MLPerf测试是“全个产业的晴雨表”。

该基准测试盛行的AI事业负载和情景，比如计算机视线、当然言语料理、介绍体系、强化学习等。有AI计算产业人员叮嘱界面新闻，MLPerf的结果有必定指导意义，它可行帮助消费者依据测试结果做出收购打算。

这次功能评测鉴于全新MLPerf Training V1.0基准，分为固定任务（Closed）和开放任务（Open）。此中，固定任务请求运用相同模子和改良器，衡量统一深度学习模子在不同软硬件上的功能；开放任务则松开对深度学习模子及精度的约束，偏重深度学习模子及算法改良的能力，旨在推行ML模子和改良的创新。

MLPerf V1.0基准测试涵盖了8类极具代表性的机器学习任务，区别为图像辩别（ResNet）、医学影像切割（U-Net3D）、指标物体检验（SSD）、指标物体检验（Mask R-CNN）、语言声音辩别（RNN-T）、当然言语了解（BERT）、智能介绍（DLRM）以及强化机器学习（MiniGo）。此中，ResNet50和BERT作为计算机视线和当然言语了解中最具代表性的AI模子，竞争最为剧烈。

对此，浪潮AI&HPC人力智能与高功能利用软件部总经理吴韶华解读称，从训练和推理两个不通测试的参赛团队来看，都有芯片企业，例如google、英伟达、英特尔和赛灵思，也有和浪潮一样的主流效劳器厂家。在AI计算范畴有技艺企图心的公司，都会争取在MLPerf上崭露头角。

训练和推理两个基准测试既有相同的模子，也有不同的模子。“比如推理任务不要考量CPU上面的负载，CPU参加的任务不太多，最重要的负载在提速器；而训练任务，CPU也要参加事业，有些任务的CPU负载还很重，是以对设施自身的请求其实不一样。” 吴韶华说。

这次测试浪潮AI效劳器成绩相对较好， 浪潮NF5688M6 AI效劳器问鼎图像分类（Resnet50）、指标检验（SSD）、智能介绍（DLRM）三个赛道的冠军，浪潮NF5488A5 AI效劳器取得语义了解（Bert）赛道冠军。

浪潮AI产物线总经理刘军将赛事进程形容为竞速，即工程师须要运用各式方法，让效劳器功能达到最高水准。就AI计算体系而言，除了在数据传输步骤须要改进传输功能、达到最好数据前料理效能外，在计算进程中，还须要关心体系的散热效能。“GPU（图形料理器）在充分发挥功能的同一时间，也带来了很大的发热量，一朝体系散热不良，极易导致温度累积而导致GPU降频，作用终归功能。”刘军显示。

AI计算大致分为两个层次，起首是对模子发展训练（training），全个进程可能耗时数天；以后是训练出的模子响应实质要求，做出推理（inference）。日前，英伟达麾下的GPU（图形料理器）占据训练市场，多半推理任务则仍由惯例的英特尔CPU承受。AI的兴盛带来了巨大的计算要求，GPU本来为视频、游戏设置，但在深度学习上的效能远高过惯例的CPU，主流云效劳器厂家纷纷收购英伟达设置的GPU，来提速AI利用。

英伟达称，这次测试也显现GPU+CPU架构在AI计算的适用性，该企业重申仅有英伟达及其合作伙伴运转了全部八类事业负载，占全部提交的四分之三以上。本次参加测试的效劳器厂家均运用了英伟达安培（Ampere）架构GPU A100。

在AI计算市场上，英伟达凭借GPU最先把握住了机会，成为AI公司差不多不可或缺的芯片供给商。今后，芯片大消费者们更进一步，纷纷公布自研AI专用芯片。2016年，google专门为深度学习塑造了TPU（张量料理器），百度和阿里等华夏科技巨头也全在往日一年多时间里发表了自研AI芯片。

包括google、英伟达、英特尔、浪潮、戴尔、联想等在内的13家企业及科研机构，参加了这次MLPerf封闭任务赛道测试。除了主流的GPU+CPU架构外，google也有其将要公布的TPU 4.0，英特尔参与测试的有其第三代至强CPU和Habana Labs Gaudi计算芯片。AI芯片初创企业Graphcore本次也提交了其IPU芯片的测试结果，Graphcore华夏区总经理卢涛推荐，针对本次MLPerf测试的参加，是Graphcore投入了十几私人，耗时近半年才做出去的。