首页 电商 正文

NVIDIA在最新MLPerf基准测试中打破16项AI性能纪录

2024-03-22 07:03
admin

NVIDIAA100GPU和DGXSuperPOD系统当选全球AI训练领域速度最快的市售商用产品。

图注:在不到一个月的时间里,内置超过2,000个NVIDIAA100GPU的NVIDIA全新DGXSuperPOD(上图为艺术渲染图)就在市售商用产品中脱颖而出,并在各项针对大规模计算性能的MLPerf基准测试中均取得了优异成绩

根据今日发布的MLPerf基准测试结果显示,NVIDIA在全球市售商用产品中,具备全球最快的AI训练性能。

A100TensorCoreGPU在加速器的全部八项MLPerf基准测试中展现了最快的性能。在实现总体最快的大规模解决方案方面,利用HDRInfiniBand实现多个DGXA100系统互联的庞大集群--DGXSuperPOD系统在性能上,也开创了八项全新里程碑。当今,能够借助这些高性能的AI技术来更快速、更具成本效益地实现业务转型的客户,将成为最终的获益者。

行业基准测试组织MLPerf成立于2018年5月。此次已是NVIDIA在MLPerf训练测试中连续第三次展现了最强劲的性能。2018年12月,NVIDIA首次在MLPerf训练基准测试中创下了六项纪录,次年7月NVIDIA再次创下八项纪录。

NVIDIA在客户最关心的市售商用产品类别中创下了纪录。NVIDIA在测试中用到的产品基于最新NVIDIAAmpere架构以及Volta架构。

图注:NVIDIADGXSuperPOD系统为大规模AI训练树立全新里程碑

NVIDIA是唯一一家在所有测试中均采用市售商用产品的公司。其他大多数提交使用的要么是预览类别(previewcategory),其所用的产品预计需要几个月后才会面市,要么使用的是研究类别的产品,更是较长一段时间内都不会面市。

NVIDIAAmpere市场采用速度刷新纪录

A100是首款基于NVIDIAAmpere架构的处理器。它不仅打破了性能纪录,其进入市场的速度也比以往任何NVIDIAGPU更快。A100在发布之初用于NVIDIA的第三代DGX系统。正式发布仅六周后,A100就正式登陆了GoogleCloud。

为助力满足市场的强劲需求,AWS、百度云、微软Azure和腾讯云等全球领先的云提供商,以及DellTechnologies、HPE、浪潮和超微等数十家主要服务器制造商,均采用了A100。

全球用户都在使用A100以应对AI、数据科学和科学计算中最为复杂的挑战。

其中有些正在赋能新一代的推荐系统或对话式AI应用,或进一步探索COVID-19的治疗方法,这些都在受益第八代NVIDIAGPU所带来的迄今为止幅度最大的性能提升。

图注:NVIDIAAmpere架构在市售商用加速器的全部八项测试中名列前茅

一年半内实现4倍性能提升

最新结果表明,NVIDIA聚焦于不断发展跨处理器、网络、软件和系统的AI平台。

例如,测试结果显示,相较于首轮MLPerf训练测试中使用的基于V100GPU的系统,如今的DGXA100系统能够以相同的吞吐率,实现高达4倍的性能提升。同时,得益于最新的软件优化,基于NVIDIAV100的DGX-1系统亦可实现高达2倍的性能提升。

不到两年,整个AI平台的创新就取得了如此优异的成绩。如今,NVIDIAA100GPU搭配CUDA-X库的软件更新,为通过MellanoxHDR200Gb/sInfiniBand网络构建的扩展集群注入了强劲动力。

HDRInfiniBand可实现极低的延迟和高数据吞吐量,同时通过可扩展分层聚合和归约协议(SHARP)技术,提供智能深度学习计算加速引擎。

图注:NVIDIA持续通过全新GPU、软件升级和不断扩展的系统设计,以提升AI性能

NVIDIA在推荐系统、对话式AI、强化学习领域大放异彩

MLPerf基准测试得到了亚马逊、百度、Facebook、谷歌、哈佛大学、英特尔、微软和斯坦福大学等机构的支持,并跟随AI的发展步伐持续演进。

最新基准测试包含两项新的测试和一项经大幅修订的测试。NVIDIA在这三项测试中均取得了优异的成绩。其中,一项基准测试对推荐系统的性能进行了排名。推荐系统是日益普及的一项AI任务。另一项基准测试对使用BERT的对话式AI进行了测试。BERT是现有最复杂的神经网络模型之一。最后,强化学习测试中使用了Mini-go和全尺寸19x19围棋棋盘。该测试是本轮最复杂的测试,内容涵盖从游戏到训练的多项操作。

图注:使用面向对话式AI和推荐系统的NVIDIAAI解决方案的客户

各大公司在这些战略性的AI应用领域已经受益于NVIDIA带来的强大性能。

阿里巴巴在11月的“双十一”期间创造了380亿美元的销售纪录,其推荐系统使用了NVIDIAGPU,使每秒查询量达到了CPU的100倍以上。而对话式AI自身也成为了业界关注的焦点,推动从金融到医疗健康等行业的业务发展。

NVIDIA不仅能为这些庞大工作的运转提供所需的性能,还使其易于使用。

软件为AI的战略发展铺平道路

今年五月,NVIDIA发布了两个应用框架——用于对话式AI的Jarvis和用于推荐系统的Merlin。Merlin中包含了助力最新MLPerf基准测试结果的HugeCTR训练框架。

这些应用框架仅仅是一部分。在不断壮大的应用框架中,还有面向汽车行业市场的NVIDIADRIVE,面向医疗健康市场的Clara,面向机器人技术市场的Isaac,以及面向零售/智能城市市场的Metropolis。

图注:NVIDIA应用框架简化了企业级AI的开发和部署

DGXSuperPOD架构兼顾速度与规模

NVIDIA在Selene上运行了系统的MLPerf测试,Selene是基于DGXSuperPOD的内部集群。DGXSuperPOD是针对大规模GPU集群的公共参考架构,可在数周内完成部署。该架构基于DGXPOD的设计原理和最佳实践进行了扩展,致力于解决当今AI领域最具挑战性的难题。

Selene最近在TOP500榜单中首次亮相,凭借百亿亿次(exaflops)级别的AI性能,成为美国最快的工业系统。它也是Green500榜单中全球第二大节能系统。

客户已经采用这些参考架构来构建自身的DGXPOD和DGXSuperPOD。其中包括美国最快的学术领域AI超级计算机HiPerGator,该超级计算机也将成为佛罗里达大学跨学科AI创新的基石。

同时,全球领先的超算中心Argonne国家实验室正在使用DGXA100,寻找抗击COVID-19疫情的方法。Argonne国家实验室是六个首批采用A100GPU的高性能计算中心中的先行者之一。

图注:NVIDIADGXPOD的广泛采用

DGXSuperPOD现已助力汽车领域的大陆集团、航空航天领域的LockheedMartin和云计算服务领域的微软等公司取得了良好的业务成果。

这些系统的顺利运转,部分得益于其广泛的生态系统对于NVIDIAGPU和DGX支持。

NVIDIA生态系统在MLPerf基准测试中展示傲人成绩

在提交结果的九家公司中,除NVIDIA外还有六家公司提交了基于NVIDIAGPU的测试结果,其中包括三家云服务提供商(阿里云、谷歌云和腾讯云)和三家服务器制造商(戴尔、富士通和浪潮),凸显了NVIDIA生态系统的优势。

图注:采用NVIDIAAI平台参与基准测试的合作伙伴

这些合作伙伴大多采用了NVIDIA软件中心NGC中的容器,以及用于参赛的公开框架。

包括这些MLPerf合作伙伴在内的近二十家云服务提供商和OEM组成的生态系统,已采用或计划采用NVIDIAA100GPU来打造在线实例、服务器和PCIe卡。

经测试验证的软件现可从NGC获取

现在,大多数NVIDIA及其合作伙伴在最新MLPerf基准测试中使用的软件,已可通过NGC获取。

NGC中包括多个GPU优化的容器、软件脚本、预训练模型和SDK,可助力数据科学家和开发者在TensorFlow和PyTorch等常用框架上加速AI工作流程。

各机构都在大力采用容器,以加速实现业务成果。毕竟,业务成果才是最终的“基准”。

关于NVIDIA

NVIDIA(纳斯达克股票代码:NVDA)在1999年发明的GPU激发了PC游戏市场的增长,重新定义了现代计算机显卡,并且对并行计算进行了革新。最近,通过将GPU作为可以感知和理解世界的计算机、机器人乃至自动驾驶汽车的大脑,GPU深度学习再度点燃了全新的计算时代——现代人工智能。

相关文章

  • 京言AI助手测试版上线公告

    京言AI助手测试版上线公告 她还表示,京东尝试在内部经营管理方面将大模型应用于系统代码辅助编写,实现了20%以上的效率提升。,此外,京东也已经开始测试AIGC自动生成商品营销图文的能力,目前已推广至2000多个零售三级品类。,今年5月,淘宝方面确立“科技驱动”为三大战略之一,并表示未来五年内实现商家运营工具的全面AI化。

    2024-03-13 17:37
  • ShoptopAI内容工具分别是什么?有何优势?(Shoptop礼品卡是什么?有哪些注意事项?)

    ShoptopAI内容工具分别是什么?有何优势?(Shoptop礼品卡是什么?有哪些注意事项?) 另外在商品的正文描述里,也可以通过点击鼠标右键对内容进行AI优化。,AI优化:在博客原文内容上一键优化润色,可以自动检查文本中的语法错误、拼写错误、标点符号等问题;确保文章更加优美流畅、更加准确明了。,博客设置完后,需要手动到【菜单导航】中进行菜单栏的绑定。

    2024-03-14 16:31
  • 快手AI玩评功能内测公告

    快手AI玩评功能内测公告 快手宣布,在短视频评论区开始内测AI文生图功能——快手AI玩评,用户通过输入各种创意文字,可一键生成海量风格图片,更便捷的在评论区进行趣味互动。,据悉,这是继快手AI对话之后,快手在短视频场景内探索并落地的又一AIGC能力,这也是业内首次在大型APP核心业务场景评论区下应用的AIGC能力。,快手AI对话依托于快手社区内容生态,通过互动对话的形式,可以帮助用户快速查找短视频、达人、百科等内容,体验全

    2024-03-13 18:07
  • 快手自研文生图大模型可图内测公告

    快手自研文生图大模型可图内测公告 用户通过“AI玩评”功能可一键生成海量风格图片,更便捷的在评论区进行趣味互动。,快手AI团队表示,可图大模型仍在持续优化效果、丰富能力。,快手AI对话依托于快手社区内容生态,通过互动对话的形式,可以帮助用户快速查找短视频、达人、百科等内容,体验全新的信息获取形态。

    2024-03-13 18:06
  • 点淘AI头像功能是什么?怎么玩?

    点淘AI头像功能是什么?怎么玩? 点淘AI头像功能即将上线,如何操作生成AI头像呢?一起来看本篇文章的介绍吧。一、产品介绍1、点淘核心创意功能点淘APP将在12月1日上线【点淘AI头像】功能,用户上传6-8张单人照片,就能「免费生成」自己的数字分身;超多头像模板选择,快来试试你的AI头像吧!2、模板行业“天花板”一张照片轻松获得多种类型风格的专属头像,照片变身、卡通头像、证件写真免费任用户挑选;模板精美程度、生成效果横比同类型产品

    2024-03-13 17:50
  • 亚马逊扩大与人工智能初创公司Hugging Face合作 亚马逊

    亚马逊扩大与人工智能初创公司Hugging Face合作  亚马逊 亚马逊(AMZN.US)的云计算部门正在扩大与人工智能初创公司HuggingFace的合作,后者正在开发ChatGPT的竞品这是大型科技公司在生成式AI系统市场上结盟的最新举措亚马逊网络服务(AWS)将使用HuggingFace的产品,包括一个与ChatGPT背后的技术相竞争的语言生成工具,提供给那些想使用这些工具作为其自己的应用程序构建模块的云客户AWS负责数据库、分析和机器学习的副总裁Swam

    2024-03-22 16:03
  • 海通证券24小时客服热线(客服人工电话号码是多少) 创业

    海通证券24小时客服热线(客服人工电话号码是多少)  创业 海通证券股份有限公司(以下简称公司)成立于1988年,注册资本130.642亿元公司始终坚持“务实、开拓、稳健、卓越”的经营理念和“稳健乃至保守”的风控理念,在三十多年的经营中,经历了多个市场和业务周期、监管改革和行业转型发展阶段截至2022年6月末,公司总资产达7495.66亿元,归属母公司净资产达1630.81亿元,实现营业收入121.04亿元,归属母公司净利润47.58亿元,主要财务指标保持

    2024-03-22 14:38
  • 10种常用的网络营销方法

    10种常用的网络营销方法 来源:THLDL大课堂一、搜索引擎注册与排名这是最经典、也是最常用的网络营销方法之一,现在,虽然搜索引擎的效果已经不像几年前那样有效,但调查表明,搜索引擎仍然是人们发现新网站的基本方法。,现在,西单电子商务公司网上商场同样采用了这种营销思想,不过在表现形式上有一定的差别。,网上商店除了通过网络直接销售产品这一基本功能之外,还是一种有效的网络营销方法。

    2024-03-22 09:24
  • 邬贺铨详解5G产业:1秒下电影并非核心应用

    邬贺铨详解5G产业:1秒下电影并非核心应用 新浪科技讯11月19日上午消息,2019京东全球科技探索者大会今日举行,中国工程院院士邬贺铨发表演讲称,一秒钟下载一部电影并不是5G的核心应用,1G-4G面向个人通信,5G扩展到产业互联网、智慧城市等方面应用。,谈及5G对汽车的影响,邬贺铨表示,5G可以让车到车、车到云等连接,提高车辆安全性,与此同时还可以实时掌握车辆数据,提高运输效率。,此外,基于5G+AIoT+区块链的产品溯源,可以避免人为篡

    2024-03-22 09:18
  • 小米预告将宣布重要消息:明天揭晓

    小米预告将宣布重要消息:明天揭晓 海报仅仅给出了关键词“electricandblue-tiful”,并未透露细节。,有网友猜测,小米可能会公布RedmiNote8系列新配色。,此前小米官方推特预告即将推出RedmiNote8Pro新配色海洋蓝。

    2024-03-22 09:14