浪潮AI服务器创全球权威MLPerf基准测试18项AI性能纪录
美国东部时间10月21日,全球备受瞩目的权威AI基准测试MLPerf公布今年的推理测试榜单,浪潮AI服务器NF5488A5一举创造18项性能纪录,在数据中心AI推理性能上遥遥领先其他厂商产品。
MLPerf是当前全球最具影响力的AI计算基准评测组织,由图灵奖得主大卫·帕特森(David?Patterson)联合谷歌、斯坦福、哈佛大学等单位共同成立,每年组织全球AI训练和AI推理性能测试并发榜。此次MLPerf的AI推理基准测试有全球23家公司和单位参与,在数据中心及边缘等场景进行AI计算产品的性能比试。今年MLPerf训练榜单已于7月公布。
浪潮NF5488A5获数据中心AI性能绝对优势
此次浪潮NF5488A5一举创造18项MLPerf推理性能纪录,成为创纪录最多的AI服务器。今年的测试中,数据中心AI性能最受关注,全部参与机构提交了507项性能测试数据。浪潮NF5488A5创下了数据中心22个赛项中的13项性能纪录以绝对优势领先,NVIDIADGX取得了5项数据中心性能纪录。而在此前的MLPerf训练榜单中,NF5488A5在最核心的Resnet50训练任务中也创下了性能纪录,单机性能高居榜首。
浪潮NF5488A5创造18项MLPerf推理性能纪录
性能大幅提升3倍，全栈AI能力优势凸显
在此次基准测试中，浪潮AI服务器NF5488A5在开放优化(Open)和固定任务(Closed)的ResNet50基准性能测试中，均表现优异，相比2019年MLPerf推理榜单的服务器最好性能提升高达3倍。
MLPerfResNet50推理性能2019VS2020对比
NF5488A5是浪潮自研的新一代AI服务器，是此次MLPerf全球竞赛中唯一可以在4U空间内支持8块安培架构A100芯片实现NVLink高速互联的AI服务器。浪潮NF5488A5在系统拓扑上采用了超低延迟设计，支持PCIe4.0全链路极致优化，高频通信单元采用一级拓扑最近连接，最大限度提升处理器到AI芯片间的通信性能。同时，通过配置NUMA节点，确保每颗处理器与其直连的GPU之间通信性能最优，最大限度降低通信延迟。此外，NF5488A5通过深度优化系统结构设计，确保设备可在高温环境下稳定运行。
本次基准测试中，浪潮展示出了卓越的AI计算软硬件协同优化能力。在硬件层面，通过对CPU、GPU硬件性能的精细校准和全面优化，使CPU性能、GPU性能、CPU与GPU之间的数据通路均处于对AI推理最优状态；在软件层面，结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展；在深度学习算法层面，结合GPUTensorCore单元的计算特征，通过自研通道压缩算法成功实现了模型的极致性能优化，在精度无损的情况下性能提升近2倍。
各服务器MLPerfAI推理性能对比（以浪潮NF5488A5为基准，越高越好）
浪潮是全球领先的AI计算领导厂商，其AI服务器在中国的市场份额已连续三年保持在50%以上。浪潮致力于AI计算平台、资源平台和算法平台的研发创新，并通过元脑生态与AI领先企业共同推进AI产业化和产业AI化进程。
相关文章
-
京言AI助手测试版上线公告
她还表示，京东尝试在内部经营管理方面将大模型应用于系统代码辅助编写，实现了20%以上的效率提升。,此外，京东也已经开始测试AIGC自动生成商品营销图文的能力，目前已推广至2000多个零售三级品类。,今年5月，淘宝方面确立“科技驱动”为三大战略之一，并表示未来五年内实现商家运营工具的全面AI化。
2024-03-13 17:37 -
ShoptopAI内容工具分别是什么？有何优势？(Shoptop礼品卡是什么？有哪些注意事项？)
另外在商品的正文描述里，也可以通过点击鼠标右键对内容进行AI优化。,AI优化：在博客原文内容上一键优化润色，可以自动检查文本中的语法错误、拼写错误、标点符号等问题;确保文章更加优美流畅、更加准确明了。,博客设置完后，需要手动到【菜单导航】中进行菜单栏的绑定。
2024-03-14 16:31 -
快手AI玩评功能内测公告
快手宣布，在短视频评论区开始内测AI文生图功能——快手AI玩评，用户通过输入各种创意文字，可一键生成海量风格图片，更便捷的在评论区进行趣味互动。,据悉，这是继快手AI对话之后，快手在短视频场景内探索并落地的又一AIGC能力，这也是业内首次在大型APP核心业务场景评论区下应用的AIGC能力。,快手AI对话依托于快手社区内容生态，通过互动对话的形式，可以帮助用户快速查找短视频、达人、百科等内容，体验全
2024-03-13 18:07 -
快手自研文生图大模型可图内测公告
用户通过“AI玩评”功能可一键生成海量风格图片，更便捷的在评论区进行趣味互动。,快手AI团队表示，可图大模型仍在持续优化效果、丰富能力。,快手AI对话依托于快手社区内容生态，通过互动对话的形式，可以帮助用户快速查找短视频、达人、百科等内容，体验全新的信息获取形态。
2024-03-13 18:06 -
点淘AI头像功能是什么？怎么玩？
点淘AI头像功能即将上线，如何操作生成AI头像呢?一起来看本篇文章的介绍吧。一、产品介绍1、点淘核心创意功能点淘APP将在12月1日上线【点淘AI头像】功能，用户上传6-8张单人照片，就能「免费生成」自己的数字分身;超多头像模板选择，快来试试你的AI头像吧！2、模板行业“天花板”一张照片轻松获得多种类型风格的专属头像，照片变身、卡通头像、证件写真免费任用户挑选;模板精美程度、生成效果横比同类型产品
2024-03-13 17:50 -
亚马逊扩大与人工智能初创公司Hugging Face合作 亚马逊
亚马逊(AMZN.US)的云计算部门正在扩大与人工智能初创公司HuggingFace的合作，后者正在开发ChatGPT的竞品这是大型科技公司在生成式AI系统市场上结盟的最新举措亚马逊网络服务(AWS)将使用HuggingFace的产品，包括一个与ChatGPT背后的技术相竞争的语言生成工具，提供给那些想使用这些工具作为其自己的应用程序构建模块的云客户AWS负责数据库、分析和机器学习的副总裁Swam
2024-03-22 16:03 -
海通证券24小时客服热线(客服人工电话号码是多少) 创业
海通证券股份有限公司（以下简称公司）成立于1988年，注册资本130.642亿元公司始终坚持“务实、开拓、稳健、卓越”的经营理念和“稳健乃至保守”的风控理念，在三十多年的经营中，经历了多个市场和业务周期、监管改革和行业转型发展阶段截至2022年6月末，公司总资产达7495.66亿元，归属母公司净资产达1630.81亿元，实现营业收入121.04亿元，归属母公司净利润47.58亿元，主要财务指标保持
2024-03-22 14:38 -
10种常用的网络营销方法
来源：THLDL大课堂一、搜索引擎注册与排名这是最经典、也是最常用的网络营销方法之一，现在，虽然搜索引擎的效果已经不像几年前那样有效，但调查表明，搜索引擎仍然是人们发现新网站的基本方法。,现在，西单电子商务公司网上商场同样采用了这种营销思想，不过在表现形式上有一定的差别。,网上商店除了通过网络直接销售产品这一基本功能之外，还是一种有效的网络营销方法。
2024-03-22 09:24 -
邬贺铨详解5G产业：1秒下电影并非核心应用
新浪科技讯11月19日上午消息，2019京东全球科技探索者大会今日举行，中国工程院院士邬贺铨发表演讲称，一秒钟下载一部电影并不是5G的核心应用，1G-4G面向个人通信，5G扩展到产业互联网、智慧城市等方面应用。,谈及5G对汽车的影响，邬贺铨表示，5G可以让车到车、车到云等连接，提高车辆安全性，与此同时还可以实时掌握车辆数据，提高运输效率。,此外，基于5G+AIoT+区块链的产品溯源，可以避免人为篡
2024-03-22 09:18 -
小米预告将宣布重要消息：明天揭晓
海报仅仅给出了关键词“electricandblue-tiful”，并未透露细节。,有网友猜测，小米可能会公布RedmiNote8系列新配色。,此前小米官方推特预告即将推出RedmiNote8Pro新配色海洋蓝。
2024-03-22 09:14