张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,戳此立抢

从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。

如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。

这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。

通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。

表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1)|最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10

以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。

简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。

各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。

NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。

在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。

而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。

80秒的时间,甚至都不够用来冲一杯咖啡。

图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

AI的必备工具:DGX SuperPOD能够更快速地完成工作负载

仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:

图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能|大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3

更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。

使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。

这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。

NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。

强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。

DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。

在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。

我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。

借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。

图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)| MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

AI智能教育,从小培养孩子兴趣

7月17日,上书院联合瓦力工厂举办的“机器人编程课程”暑期研学活动于瓦力工厂公主坟校区顺利举行。
的头像 瓦力工厂机器人 发表于 07-19 11:52 68次 阅读
AI智能教育,从小培养孩子兴趣

NVIDIA GPU解决方案亮相 推进专业视听产业升级

亚太专业视听和交互体验式通信技术交流的平台会议InfoComm China 2019在北京启幕,作为....
发表于 07-19 10:58 13次 阅读
NVIDIA GPU解决方案亮相 推进专业视听产业升级

AI加持下的互联网反欺诈

针对互联网乱象纷飞的欺诈行为,芯盾时代一直秉持着零容忍的态度,在虚假交易、薅羊毛、信息泄露、信用欺诈....
的头像 芯盾时代 发表于 07-19 10:09 78次 阅读
AI加持下的互联网反欺诈

DOCOMO在推动5G发展方面的一些举措介绍

在5G方面,DOCOMO会在两个月以后9月份在世界橄榄球大会上正式开展预商用,在明年的春天会开始5G....
发表于 07-19 10:08 9次 阅读
DOCOMO在推动5G发展方面的一些举措介绍

加入AI自主学习后会发生什么事

软件升级包括分区清洁、自主学习。
发表于 07-19 09:55 11次 阅读
加入AI自主学习后会发生什么事

如何让AI能力延伸至边缘

人工智能技术的复兴,主要归功于过去几年以来以IT为代表的计算能力的显着提升。
发表于 07-19 09:50 18次 阅读
如何让AI能力延伸至边缘

科技如何避免成为黑产帮凶

科技的发展推动了社会进步,同时也带来很多风险和隐患。
发表于 07-19 09:48 13次 阅读
科技如何避免成为黑产帮凶

人工智能(AI)对于当今生活的现实意义有什么

人工智能绝对是现代生产力变革的巨大动力,和不远的将来,和你和我都息息相关,现如今它已经在不远的将来向....
发表于 07-19 09:43 14次 阅读
人工智能(AI)对于当今生活的现实意义有什么

来看看中国机器人的发展现状

新的视觉技术、机器人的认知、灵巧性的追求、高投资回报、机械手的开发等都在不断吸引着协作机器人新兴入局....
的头像 高工机器人 发表于 07-19 09:35 55次 阅读
来看看中国机器人的发展现状

国产机器人跟进口机器人的差别在哪里?

近年来,在人口红利逐步消退及科技进步的背景下,中国制造业企业自动化升级、机器换人的需求逐年攀升。拥有....
的头像 工业机器人前沿 发表于 07-19 09:31 43次 阅读
国产机器人跟进口机器人的差别在哪里?

未来生活,AI无处不在?

Vimicro AI是人工智能技术的先行者,基于深度学习技术的嵌入式神经网络处理器芯片和人工智能技术....
的头像 中星微人工智能 发表于 07-19 08:50 73次 阅读
未来生活,AI无处不在?

百度、商米科技、众趣科技齐聚一堂 共同探讨AI技术

7月18日,奥比中光联合深圳市人工智能行业协会共同主办“以芯致新 启视未来”新商业沙龙。41家企业代....
的头像 奥比中光 发表于 07-19 08:43 55次 阅读
百度、商米科技、众趣科技齐聚一堂 共同探讨AI技术

大联大世平集团推出基于Brightek ICLed系列之氛围灯应用解决方案

致力于亚太地区市场的领先半导体元器件分销商---大联大控股宣布,其旗下世平推出基于弘凯光电(Brig....
发表于 07-18 16:55 37次 阅读
大联大世平集团推出基于Brightek ICLed系列之氛围灯应用解决方案

AI赋能教育产业应用管窥与琐思

人工智能已进入“大航海时代”,成为科技创新的“超级风口”。
发表于 07-18 16:50 40次 阅读
AI赋能教育产业应用管窥与琐思

人工智能进步须突破算力依赖

对脸书这样的公司来说,人工智能在其服务的几乎每个方面都发挥着作用。
发表于 07-18 16:45 32次 阅读
人工智能进步须突破算力依赖

AI单凭文字就可作画谁最先受到冲击

随着人工智能时代的到来,艺术与科技的碰撞,越来越频繁地现身热门话题榜。
发表于 07-18 16:36 32次 阅读
AI单凭文字就可作画谁最先受到冲击

AI将电影制作变成娱乐游戏

Queisser 说道:“你可以在软件中创建两个不同的场景,分别在每个场景中比较 Emma Wats....
的头像 AI科技大本营 发表于 07-18 15:49 95次 阅读
AI将电影制作变成娱乐游戏

更像人类的学习,英特尔AI芯片系统模拟人脑!

800万神经元,比CPU快1000倍!
的头像 中科院长春光机所 发表于 07-18 15:33 107次 阅读
更像人类的学习,英特尔AI芯片系统模拟人脑!

不亦乐乎:一边造假,一边打假的AI!

后来Facebook创始人马克.扎克伯格的一段视频也开始疯传,在其中小扎说“让我们快速地想象一下,一....
的头像 AI科技大本营 发表于 07-18 15:10 118次 阅读
不亦乐乎:一边造假,一边打假的AI!

阿里最新研究:AI进化到助理法官水平 可一秒“判案”

如果说“一个人的法庭”还属于审判流程的数字化、在线化的1.0阶段。那么,阿里的最新研究成果标志着智能....
的头像 AI科技大本营 发表于 07-18 15:07 85次 阅读
阿里最新研究:AI进化到助理法官水平 可一秒“判案”

灵云AI能力:快速接入,轻松调用

灵云SDK,将为每一个软件、每一款硬件,提供AI能力,打造万物智能新世界。
的头像 深圳市汽车电子行业协会 发表于 07-18 14:47 76次 阅读
灵云AI能力:快速接入,轻松调用

科技巨头正逼迫制药商仓促入局

人工智能研究人员推出了一种神经网络算法,可以根据序列预测蛋白质的功能。
发表于 07-18 14:16 29次 阅读
科技巨头正逼迫制药商仓促入局

AI的出现,其实不是为了终结人类的工作

AI多火?之前,财经网一则题为《AI 人才抢夺生猛:应届博士年薪涨到 80 万,一年涨了 60%》的....
的头像 AI科技大本营 发表于 07-18 14:16 73次 阅读
AI的出现,其实不是为了终结人类的工作

AI和数据为未来智慧城市赋能的5大途径

智慧城市通过从各种传感器收集信息以更加有效地管理城市资产和资源,从而将自己定位为解决城市困境的手段。
的头像 人间烟火123 发表于 07-18 11:21 199次 阅读
AI和数据为未来智慧城市赋能的5大途径

不用写一行就带就可以参加 Kaggle,这个真香!

随着 AI 技术的不断发展与落地,有越来越多的平台和工具可供大家使用,这些平台针对不同领域、不同层次....
的头像 AI科技大本营 发表于 07-18 10:59 175次 阅读
不用写一行就带就可以参加 Kaggle,这个真香!

“只讲技术,拒绝空谈”的AI开发者大会再次来临!

微信小程序自2017年上线以来,如今已经成为互联网最火热的项目风口,阿里、百度等也纷纷看中小程序的发....
的头像 AI科技大本营 发表于 07-18 10:54 193次 阅读
“只讲技术,拒绝空谈”的AI开发者大会再次来临!

AI智能体使用日常语言生成解释其行为的原理

由于人工智能遍及我们生活的方方面面,因此非常需要以人为本的人工智能设计,使日常用户可以解释如同黑盒子....
发表于 07-18 10:44 28次 阅读
AI智能体使用日常语言生成解释其行为的原理

2019年人工智能五大趋势

当机器学习模型应用于这些数据集时,IT运行即可从被动响应转变为主动预测。
发表于 07-18 10:20 35次 阅读
2019年人工智能五大趋势

技术的温度:用AI保护野生动物

他们使用的 SPOT 系统,由南加州大学社会人工智能中心的研究人员建造,先通过人工标记,以及无人机自....
的头像 AI科技大本营 发表于 07-18 10:15 145次 阅读
技术的温度:用AI保护野生动物

“没人比我更懂AI了”介绍45篇让你跟上AI时代的论文

Targeted Dropout不再像原有的Dropout那样按照设定的比例随机丢弃部分节点,而是对....
的头像 AI科技大本营 发表于 07-18 10:12 154次 阅读
“没人比我更懂AI了”介绍45篇让你跟上AI时代的论文

视觉AI市场引爆前夕,虹软+AI创享会招募深圳同仁

从人工智能技术应用曲线来看,人脸识别技术正处于爆发阶段,应用价值逐步呈现。人脸识别在LFW、Mega....
发表于 07-18 09:28 19次 阅读
视觉AI市场引爆前夕,虹软+AI创享会招募深圳同仁

通用人工智能仍是白日梦

尽管深度学习为广泛的计算机感知领域注入了新鲜血液,但它甚至没有触及人工智能的基本问题。
发表于 07-18 09:22 20次 阅读
通用人工智能仍是白日梦

大国竞争格局将变成AI人工智能的竞争

本轮科技和产业革命,从一开始大家聚焦的新能源和新通讯,慢慢地聚焦到以人工智能、大数据以及物联网为核心....
发表于 07-18 08:45 21次 阅读
大国竞争格局将变成AI人工智能的竞争

未来可以让AI来创造AI吗

任何机器学习模型都是基于历史数据开发出来的,而历史数据反映的是过去的商业状况,所以模型其实是有保质期....
发表于 07-18 08:33 24次 阅读
未来可以让AI来创造AI吗

8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

去年年底,喜马拉雅AI音箱小雅Nano宣布全球发售时,1万台现货开售1分钟即被抢购一空,首批10万台....
的头像 你好张江 发表于 07-17 17:09 372次 阅读
8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

联发科P65处理器基于12nm工艺,八核心设计,由两颗2.0GHz的A75核心与六颗1.7GHz的A....
发表于 07-17 16:49 348次 阅读
vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

大众与福特共推自动驾驶出租车服务

Argo AI作为一家自动驾驶汽车开发商,目前正负责部署福特的自动驾驶出租车服务。
的头像 机器人技术与应用 发表于 07-17 16:07 254次 阅读
大众与福特共推自动驾驶出租车服务

AI在实际应用中最大的问题与困扰是什么?

本次邀请该研究中心的薛向阳教授,为我们共同探讨产研合作中存在的问题。
的头像 安全自动化 发表于 07-17 15:51 199次 阅读
AI在实际应用中最大的问题与困扰是什么?

AI也需要做梦吗

处于“清醒”或在线状态的人工智能神经网络总是在学习新的信息模式。
发表于 07-17 15:22 32次 阅读
AI也需要做梦吗

下次如何加薪将由AI和算法说了算

用过去的方法来评估员工的绩效,意味着要从几套不同的人力资源部门记录中挖掘出每份直接报告中蕴含的信息。
发表于 07-17 14:20 54次 阅读
下次如何加薪将由AI和算法说了算

MIT和谷歌开发失传语言的机器翻译系统

注释数据库和让机器从中学习的技术让语言学习发生了革命性变化,这使得机器翻译变得越来越普遍。
发表于 07-17 10:56 45次 阅读
MIT和谷歌开发失传语言的机器翻译系统

医疗和技术的加速融合,带动产业进入“AI+医疗”时代

人工智能等前沿技术正在快速迭代,医疗领域的智能升级是大势所趋。
的头像 你好张江 发表于 07-17 10:51 208次 阅读
医疗和技术的加速融合,带动产业进入“AI+医疗”时代

法律会是AI将革新的又一产业吗

我们这个软件驱动的世界,正在给法律行业带来革命性的变化,并产生了所谓的“法律工程师”。
发表于 07-17 10:39 155次 阅读
法律会是AI将革新的又一产业吗

科创板报道:倒计时!首批25家公司如何前瞻和选择

7月22日(下周一),科创板首批25家公司将在上交所鸣锣上市,成为中国资本市场的新生力量。 从201....
的头像 章鹰 发表于 07-17 10:34 619次 阅读
科创板报道:倒计时!首批25家公司如何前瞻和选择

边缘计算时代的到来会给AI带来哪些影响

随着5G、人工智能和物联网时代的到来,传统的云计算技术已经无法满足人工智能终端“大连接、低时延、大带....
发表于 07-17 10:33 66次 阅读
边缘计算时代的到来会给AI带来哪些影响

5G与AI的碰撞会发生什么化学反应

5G尚处于商用初期,AI也处于发展初级阶段。
发表于 07-17 10:00 45次 阅读
5G与AI的碰撞会发生什么化学反应

利用语音直接画出人脸,AI再添新能力

听声辨人,利用声纹进行解锁,这种技术已广泛应用,人类的声音含有该个体的一定特征,从而可以进行区分。
的头像 DeepTech深科技 发表于 07-17 09:54 201次 阅读
利用语音直接画出人脸,AI再添新能力

中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

7月9-10日,由国泰君安证券与中移(上海)产业研究院、浦发硅谷银行共同主办的国泰君安2019年信息....
的头像 章鹰 发表于 07-17 09:32 1694次 阅读
中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

人工智能能实现无人物流体系吗

无人科技背后的大数据、AI算法等科技成果还促进建立了以消费者个性化需求为核心的C2M反向定制、物流价....
发表于 07-16 17:27 104次 阅读
人工智能能实现无人物流体系吗

产业互联网时代到来科技是最大筹码

当产业互联网的风口到来,这些企业未来的发展路径又是怎样的?
的头像 每日经济新闻 发表于 07-16 17:06 184次 阅读
产业互联网时代到来科技是最大筹码