网易首页 > 网易号 > 正文 申请入驻

华为陈默博士:以MUST为基,引领技术,构筑高性能数据存储底座

0
分享至

2020年9月28日,第十六届全国高性能计算学术年会(CCF HPC China 2020)在郑州召开。“HPC CHINA”与“德国ISC”、“美国SC”并驾齐驱,被誉为世界三大超算盛会之一,已历经15载沉淀。

在此次大会期间,华为举办了《华为高性能计算解决方案高层研讨会》平行论坛,聚焦华为高性能计算技术实力。论坛上,华为数据存储与机器视觉产品线解决方案设计部部长、首席架构师陈默博士发表了题为《以MUST为基,构建新一代HPC存储系统》的演讲,给产业界带来华为对存储系统的思考。

首先,陈默博士介绍高性能计算在发展中出现了几大趋势:

第一个趋势是数值计算和数据分析结合,HPC走向HPDA、HPC-based AI融合。这里指的是高性能计算和大数据、人工智能技术的融合,而这个融合又分为两种,分别在两个层面发生。

应用层面发生的融合是,原有高性能计算的应用需要用传统的数值计算方式完成,用超算解公式,算结果。但是,原先使用传统科学计算的学术研究中,越来越多地使用人工智能深度神经网络技术,为未来计算设施的融合奠定了基础。

比如来自高校的分子动力学学者在前沿论文中做过一个实验,采用了两种方法:其一是用传统的数值运算拟合曲线;其二是用人工智能的方式,也就是用深神经网络的方式训练曲线。最后,两条曲线对比发现,基本上是完全一致的。这个例子说明,在部分场景出现了人工智能计算和传统数据计算的融合,类似这样的研究为基础设施的融合提供了前提。伴随上层应用需求的融合,下层的基础设施便于采用一致的方式提供服务。如果上层应用需求无法融合,那么下层计算则需要更多的异构调度。

另一个融合发生在底层的基础设施层面。原先高性能计算资源利用率不高的情况,遇上大数据和人工智能大算力的需求,如何让高性能计算适配这种新需求、新变化。


第二个趋势是数据量爆发,异构计算加入,对存力提出更高要求。比如基因测序和遥感卫星,图片分辨率提高,数据量必然增加。又如油气勘探中的图像数据,由二维变为三维,结果也是数据量激增。还比如,无人驾驶中,每辆车训练数据能达到60TB每天。以前,算力和存力相互匹配,协同发展。但是人工智能革命发生了,人工智能是一种很耗算力的技术,尤其是GPU的引入,使算力消耗指数级上升,而存储还在“正常”发展。算力和存力的“剪刀差”越来越大,给存储留下了发展机会。

第三个趋势是数据增长和业务实时性需求提升,对存储安全可靠提出了更高要求。Hypersion 2019年的数据显示,在过去一年中,全球超算中心的77%被存储故障所困扰。其中,12%的超算中心一年面对10次以上的故障。而现实情况是,以数据增长和业务实时性的要求,超算中心对可靠性的要求不会倒退,会越来越高。

第四个趋势,数据出现了热数据、温数据、冷数据的分化,热数据高性能、冷数据大容量、海量数据流动管理是挑战。热数据一般存放在高性能闪存介质中,偶然使用或者访问的温数据需要考虑读取存储的性能,放在HDD大容量池,而低频使用数据则会存在低价值的存储介质中,比如蓝光磁带库。与此同时,数据管理的复杂度也大大增加。

随着产业的发展,高性能计算存储系统面临着4个挑战。架构方面要支持多样性的算力,多种协议接口。性能方面要支持更高的通量,需要更强的计算能力来匹配。还要满足国家安全与可靠性的要求。最后,数据在全生命周期都是可管可控的。另外,大数据有三个副本,备份安全可靠,但是在超算中心,数据一旦丢失,便无法计算。

陈默博士继续介绍:“其次,新型高性能计算的发展,完全是需求和应用驱动的。”

他强调,结合以上趋势,高密和高性能不足以概括我们存储的所有能力,对下一代存储的要求涌现,包括多协议互通、数据流动和数据全生命周期管理。以前,高性能计算是基于文件的存储接口,现在,大数据是HDFS的接口,人工智能是对象的接口。如果没有多协议互通的能力,就需要有三份数据,三套存储。

由于历史的原因,不同的应用对存储的访问方式不一样。大数据时代,谷歌定义了HDFS。人工智能时代,亚马逊定义了对象。新型高性能计算的时代,华为定义MUST。MUST到底是什么?它的英文全称是:“Multi-protocol interworking framework”、“Ultra-dense and performance”、“Security and resilience”和“Total lifecycle management”。

陈默博士总结道:“MUST是协议互通,高密高性能存储、安全可信和全生命周期的数据管理能力的集合。MUST是新一代HPC存储系统的一个基本要求。OceanStor Pacific是按照MUST要求打造的新一代HPC存储系统。”

“我们欢迎更多的朋友,使用华为的OceanStor海量存储系统,来优化超算场景的性能。IDC全闪存Market Overview数据显示,华为存储在中国区市场占有率第一。不仅如此,华为存储的全球增长率也排在第一。Gartner主存储魔力四象限中,华为存储处于领导者象限。我们对存储技术的理解与积累应该让国内更多的力量,朝着正确的方向发展,所以,对于MUST的提出,华为是有底气的。” 陈默博士补充道。

陈默博士以身处产业前沿的洞察力,建议产业上游,建议学术界多关注超算存储。他谈道:“存储在超算解决方案里关注度比较低,注意力集中在研究计算方面,其实存储中值得研究的内容也很丰富。现在还是学术论文发表的蓝海,希望更多高性能计算领域的有志之士能够多投入精力研究存储,让学术研究更贴近产业,贴近需求,为工业界提供源源不断的创新动力。”

(完)

《亲爱的数据》出品

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这个“界”车,4月销量仅26台!

这个“界”车,4月销量仅26台!

电动知家
2026-05-16 18:49:50
阿根廷总统米莱对华态度为何惊天反转?

阿根廷总统米莱对华态度为何惊天反转?

看看新闻Knews
2026-05-16 21:54:20
访华亮剑:戳破美零和思维霸权行径

访华亮剑:戳破美零和思维霸权行径

烽火瞭望者
2026-05-17 06:32:44
FBI悬赏20万美元通缉美国前女特工:13年前入境伊朗后叛国,传递五角大楼机密

FBI悬赏20万美元通缉美国前女特工:13年前入境伊朗后叛国,传递五角大楼机密

红星新闻
2026-05-16 16:28:20
警惕:上了年纪再过性生活,最怕这2点!保护男性精气,做好3点

警惕:上了年纪再过性生活,最怕这2点!保护男性精气,做好3点

医学科普汇
2026-05-17 13:15:14
官方:阿隆索出任切尔西主帅,双方签约四年

官方:阿隆索出任切尔西主帅,双方签约四年

懂球帝
2026-05-17 16:18:37
张艺谋也没想到,养了27年的陈婷,竟会亲手摘掉张艺谋妻子的认证

张艺谋也没想到,养了27年的陈婷,竟会亲手摘掉张艺谋妻子的认证

混沌录
2026-05-14 15:58:14
亡国后被流放到朝鲜的中国皇帝,身居高位,如今子孙遍布韩国各地

亡国后被流放到朝鲜的中国皇帝,身居高位,如今子孙遍布韩国各地

文史达观
2024-08-28 13:18:34
马洛塔:我想给卡尔迪纳莱一个建议,试着效仿国米的这个时代

马洛塔:我想给卡尔迪纳莱一个建议,试着效仿国米的这个时代

懂球帝
2026-05-18 03:16:05
高市早苗发表涉台错误言论后,日本大臣首次访华

高市早苗发表涉台错误言论后,日本大臣首次访华

俄罗斯卫星通讯社
2026-05-17 16:07:35
瓦伦丁赛后哭了:欧洲20年没人认识,想来中国,粉丝只在乎我平安

瓦伦丁赛后哭了:欧洲20年没人认识,想来中国,粉丝只在乎我平安

乐悠悠娱乐
2026-05-06 11:25:33
日媒狂言:给中国50年也难以追上日本!马斯克:中国车企值得尊重

日媒狂言:给中国50年也难以追上日本!马斯克:中国车企值得尊重

音乐时光的娱乐
2026-05-17 22:53:02
外媒:中企承建哈萨克斯坦首都轻轨建成通车,总统托卡耶夫用中文感谢中方

外媒:中企承建哈萨克斯坦首都轻轨建成通车,总统托卡耶夫用中文感谢中方

环球网资讯
2026-05-17 19:12:39
辅酶Q10被禁用了?还能不能继续吃?医生告诉你答案

辅酶Q10被禁用了?还能不能继续吃?医生告诉你答案

侯医生谈健康
2026-05-17 18:05:03
特朗普肠子悔青,他亲手按下按钮,把中国电车送上了新高度

特朗普肠子悔青,他亲手按下按钮,把中国电车送上了新高度

北向财经
2026-05-16 22:30:43
ATP18日凌晨,凭借一场2-0:辛纳问鼎、荣膺金大师,近800万奖金

ATP18日凌晨,凭借一场2-0:辛纳问鼎、荣膺金大师,近800万奖金

等等talk
2026-05-18 01:45:07
A股:人民日报权威发文,该板块受到关注!明日,将迎来新的变盘

A股:人民日报权威发文,该板块受到关注!明日,将迎来新的变盘

云鹏叙事
2026-05-18 00:00:09
26+22+15!史诗级后卫群!北京队正式扳回一城

26+22+15!史诗级后卫群!北京队正式扳回一城

篮球实战宝典
2026-05-17 21:48:18
明天还有暴雨+大风!广州停雨时间确定!

明天还有暴雨+大风!广州停雨时间确定!

羊城攻略
2026-05-17 23:54:24
别以为60岁女性都安分,其实过了60岁的女人,都有的七大隐秘变化

别以为60岁女性都安分,其实过了60岁的女人,都有的七大隐秘变化

小影的娱乐
2026-05-17 16:31:19
2026-05-18 04:31:00
亲爱的数据 incentive-icons
亲爱的数据
《我看见了风暴:人工智能基建革命》一书作者
695文章数 219912关注度
往期回顾 全部

科技要闻

三大运营商即将免月租?多方回应

头条要闻

内塔尼亚胡与特朗普通话 讨论重启对伊朗军事打击

头条要闻

内塔尼亚胡与特朗普通话 讨论重启对伊朗军事打击

体育要闻

生死战只拿3分的核心,还有留的必要吗?

娱乐要闻

卢昱晓道歉:认识到问题严重性!

财经要闻

长鑫科技 预计上半年净利至少500亿元

汽车要闻

车长超5米/双动力可选 昊铂S600预售权益价18.89万起

态度原创

教育
艺术
房产
本地
公开课

教育要闻

南京大学:热门专业,就业现状及报考分析#搜索千校视频计划

艺术要闻

特朗普回去第一条动态,猛夸人民大会堂:美国也得有!

房产要闻

老黄埔热销之下,珠江春,为何去化仅3成?

本地新闻

用苏绣的方式,打开江西婺源

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版