矩向科技黄朝波：DPU布道者，让软硬件深情共舞

《三体》中，冯•诺伊曼告诉秦始皇，如果要计算太阳运行的规律，就要搭建一个三千万人组成的人列计算机，里面的人举白旗代表0，举黑旗代表1……即使是这样成本高昂的计算机，算力也十分有限。在现实生活中，随着冯•诺伊曼架构走向瓶颈，面对人工智能、元宇宙等领域巨大的数据处理需求，擅长计算的DPU应运而生。

DPU是DataProcessingUnit的简称，它被称为继CPU、GPU之后的“第三颗主力芯片”。英伟达、英特尔等国际巨头纷纷布局，中国DPU企业尚处起步阶段，巨额融资不断。

DPU是什么？什么人有能力做？产业发展情况如何？在与张通社的对话中，DPU赛道新秀——上海矩向科技有限公司（以下简称“矩向科技”）创始人黄朝波，讲述了他对DPU的理解和创业的心路历程。

黄朝波也是国内DPU从业者必读书籍《软硬件融合——超大规模云计算架构创新之路》的作者。同时，他因在公众号“软硬件融合”上撰写大量DPU普及文章，举办讲座，而被同行称为“DPU布道者”。在这之前，他有芯片及互联网行业十五年以上工作经验，走上DPU研发之路，也有一种水到渠成的历史必然性。

矩向科技创始人黄朝波

“DPU布道者”的成长：从软件到硬件

平安夜那天下午，上海气温骤降，一向意气风发的都市丽人们也纷纷裹上了羽绒服，在寒风中瑟瑟前行。张江街头巨大的圣诞树彩衣斑斓，节日气氛浓郁。黄朝波穿着一件薄薄的外套，背着一个深色背包，做客张通社办公室。他长着一张国字脸，头发茂密，根根向上，身材高大板直，气质端正。

在2个小时的采访中，关于技术的问答一触即发，他用词精准、审慎、充满细节，并且滔滔不绝，瞬间让人感受到他的工程师身份，而且是典型的“张江男”。

他的幽默和体贴也落脚在技术话题领域，讲到那些生僻的专业名词时，为照顾非专业人士，还常用一些“跨学科”比喻。比如，他对“软硬件融合趋势”的形容是“天下大势，分久必合，合久必分。”有一种古典赛博朋克之感。

要理解DPU，就要理解计算机软件、硬件的架构体系。黄朝波的计算机知识结构积累，就是从软件起步，逐渐走向了软硬件融合。在西北工业大学本科期间，他自学了计算机软件的相关知识，成为了一名合格的软件工程师。但他在国防科技大学硕士学习软件工程专业时，却特意选择了微处理器设计方向。在研究生实习期间，黄朝波为能参与国内最前沿的处理器项目“飞腾”而振奋不已。他说道：“当时的梦想就是成为最顶尖的处理器工程师。”

搭载了“飞腾”芯片的“天河二号”

参与“飞腾”项目研发，让他第一次深入地系统学习硬件相关知识。这次项目仿佛让黄朝波打通了“任督二脉”，他脑海中关于软硬件的知识开始融会贯通。黄朝波说，“这个时候，我接触到计算机更底层的一些东西，真正理解了软件为什么要这样编程，软件之下的硬件为什么又是这样设计。”

毕业后，黄朝波在Startup公司Simplight从事自主多线程处理器及4GLTE基带SOC芯片设计。近两年，他更多的学习到产业界的标准研发流程和自动化测试工具，同时也渴望去更前沿的IC产业公司，能够参与全球化的设计协作。于是，在收到Marvell的offer时，他毅然从北京来到了上海张江。“张江是中国集成电路的发展高地。”

《软硬件融合》是如何写成的？

黄朝波对第一印象是漂亮、科技。这座发展良久的高新产业区是中国最成熟的集成电路产业集聚地，被誉为“中国硅谷”。东海潮起潮落，浦东人聚人散，产业的积累一代代留了下来，也让黄朝波看到了更多东西。他开始横向审视自己的职业发展道路。

在Marvell，他从事ARMv7/v8架构高性能多核CPU设计和验证，与全球顶尖的行业专家共事，看到了一个规模庞大而复杂的产品从概念到落地的全过程。他逐渐意识到技术并非决定事情成败的唯一关键因素，并开始尝试转换视角，“整个事情在一个分层的体系中运转，作为工程师，专注的是把具体的事情做好；作为经理，思考的是怎么分配任务；作为更高层级的管理者，则会思考整个公司发展、战略以及产业的运转。”

2014年底，物联网兴起，他渐渐有了创业的想法。于是和朋友一起，创办了一家物联网公司，做工业环境自动化控制系统，项目很快落地。这个产品对他来说技术并不难，但却让他看到了软硬件之间的协同运行规律。“从小的东西你能窥见更复杂的IT系统从软件到硬件是怎么运转、怎么发展。”他开始有意识地总结规律，并拓展了公司管理与市场相关的知识。

2017年底，因为物联网项目尚未走向量产，他决定再寻找新的工作机会。机缘巧合，此时，UCloud正在寻找一个懂互联网、芯片的软硬件知识结构的架构工程师，这和黄朝波的履历不谋而合，于是他来到UCloud担任芯片及硬件研发负责人。“当时公司谁也说不清项目研发的方向是什么，只是需要一个这样知识背景的人来解决公司面临的与硬件相关的12个痛点问题。”黄朝波拿着那12个痛点问题清单，经过仔细梳理反复尝试，最终选择了其中一个觉得最有价值的方向做了下去。“就是后来被称为DPU的方向。”

黄朝波回忆道，“我最初以为它只和网络、虚拟化有关，真正开始后，发现它跟整个云的底层核心服务都相关。它是一个将云计算核心的软件服务下沉到硬件中的关键角色。说它是云计算的‘基石’一点都不为过。”在从0到1的摸索中，黄朝波逐渐意识到这个项目需要更多的资源协作。“一开始我们所需要的板卡都不存在，需要定制，但系统跑通之后，它依然是一个FPGA产品，功能、功耗、稳定性都与芯片有差距。”黄朝波发现这里面的问题，决定把这一路研发的发现和思考记录下来。“告诉大家这里面存在的问题，希望整个行业能够把这个事情做得更好。”
2019年国庆长假，黄朝波在家敲下了《软硬件融合——超大规模云计算架构创新之路》的第一章。他根据云计算面临的各种问题，提出了基于软硬件融合的超异构计算，这本书讲述从DPU到超异构计算的可行性和必然性。

他迫切想阐述一个观点：要超越用户需求。开发者如果不能深层次理解用户需求，那所有的开发就是空谈，不能落地。开发者的思维不能停留在“对方提出需求——满足需求”的阶段，因为用户的需求只是表征，开发者要明白这个需求背后的本质问题所在，并且要思考未来一定时期内问题可能的发展，然后再去解决问题，这才能真的满足用户的需求。如同医生看病，病人可能只能表达自己头痛脚疼，而医生要能看到因果所在，给出真正的系统性治疗方案。

另外，他还郑重地提醒开发者：要让用户掌控一切，不要试图帮助用户决策。上一个问题说到：用户提出需求，满足需求，不管是当前需求还是未来需求。但这还不够，用户的本质需求并不是要帮助他们解决问题，而是要提供他们快速解决问题的工具和方法，授人以鱼不如授人以渔。

整本书的写作耗时一年。这一年，他强迫自己一周写10页，但有太多各种情况干扰，也有太多的内容需要取舍和斟酌。“最痛苦的是，有一次10天才写了1页，最后还删了半页”。

黄朝波在家中书房写作

《软硬件融合》出版后，得到了业内人士高度的评价。Intel中国研究院院长宋继强先生说，“朝波的这本书非常及时的给读者揭示了软硬件融合的趋势，并且从多个角度讲解了软硬件融合的相关技术。由于作者的学习和工作经历很好的覆盖了芯片设计、软件开发和云计算系统架构，此书的内容很全面。”

黄朝波参加行业研讨会

创办矩向科技，让软硬件深情共舞

黄朝波在书中定义了数据处理加速解决方案的4个发展阶段：

智能网卡（SmartNIC）

数据处理器（DPU）

基础设施处理器（InfrastructureProcess Unit，IPU）

更贴合用户需求的：弹性的基础设施处理器（elasticIPU，eIPU）。

他清楚的记得，这本书交稿时间是2020年10月2号。当时，许多公司所做的技术方案还停留在基于FPGA的智能网卡阶段。在他交稿后第4天，英伟达发布了名为——BlueFieldDPU（DataProcessing Unit）系列的新型处理器。在9个月后，也就是2021年6月，Intel发布了自己的IPU处理器。

NVIDIA发布了DPU之后，黄朝波敏锐的意识到，产业在朝着自己预测的方向前进，再次创业的想法在他的心中开始涌动。黄朝波目前定义的DPU发展4个阶段，究竟需要怎样的超异构框架？产品出现后，会给行业催生出怎样的巨变？这看似未知的东西，却蕴藏着巨大的市场前景。DPU落地场景广阔。目前最大的需求在云计算，而自动驾驶、5G以及其它人工智能场景，将带来更大的需求。

2021年7月9日，黄朝波在张江成立矩向科技。团队由来自芯片、计算机、互联网等方面背景的资深专家组成。“我们的核心技术人员大多具有计算机体系结构背景，能够驾驭超大规模并且复杂的设计。”此外，公司还组建了专门的软硬件融合团队，负责设计芯片中的一些关键Feature，用来支撑用户的快速个性化开发。“这个团队全球独一无二，会成为我们制胜的‘杀手锏’。”此外，公司的可编程网络和高性能网络团队均来自相关领域的全球顶级公司。目前矩向科技团队正在寻找融资，以推进第一代芯片产品的研发。

矩向科技获中国计算机学会“优胜创业团队”

他根据DPU演进规律，制定了产品三步走战略。

第一步是FPGA产品阶段

第二步是基础芯片阶段

第三步是高性能芯片阶段

第二阶段芯片产品预计在2023年下半年提供客户测试。“芯片产品是基于软硬件融合的超异构计算架构，设计足够通用，几乎可以覆盖数据中心所有场景，同时性能足够强劲。并且，这只是矩向这套创新架构的起点，它的天花板很高。随着后续功能的逐步增强和完善，将会有超越当前算力数量级提升的更高算力产品出现。”

DPU的本质是超异构计算，而这是一个全新的方向，需要技术团队的不断探索和不断超越。产品带来的未知革命性变化，让黄朝波兴奋而期待。科技发展带来的瑰丽前景，是他一路探索的动力，也让他走在了国内DPU领域的前沿。他在实践中发现问题，认识问题，解决问题，并总结问题，定义问题，分享经验，让更多的从业者少走弯路。这种探索与开放的精神是IT行业持久不衰的根本所在。

DPU是软硬件融合的起点，也是矩向科技探索基于软硬件融合的超异构计算的起点。更远的将来，需要所有人一起努力。

对话：关于DPU的6个问题

什么是DPU？

黄朝波：DPU最基本的作用是作为CPU的卸载平台，接管网络、存储、虚拟化、安全等功能，并实现硬件资源池化等基础设施层服务，释放CPU的算力给上层应用。简单类比社会组织，就像一个公司发展起来后，有了更多专职人员，CEO不必身兼多职。当DPU作为基础设施层，进一步集成了更多IaaS层服务到DPU中，使得DPU逐渐成为云计算最核心的器件。DPU成为了云计算的基石。

你为什么会从软硬件融合的角度看待DPU的出现？

黄朝波：DPU的出现本质是软硬件需要融合。传统的冯•诺伊曼架构走向瓶颈，软件所需的性能CPU无法满足。于是，不得不通过硬件加速的方式来提升性能。但硬件加速带来了系统灵活性的降低，很难满足软件业务场景的多种多样和快速迭代。芯片的高投入高风险，也制约着软件的发展。这样，基于软硬件融合的通用DPU成为市场需求，软硬件融合是大势所趋。

为什么会提出DPU是超异构计算的说法？

黄朝波: 这是从技术角度分析DPU的出现。DPU是超异构计算的第一个典型案例。随着算力需求的发展，大量的数据处理任务融入DPU，软硬件需要彼此协同，为了达到算力及灵活性的最优组合，需要引入CPU、GPU、DSA和ASIC等不同层次的多种处理器引擎，这就需要考虑设计全新的软硬件架构。DPU是超异构计算的开始。

软件背景团队和硬件背景团队研发DPU存在什么样的优势和局限？你认为什么样的团队能做DPU？

黄朝波: 一方面，硬件背景的团队，也许可以把算力堆砌到很高，但芯片可能是软件开发人员难以驾驭的。另一方面，软件背景的团队，也许可以保证系统有非常好的灵活可编程能力，但其一定难以构建DPU所需的“庞然大物”般的芯片实现。唯有软硬件深度“融合”的团队，才能够构建既超高算力又有极致可编程能力的均衡DPU。此外，构建能满足多种领域数据处理集成的开放DPU生态，需要整个行业的共同努力，而非一家公司就能做到。如果每一家公司都去定制开发自己的独特DPU和独立软件生态，成本高，并且难以落地。所以我预测，未来的DPU会是小范围的封闭定制化，大范围的开放标准化。这需要团队有深厚的芯片硬件、互联网软件、市场及生态等多种背景的整合。此外，云计算不断在演化和进步，技术发展和产品落地具有很多的未知性。时代需要能理解并时刻紧跟云计算深层次发展的团队。

DPU当前最可能落地的场景是什么？

黄朝波: 云计算，这是目前算力需求最高的地方。云计算是由IaaS、PaaS以及SaaS组成的分层服务体系，超大的规模、大量的数据、复杂的网络和安全性需求，以及上层的业务应用，这使得云计算对算力有着超高的需求。而随着行业的继续发展，未来，人工智能、自动驾驶、5G以及其它复杂计算场景，都将带来类DPU的超异构计算芯片的更大需求。

未来的DPU产品会走向开放还是封闭？

黄朝波: 软件应用发展很快，DPU必须是通用设计才有意义，这样，芯片和业务的适配才能更加弹性，才能帮助用户快速实现差异化创新。同时，只有通用的设计，才能确保芯片的大规模商业化落地。DPU必须走开放生态的路子。行业已经从硬件定义走向了软件定义的时代，DPU所处理的各种领域任务的软件生态已经相对成熟，只有拥抱开放开源的行业生态才能最终成功。只有实现了通用而开放的设计，才能真正实现“软件定义一切，硬件加速一切”。