广东首个采用国产TPU技术的智算中心，来了！

近日，在第五届深圳国际人工智能展（GAIE）第二届智能算力发展论坛上，中昊芯英（杭州）科技有限公司（以下简称“中昊芯英”）与中国联合网络通信有限公司深圳市分公司（以下简称“深圳联通”）联合举办了“智算基建，加速未来”高性能AI智算中心项目启动仪式，标志着双方将携手合作共同建设广东首个采用国产TPU技术的智算中心。

据了解，中昊芯英作为国内领先的TPU架构AI芯片企业，此次提供了搭载其自主研发的高性能TPU芯片“刹那®”的人工智能服务器及大规模AI计算集群系统“泰则®”，为项目搭建坚实的AI计算底座。深圳联通则凭借其强大的网络资源和丰富的运营经验，将配合政府及行业伙伴，建设针对特定行业的智算节点，预部署相应软件和模型，为社会提供智能算力服务或MaaS服务，赋能产业发展。

把TPU做成AI界的X86

在ChatGPT掀起生成式AI的浪潮以后，美国芯片公司英伟达作为“卖铲人”，凭借其 GPU 在大模型训练和推理中的出色发挥而赚得盆满钵满，其高性能的A100、H100等计算卡供不应求、价格昂贵。在AI时代，要与已在行业中深耕积累了几十年的行业龙头竞争，更务实的选择或许是另辟蹊径，寻觅新的突破口。

“我们想把TPU这个架构做成AI界的X86。”在接受记者采访时，中昊芯英创始人兼CEO杨龚轶凡表示，英特尔的X86统治了PC，CPU时代没有任何架构能够跟X86竞争，直到手机出现，ARM才分走了一部分市场份额。“我们希望TPU架构就是AI界里未来最核心的架构方式。TPU是为了AI的深度学习而设计的，它的想象力比GPU更强，虽然放弃了一些灵活性，但也获取了巨大的性能优势。”杨龚轶凡说。

针对大模型的模型训练和推理性设计，一方面，TPU软件和网络的架构和结构比GPU实现同样性能的网络架构更为简洁和简单，在软件的运维层面也会更简洁一些；另一方面，在硬件的搭载过程中，也会设计让它实现可运维，尽可能降低生产成本、运维成本，最后实现对模型的高算力的支持。

目前，英伟达虽然在高端AI芯片上占据了大多数市场份额，但谷歌、微软、亚马逊等云服务商也是AI芯片领域的重要玩家，其中谷歌TPU更是对英伟达的GPU构成了挑战。目前，国内做TPU芯片的公司并不多，中昊芯英是国内唯一掌握TPU架构AI芯片核心研发技术的公司。据了解，杨龚轶凡曾在谷歌深度参与了TPU 2/3/4的设计与研发，公司汇聚了来自谷歌、甲骨文、微软、海思等全球科技巨头的AI软硬件设计人才，在国产TPU芯片上具有较强的先发优势。

据杨龚轶凡介绍，经过近5年的积累，中昊芯英已经进入第一代产品的量产生产周期。不过，杨龚轶凡也表示，高性能芯片作为时间周期长的科技型产品，公司的TPU虽然用5年走过了“从0到1”，但“从1到100”依然需要时间。“谷歌从年产1000片芯片到今年有280万芯片的量产，花了近10年时间。我们希望在未来的3到4年内，在中昊芯英第10年的时候，也有超过百万片的芯片销售，实现超过百亿元的营收体量。”杨龚轶凡说。

为人工智能产业发展夯实算力基座

深圳作为全国科技创新的前沿阵地，一直走在人工智能产业发展的前列。据深圳联通副总经理赵桂标介绍，中昊芯英与深圳联通本次共建的智算中心是广东地区首个采用国产TPU技术的智算中心。“目前，项目第一期会部署32个智算节点，算力为50P，后期会加快扩容，扩大到千卡集群的规模，助力智算中心相关建设，成为深圳智算核心高地的重要组成部分。”赵桂标表示。

值得一提的是，该项目的优势在于算力的共享，避免单个企业因业务需求波动导致的算力闲置或不足问题，提高算力整体利用率，降低运营成本。同时，该项目将搭载联通云自研“星罗”算力管理平台，实现多元异构算力的适配和服务编排，形成“通算+智算+超算”的融合调度能力，可面向客户提供一体化的算力运营服务，也可用于企业私有化部署的智能算力网络搭建及运营管理。

深圳联通表示，此次双方合作共建的智算中心，是一个由业务需求驱动的项目。这一项目主要有两大特点，一是数、算、用一体，能够满足数算用场景，是一个训练推理一体化的项目；二是这一合作模式可复制，其他地方可以根据这个经验进行快速迭代和复制，快速建立起相关的算力中心，为企业提供训练推理一体化的算力服务。

记者了解到，在中昊芯英与深圳联通共建智算中心的这一合作模式中，双方将充分发挥各自优势，做到资源共享、能力互补、互利共赢。杨龚轶凡表示，中昊芯英作为芯片研发商，在算力集群的软件栈和硬件栈打造上具有专业优势，而深圳联通则擅长云平台的建设和导入、智算中心的建设、能耗的管理。通过合作，双方致力于将智算中心打造得可靠、好用、效率高。

人工智能产业的腾飞离不开算力的支撑。随着AIGC时代的到来，大模型训练、神经网络开发等应用场景对算力的需求日益激增。中昊芯英表示，在企业布局和市场需求的共同推动下，中昊芯英AI高性能智算中心的运营方案也正逐渐走向成熟，将成为推动产业转型升级的重要力量，为人工智能产业的发展夯实算力基座。