从推到训——移动云全面发力，打通人工智能大模型落地应用之路

根据IDC《中国模型即服务（MaaS）及AI大模型解决方案市场追踪，2024H1》报告显示，我国MaaS市场规模在2024上半年已达到2．5亿元人民币，且市场规模预计将在2024—2028年期间保持快速增长态势，年均复合增长率预计约为64．8％，到2028年市场总规模将达到38亿元人民币。我国企业数量庞大，业务场景丰富，为大模型落地应用提供了良好的前景。目前，大模型不仅在智能客服、企业搜索、市场营销和垂类行业场景中取得广泛应用，政企、工业、医疗等领域也纷纷着手构建行业大模型，以期通过大模型“完成无限任务的能力”，实现行业高质量发展。

作为国内云计算头部企业，移动云近年来持续推动大模型技术在国内发展、应用。一方面，移动云凭借运营商得天独厚的资源优势，不断对数智基座升级，以期通过充足的算力、数据供给能力，为大模型发展提供资源支撑；另一方面，移动云不断以技术引领创新，通过模型、工具乃至本地化专属服务为用户提供了从训到推的一站式“孵化”能力，从而助力千行百业快速完成“智改数转网联”。

从算力到数据，为大模型训练提供全面支撑

大模型是指具有大量参数和复杂结构的机器学习模型，因此需要通过海量异构算力及高质量数据集进行训练，以使其具有处理海量数据和完成复杂任务的强大能力。为贯彻中国移动人工智能“供给者”目标，移动云不断加速智算中心建设，并相继在内蒙古、黑龙江、京津冀、长三角、粤港澳大湾区等地完成13个智算中心节点上线，全网智能算力规模总体已超过26EFlops（FP16）；同时移动云还基于梧桐大数据平台，汇聚了超2000PB数据，114个高质量行业数据集，实现了对30多个行业和10种主流数据类型的全面覆盖。

同时，移动云还突破了大规模集群管控调度、全栈加速及智算集群稳定性保障三大关键技术，打造出10万卡多元异构算力的统一纳管、万卡GPU容器资源秒级调度拉起能力，并实现了国产万卡集群训练千亿大模型时46％的模型算力利用率以及千卡集群连续训练超过25天的训练稳定性。正因如此，移动云能够以海量、高效的智算算力服务为用户大模型训练的训前、训中、训后提供资源供给及全链路保障，解决了大模型训练时资源需求量大、训练周期长、硬件成本高等难题。

从模型到工具，为大模型推理提供全链路服务

作为人工智能技术，大模型技术具有两大显著特点，其一是该技术擅长通过学习持续进步，其能力会在日积月累后显著提升，其二是对比只能为特定任务提供专属功能的传统数字化工具，大模型能够通过定向开发，完成写作、图片、视频、谱曲等生成式任务。正因如此，对基础大模型进行推理，使其凭借强大的泛化能力应用于实际场景之中，是大模型迈向落地应用的关键。

为加速大模型落地应用，移动云为中国移动九天基础大模型的训练及发布提供全面支撑，并以此打造出首个通过国家“生成式人工智能服务备案”和“境内深度合成服务算法备案”双备案的央企研发大模型。同时移动云还基于九天基础大模型打造出17个自研九天行业大模型，并基于湛卢代码大模型打造出具有生成式大模型微调、大模型评估、大模型推理及大模型应用等全链路开发工具大模型服务平台。基于此，移动云既能以海量通用大模型大幅降低用户模型预训练时所需的资金与时间投入，又能通过全链路开发工具提升用户大模型调优、推理以及应用开发效率，从而全面加速大模型应用进程。

从云端到本地，为大模型应用打造“加速器”

由于大模型在推理时需要调用企业的各种数据源进行分析与生成，因此在推理生成式大模型应用时，用户往往更青睐通过本地化服务来降低数据访问延迟、减少带宽消耗、避免企业敏感数据泄露。为此，移动云凭借“大云天穹”算网大脑一体化调度能力，助力用户在通算节点进行数据处理，在智算节点进行模型训练，在边缘节点进行模型推理，进而实现了便捷、安全、高效的“通、智、边”节点数据流动。

基于自身边缘智能小站服务，移动云能够为已完成模型训练或使用通用成熟模型的用户提供边缘推理一体机服务，该服务能够基于云原生底座提供智算和通算双算力，实现高效的本地化模型推理。同时该服务支持云端集中化统一监控、本地资源自服务管理，因此用户能够在享受公有云级别服务的同时，以本地化部署模式有效提升成本效益、降低数据暴露风险，并让大模型应用能够为工业制造、自动驾驶、远程医疗等业务场景提供实时响应能力。

从智算算力到高质量数据集，从基础大模型到一站式服务平台，通过注入源源不断的“云端动能”，移动云有力地推动了人工智能大模型的发展与应用。未来，移动云还将着手布局更大规模的智算集群建设，并不断推动边缘节点升级，进而持续加快“东中西”“云边端”“通智超量”算力基础设施融合，为AI大模型创新发展夯实基础底座。