华为李潇：昇腾AI加速金融行业智能化升级

2024年11月28日，以“打造新生态、合作赢未来”为主题的2024数字产业生态伙伴大会，在重庆悦来国际会议中心开幕。

本次大会由重庆市经济和信息化委员会、重庆两江新区管理委员会、中共重庆市委网络安全和信息化委员会办公室、中共重庆市委金融委员会办公室、重庆市科学技术局、重庆市人力资源和社会保障局、重庆市大数据应用发展管理局、重庆市知识产权局、重庆市科学技术协会等9大政府部门联合主办，重庆市发展和改革委员会支持，马上消费金融股份有限公司承办，华为技术有限公司、阿里云计算有限公司、腾讯云计算（北京）有限责任公司、北京百度网讯科技有限公司、北京中关村科金技术有限公司、重庆市大模型联盟等单位协办。

在会上，华为中国政企昇腾计算业务总经理李潇发表“昇腾AI加速行业智能化升级”主旨演讲，并表示：昇腾AI将坚持围绕基础软硬件、训推解决方案持续演进，做深技术根基。昇腾构筑高效和可靠的算力基础设施，助力金融机构拥抱大模型孵化系列应用创新，加速金融行业智能化升级。

人工智能走深向实，大模型学习和泛化能力持续增强，促使推理应用快速增长。今年，全球AI应用活跃用户数量已从21年的1800万飙升至2.3亿，其中个人及企业级付费用户比例达15%，AI应用已逐步探索出多种商业模式。伴随AI Agent、RAG、SFT等技术发展，大模型准确度可达90%以上，促进了AI与业务的融合。在互联网、金融等数字化转型水平较高的行业，AI渗透率已超过30%。根据预测，到2030年，AI将带动超过万亿的产业空间，未来充满着无限的想象。

昇腾打造了开放易用的全系列训练、推理、训推一体硬件产品、创新的硬件使能CANN和全流程工具链，全面加速并行算法、模型和应用的开发和创新。

在解决方案层面，训练系统要充分发挥有效算力，训练性能、稳定性和开发成本是关键。昇腾训练解决方案始终围绕“高性能、高可用、高易用”持续创新，满足大模型训练算力的增长需求。在训练性能上，昇腾独创了多种优化算法，如计算优化、内存优化和通信算法优化，大幅提升了训练效率。推理应用是人工智能释放价值的关键，为了更好地匹配大模型应用演进趋势，昇腾推理解决方案秉承开放、快速部署、极致性能的原则，在有效吞吐、服务化和算力部署等能力上持续演进，实现更高的AI落地经济性。

在软件层面，CANN是昇腾AI生态的根基和锚点，CANN深度开放，上接各类AI框架、加速库和应用，向下使能算力资源调度和计算加速，实现典型融合算子开发周期从2个月缩短至1.5人周，使能客户和伙伴自主开发；MindSpore持续提升动静统一能力，以1套API使能2种模式开发，让开发者忽略动静态图开发差异，小时级编码。通过编译选项，实现动/静态执行模式灵活选择；昇腾分布式加速套件MindSpeed 1.0，提供100+预置模型、60+加速算法及算子、10余种微调算法，降低从预训练到增量训练的分布式开发成本，加速模型迭代。

为了方便金融等客户部署AI推理应用，我们开放了MindIE推理引擎，可以大幅提升推理吞吐性能，加快推理应用开发及部署。同时，昇腾构建极简易用的全流程工具链MindStudio，快速支持大模型从训练开发到推理部署，让整个流程更加便捷高效。

此外，李潇还介绍了昇腾在金融行业的一些具体应用场景，并指出客户在选择算力平台的同时，也要考虑应用场景和模型的选择。昇腾凭借强大的算力和软件开放应用的能力，已经支持了多个基础大模型和行业大模型的适配。同时，昇腾还与合作伙伴一起，围绕金融行业的智能化升级，探索了多种AI应用场景，如办公、营销和客服等。当前已与马上消费联合开展了5大技术创新，马上消费的天镜大模型已基于昇腾完成测试，并应用于语音类业务场景，测试效果基本持平业界。其中智能客户分流94.7%，问题识别率93.6%，精准保障消费者合法权益，提升效率。

面向未来，建议金融客户选择相对成熟的AI技术路线和可持续迭代的基础设施，以保障关键行业的安全稳定和可持续发展；行业应聚焦成熟的场景，小步快跑地落地AI应用；联合主流模型厂商基于基础大模型进行金融数据增量训练，高效孵化出匹配自身业务的金融大模型，并提升整体的金融服务质量和效率。

本文源自：金融界