9月24日至25日,由湖南省人民政府主办,湖南省工业和信息化厅、长沙市人民政府、中国电子信息产业发展研究院承办的2024世界计算大会在湖南长沙举办。云轴科技ZStack AIOS平台智塔凭借在智算领域的卓越表现,入选2024世界计算大会专题展优秀成果。
本届大会以“智算万物 湘约未来——算出新质生产力”为主题,国内外近20位院士、100多位权威专家和国内外计算领域龙头企业高管,以及来自12个国家的近30位国际嘉宾出席大会,共同探讨计算产业的最新动态、最新成果和发展趋势。
2024世界计算大会专题展优秀成果重点展示在先进计算赋能下,对当前经济社会全局和长远发展具有引领性作用,统筹兼顾产业发展现状与发展潜力的创新成果,涵盖新一代信息技术、低空经济、新能源汽车等新兴产业,以及元宇宙、脑机接口、量子信息、人形机器人、未来显示、未来网络等未来产业领域的优秀成果。云轴科技ZStack AIOS平台智塔此次入选优秀成果,不仅体现了ZStack在AI技术应用上的最新进展,也彰显了ZStack在推动企业级AI应用方面的创新实力。
在智算时代,ZStack新一代AI软件基础设施ZStack AIOS平台智塔,在算力层、模型层、运营层以AI为核心,解耦异构算力竖井降低AI应用成本,解构模型生态竖井优化AI应用性能,全域计量计费实现AI自服务化,加速企业AI应用渗透率。
在算力层,ZStack AIOS平台智塔具备裸金属、虚机与容器多引擎能力,通过GPU切割精分量化,对异构AI算力实现可达1%的量化管理,大幅降低算力成本。算力层的另一大核心在于,在AI算力精分量化基础之上,通过分布式协同调度能力,实现异构算力的统一管理和动态调度,达到算力的精细化资源复用,进一步降低算力成本。已支持 NVIDIA、AMD、Intel、海光、华为昇腾、寒武纪、燧原、天数智芯、太初元碁、壁仞、摩尔线程、沐曦等中国市场上的主流品牌和几十种 AI 芯片型号,实现异构算力协同不同AI 模型之间的优化路由。
在模型层,ZStack AIOS 平台智塔一方面通过动态模型自适应平台,提供从模型训练、评估、推理到更新的全生命周期管理,高效实现模型服务优化;另一方面通过将AI任务智能解构,动态优化路由、分布式并行训推,自适应负载均衡等能力,结合算力层的算力精分协同调度平台,显著提升模型训推性能和模型服务体验。已支持生成式AI(GenAI)、自然语言处理 (NLP)、计算机视觉、机器学习(ML)、深度学习(DL)以及多模态AI,并支持Llama、Gemma、通义千问Qwen、智谱ChatGLM、百川Baichuan、零一万物Yi、OLMo、GPT-NeoX等数百种开源大模型,实现模型压缩与性能优化,模型选型与生命周期管理,训推高效部署与自适应调度,达到跨软硬件的全面性能优化。
在运营层,ZStack AIOS 平台智塔以 AI 为核心提供更全面更直观的可视化统一视图,实现精细化管理;在动态调度资源方面,跨多智算中心、多集群全域调度自适应模块,可以根据需要实现跨平台的自动扩缩和调度功能;在训推服务高可用方面,弹性容错自愈模块具备快速故障定位与故障自愈能力,可以实现跨平台的容错与灾备;在安全与隐私方面,将融合敏感数据检测能力,实现端到端的数据安全保障作为运营基础;在系统运营方面,可实现多租户隔离和资源配额管理,训推计量计费服务。
未来,ZStack将继续推进技术创新的深度和广度,增强在智能计算领域的研发力度,并与行业伙伴紧密合作,共同促进AI技术的革新和实际应用。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.