品玩12月16日讯,无问苍穹今天宣布,正式开源无问芯穹端侧解决方案中的全模态理解小模型Megrez-3B-Omni和它的纯语言模型版本Megrez-3B-Instruct。
Megrez-3B-Omni是一个为端而生的全模态理解模型,同时具备图片、音频、文本三种模态数据的处理能力,并在三个模态的多种测评基准中取得了最优性能。Megrez-3B-Omni选择了最适合手机、平板等端侧设备的30亿参数黄金尺寸,结构规整,推理速度最大领先同精度模型300%。
未来,通过软硬件联合优化,在端上智能一体化解决方案内,无问芯穹还将推出与之相适配的端侧推理软件与LPU IP等,通过“端模型+端软件+端IP”一体化设计,为端侧设备提供更完整、对硬件利用更高效的智能方案,持续促进大模型在端侧设备上实现更高推理速度与更低能耗,推动端侧智能更快迎接AGI到来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.