金融界2024年5月29日消息,据国家知识产权局公告,芯原微电子(上海)股份有限公司等合作申请一项名为“NPU内存分配方法、NPU、电子设备及存储介质“,公开号CN202410287398.5,申请日期为2024年3月。
专利摘要显示,本申请提供一种NPU内存分配方法、NPU、电子设备及存储介质,涉及神经网络领域。NPU内存分配方法包括:获取需被所述NPU分配内存的各模型的结构及所述各模型的工作数据;基于所述结构从所述工作数据中确定各模型之间的目标成分;其中,所述目标成分包括各模型之间的相同工作数据和模型中允许在内存通过分时复用进行存储的工作数据二者中的至少一者;为各模型的所述目标成分分配同一个内存。通过上述内存分配方法,可以在多模型执行运算时,减少NPU内存的占用。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.