金融界2024年12月18日消息,国家知识产权局信息显示,成都国智未来科技有限公司申请一项名为“一种多任务联合大模型分层参数调整方法及系统”的专利,公开号 CN 119128111 A,申请日期为2024年9月。
专利摘要显示,本发明提供了一种多任务联合大模型分层参数调整方法及系统,属于模型参数调整技术领域。方法根据大模型执行的任务类型和参数调整数据集,采用Lora微调的方式分别对大模型的分层参数进行迭代调整,得到每个任务类型对应的Lora参数;将原始大模型参数与多个任务类型的Lora微调参数合并,生成多任务联合大模型;依据预设任务指标对多任务联合大模型进行模型性能评估,并将模型性能评估结果符合多任务要求的多任务联合大模型部署到实际应用环境。本发明针对大模型的多种任务分别进行分层参数调整,依次冻结其他层的参数,对特定层进行调整,从而降低参数调整所需资源数量提高了参数调整效率。
本文源自:金融界
作者:情报员
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.