采用MoE大模型，清华创业团队医者AI构建健康管理Agent

作者 ｜杨逍

编辑｜苏建勋

随着基座大模型的竞争初见分晓，如何将AI落地到各行各业成为行业关注的问题。

北京医者信息科技有限责任公司（以下简称“医者AI”）成立于2023年，由清华计算机博士、医学博士及AI健康领域成功创业者等组成。公司聚焦于亚健康管理领域，基于最前沿的MoE架构大模型，结合软硬件，为用户提供7*24小时的健康管理服务，让每个家庭都有自己的健康管家AI及Healthy Care Agents。

医者AI产品界面

据世界卫生组织统计70%以上，总计约9.5亿的中国人处于亚健康状态。健康管理需求人群巨大。同时健康管理需求又是极其长尾，零散的。像我们平时腰酸背痛、痛经宫寒、失眠脱发、三高管理等各类健康问题很散但很高频，一般达不到病症不值得去医院，但同时困扰着我们。这种需求却没有方案能够很好的满足，医者AI希望用大模型健康agents来满足这个巨大的需求。

目前市面上存在两类健康管理解决方案。一类是真人服务，一类是传统技术产品。真人服务存在巨大错配，高水平医生扎堆医院体系，无暇顾及长尾健康管理需求。传统技术如专家系统或知识图谱本质是触发关键词的“问答机器人”，无法胜任日常健康的复杂场景也无法与用户建立信任链接。相比之下大模型完美契合健康管理场景，具备低成本性的同时又能像真人般与用户产生拟人化且高水平的交互。

但如果仅用传统大模型如微调大模型、行业大模型等又会面临幻觉问题、长期记忆缺失问题、小样本训练不足等问题。

为了解决这个现状，医者团队采用自研MoE架构大模型。

通过混合架构，将大模型与全科医生AI、专科专家AI、运动教练AI、营养师AI等联合起来共同服务用户。

MoE架构大模型

MoE架构是一种多模型融合神经网络架构，其中的调度模型（Gating Model）能像“小组长”一样，根据不同任务调度不同的“组员”般的专家模型（Expert Model）组成不同的“小分队”，产生新的AI Agent。

医者AI团队自研近700亿参数总量的MoE架构大模型，其中包括糖尿病管理、三高管理、肺结节管理等10+专家模型，来服务各类复杂场景。

医者AI产品架构

当需要通用健康管理AI时，医者AI的产品可以调度“询症”专家模型（Expert Model）以及各种功能类的专家模型（Expert Model）；需要肺结节健康管理AI时 ，它能调度“复合判断”、“治法确定” 专家模型（Expert Model） 以及专症类中“肺结节”专家模型（Expert Model） ；需要针对糖尿病的营养师AI时，则可以调度专症类“糖尿病”专家模型（Expert Model）以及“食疗”专家模型（Expert Model）等等。

当有新的需求出现，MoE架构可以像拼乐高一样灵活调取组成新的模型组合，而不需要重新训练一遍大模型。这大大节省了研发，实现极低边际成本、极小样本形成新的模型Agent。

专家模型

相比通用大模型 ，MoE大模型还具有以下优点：

• 前后一致性和准确性：通用大模型存在“幻觉”问题。MoE 架构模型在特定场景下可将前后一致性及准确性从60%提高到97%以上，这在健康领域尤其重要。
• 长期记忆：通用大模型不具有长期记忆，新开一个窗口就会忘记前序内容，这显然在健康管理场景是不可接受的。医者AI通过知识蒸馏建立用户小模型，产生长期记忆。目前可到900轮对话蒸馏，约等于3年记忆。
• 小样本训练：健康场景是一个典型的数据孤岛小样本数据场景。这种体量的小样本在传统通用模型前如同小石子扔进大海，训练效果极差。而MoE架构就能很好的用极小样本数据训练小专家模型（Expert Model）从而融入整个大模型，使模型在专门的任务上表现优异。
• 个人健康数字孪生体：在MoE架构中,设有一个专门复刻用户健康情况的专家模型，可以在交互中通过知识蒸馏的方法将用户的健康信息训练成模型，并在达到一定训练量后成为用户的健康孪生体。它可以记录甚至预测用户的健康情况，也可以作为用户的专属健康Agents对外沟通，例如与医生预沟通、帮用户制定专属食谱、运动计划等。

目前，医者AI已落地体检及家庭医生两大场景应用。

在体检场景，医者AI与国内top民营体检机构联合。用户不仅可以在体检前与“健康顾问AI”进行风险筛查问题咨询，得到专业的体检方案，还能在检后得到“体检报告解读师AI”及“专科医生AI”的专项报告解读、问题答疑，还可以得到个人健康数字分身，进行7*24小时的检后健康管理；

在家庭医生场景，医者AI联手国内top保险机构，基于微信群赋能升级传统纯人工线上医生模式。为家庭用户提供专属AI家庭医生及运动教练、营养师等agents团队，满足家庭用户各类健康管理需求。极大降低投诉率，有效提升用户满意度及复购率。

同时，医者AI拓展多端产品落地，目前已推出手机、电脑、智能音箱、智能手表等多端产品，希望实现7*24小时随时随地的健康守护。

创始团队中，团队CEO刘呈辉是AI+健康领域的连续成功创业者；CTO许哲楠长期深耕医疗NLP领域，是清华大学计算机系博士，清华大学学生算法协会发起人，参与制定中国电子学会技术团体标准，荣获多项国际级大奖，多项成果落地知名三甲医院。

医者AI 团队表示，立志用大模型技术填补中国千万家庭健康管理需求，成为人们身边的专属健康管理AI。