【金猿技术展】大语言模型多智能体问答

创意信息技术

该技术由创意信息投递并参与“数据猿年度金猿策划活动——2024大数据产业年度创新技术突破榜单及奖项”评选。

本发明提供了一种基于大语言模型的多智能体问答系统及方法，属于问答系统技术领域。包括多个根据系统应用场景创建的功能相互独立的智能体，每个智能体之间都使用自然语言处理进行交流和自我适应。智能体中包括监视器模块、上下文管理器模块、话题管理器模块、话题丰富器模块和聊天代理模块。

本发明通过使用多智能体对复杂场景进行职责和功能的划分，智能体间相互协作，共同完成复杂的业务场景需求。同时，在智能体内部，系统可以进行主动式的提问，从用户那里收集专业问答所必要的特有信息。最后，该系统能够在对话中自动管理话题，跟踪话题推进，并有效地进行以当前话题为中心的讨论，能够让大语言模型在复杂场景下的专业领域进行知识问答。

技术说明

基于大语言模型的多智能体问答系统是一种结合了自然语言处理（NLP）、机器学习以及多智能体系统（MAS）技术的高级应用。这样的系统旨在通过多个协作的智能体来提供更高效、准确和个性化的信息检索与问题解答服务，技术创新点包括：

1、多智能体协作机制

传统的问答系统往往依赖单一的模型或算法，而多智能体问答系统则利用多个专门化智能体共同工作。每个智能体可以专注于特定领域或功能（如知识库搜索、语义理解等），并通过有效的通信协议协同解决用户提出的问题。这种分工合作模式能够显著提升系统的响应速度和准确性。

2、上下文感知能力增强

利用先进的大语言模型作为基础，这类系统能够更好地理解和处理复杂的对话情境，包括但不限于长期记忆保持、情感分析等。这意味着系统不仅能够回答直接相关的问题，还能根据之前的交流内容做出更加连贯且贴合用户需求的回答。

3、个性化推荐和服务

通过对用户行为习惯的学习，多智能体问答系统可以为用户提供定制化的信息推送及服务建议。例如，在教育场景下，根据学生的学习进度自动调整难度适中的练习题；在医疗咨询中，则可以根据病人的健康状况推荐合适的治疗方案等。

4、自适应学习与进化

随着使用频率增加，这些系统可以通过持续地从互动过程中收集数据并反馈给训练过程，不断优化自身性能。此外，它们还可能具备一定程度上的自我改进能力，比如发现新知识点时能够及时更新内部数据库，确保所提供信息的新鲜度和准确性。

5、跨平台兼容性与可扩展性

设计良好的架构使得此类系统易于集成到不同的应用程序或服务平台上，并支持未来添加更多功能模块而不影响现有性能。这对于构建开放式的生态系统非常重要。

6、隐私保护与安全措施

鉴于涉及到大量个人信息处理，在开发过程中需要特别注重加强数据加密传输、匿名化处理等手段以保障用户隐私权益不受侵害。

7、分布式协作框架

考虑到单一节点难以满足大规模并发请求的需求，因此设计了一种高效的分布式架构来支持多智能体间的协调运作。具体来说，可以将整个系统划分为多个层次结构：位于顶层的是全局控制器，负责分配任务给各个子模块；中间层包含若干个具有特定功能的专业智能体，如事实核查器、推荐引擎等；底层则是执行具体操作的服务组件。通过这种方式不仅提高了系统的容错性和扩展性，也便于后续功能扩展。

8、知识图谱集成

为增强对复杂概念的理解及推理能力，许多研究项目尝试将外部知识资源融入到模型训练过程中。一种常见做法是构建大规模的知识图谱，并将其作为额外输入提供给神经网络模型。这样不仅可以丰富文本表示空间中的语义信息，还能促进跨域间的信息融合，有助于解决某些开放域问题。

基于大语言模型的多智能体问答系统代表了当前人工智能领域内一种极具潜力的发展方向，它不仅提高了人机交互的质量，也为实现更加智能化的社会服务提供了强有力的技术支撑。

开发团队

·带队负责人姓名：胡雷

胡雷，在技术专长方面，他具备全面且深入的技能。从底层的算子开发，到核心的模型研究，再到关键的模型部署，以及应用层的前后端开发，他都有着丰富的实践经验。同时，他活跃于各类技术社区，获得飞桨开发者专家、成都领航团团长以及飞桨框架PFCC成员等殊荣。带领技术团队参加百度线下黑客松比赛，并荣获2022百度官方 “开源之星” 奖项，并作为主论坛分享嘉宾参加WAVE SUMMIT 2022深度学习开发者峰会。

团队其他重要成员姓名：夏磊、沈银、陈泽源、肖美虹

·隶属机构：创意信息

创意信息技术股份有限公司成立于1996年，2014年1月在深交所创业板上市（股票代码：300366.SZ）。公司自创立之初即始终坚持技术立业和长期主义，致力于提升中国信息技术自主可控能力。公司近4年每年研发投入都保持在3亿元左右，占营收比超过15%。

创意信息拥有大数据与人工智能，基础软件（操作系统、数据库、CAD)，5G与卫星互联网等自主可控核心技术产品，同时拥有物联网、云/边缘计算等信息技术及解决方案，已为政务、能源、运营商、金融、交通等领域近千家大中型政企客户提供数字化转型服务，是国内极少数具备数字化转型全栈核心能力的企业之一，也是西部地区新质生产力代表企业。

相关评价

我中心自2023年5月起采用创意信息技术股份有限公司研制的数字化转型系列产品，包括：人工智能框架-MLOps AI能力平台、具有丰富数据模型、工业模型在内的AI算法超市和生成式智能认知平台等，为本中心数字化转型过程中的数据处理、数据挖掘分析及数据应用工作提供了强大的技术支撑，实现对海量业务数据进行高效智能化处理，形成了数据融合、数据分析、数据可视化的完整数据分析服务流程，能为多种类型数据处理提供快速高效服务，为数字化转型提供有力支撑。

本中心自采用该技术以来，日平均数据处理效能、AI开发效能较采用该技术前提升幅度高达20%，有力保障了本中心数据处理的智能化水平与工作效率。

——天府绛溪实验室先进计算前沿研究中心
产品研发部部长张楠欣

我司从2023年11月起采用创意信息技术股份有限公司研制的生成式智能认知平台。在行业知识库和知识图谱的构建方面，平台展现出了强大的能力，只需提供基础的行业资料和数据，它就能利用自然语言处理和知识图谱技术，快速构建出一个结构化、可视化的知识体系。这不仅方便大家对知识的梳理和查找，提高团队内部的知识共享和协作效率。该系统在功能和性能上均能够满足我司业务需要，具备优异的性统已稳定可靠运行超过6个月。

——北京容天汇海科技有限公司
销售经理吕楠峰