网易首页 > 网易号 > 正文 申请入驻

李飞飞丈夫,Salesforce首席科学家发长文,揭秘AI智能体时代!

0
分享至


新智元报道

编辑:英智

【新智元导读】Salesforce首席科学家Silvio Savarese深入解析AI智能体的发展方向,提出从独立任务执行到多智能体协作,再到企业级全面协调的三阶段演进路径。

就在不久前,科技界目光聚焦于一篇别具深意的文章。其作者正是Salesforce首席科学家、斯坦福大学计算机科学兼职教授——Silvio Savarese。

Savarese还有一个令人瞩目的身份——「AI教母」李飞飞的丈夫。

Silvio Savarese深入探讨了AI智能体的未来发展,提出了三大阶段的演变:从独立任务执行到多智能体协作,再到企业级的全面协调。

智能体将不仅仅是工具,更将成为提升工作效能和创造力的强大伙伴。

同时,他还深入思考了在这一激动人心的发展进程中,人类所应扮演的角色与承担的责任。

本文在不改变原文大意的情况下,编译如下:

最近,通过推出Agentforce,Salesforce正在推动企业迈向一个全新的AI赋能时代。


步入AI的第三波浪潮,借助AI智能体,人们工作起来会更有能力、更觉有趣、更富创造力。

从人才招聘到医疗保健领域,AI与人类在各行各业的合作日益广泛。这种协作不仅能快速满足大规模的需求,而且在多数情况下,比单纯的人工操作更加精准。

虽然需要些时间,但智能体无疑会在多方面优化我们的工作:提升生产力与效率,辅助战略决策,我坚信,它还能提高整体工作满意度。

无论普通员工还是高管,几乎所有企业人员都能在调配人力的同时,指挥数字劳动力。

在这个时代的发展进程中,信任和问责制至关重要。

其演进分为三个阶段:首先,专业智能体负责独立任务;接着,多智能体系统实现无缝协作;最后,企业级协调系统将彻底改变企业的运作模式。

Salesforce的AI研究团队肩负着塑造企业AI未来的使命。接下来,为大家讲讲我们对智能体发展的展望,以及人类在此过程中需扮演的角色 。


AI智能体的演变:从规则到推理

LLM是经过训练的深度学习模型,能理解文本还能生成文本。

AI智能体的发展和机器学习的进步密切相关。早期传统的基于规则的系统,比如机器人过程自动化(RPA),能精准完成一系列任务,但在应对变化时就容易出现问题。这类早期系统需要大量技术支持,还要找专业人员咨询。

过去几十年,机器处理信息的方式有了很大变化,从原来死板的自动化系统,变成了现在灵活、适应能力强又高效的学习系统。

现在,像Agentforce这样的现代平台造出的智能体,能明白具体情况,适应新变化,还能做各种任务。

而未来的发展方向更值得期待:我们将会有借助多智能体推理的自适应智能体。

这种智能体可以从周围环境中学到东西,在实际使用中不断进步,能和人类、企业客户、合作伙伴、供应商一起工作。甚至,还能跟越来越贴近人们生活的个性化AI助手配合。

现在,我们才刚开始朝着企业AI智能体发展的三个阶段迈进。

企业智能体的三个阶段

就好比音乐从简单的单音旋律,逐渐演变成复杂美妙的交响乐。AI智能体也在不断进步,从单个独自工作,变为多个智能体协同配合。

每个阶段都建立在上一阶段的基础上,为企业创造出更加丰富、更有层次的互动。

第一阶段:单个AI专家智能体


第一阶段,专家智能体聚焦特定行业,能出色完成既定任务。这给日常关键的商业运作带来了前所未有的效率和准确性。这些智能体是企业应用AI的基础。它们处理零散任务又稳又快,极大改变了部门的工作流程。

它们还能将AI的最新成果用于工作。比如,精准预测最佳行动方案,根据每位客户的偏好和行为,给出高度个性化的产品推荐。此外,不管是面向客户、服务还是销售代表(人和智能体都是如此),都能生成高质量的指导意见、营销文案和信函。

例如,在商业领域,智能体彻底改变了库存和账户管理。

智能体可不只做简单的库存检查,还会主动监控多个地点的库存状况,预测季节性需求变化,实时生成账户摘要,从中找出不寻常的模式或潜在机会。

过去,人工分析这些任务要花好几个小时,现在智能体几秒钟就能搞定,而且分析得更准、更透彻。这给零售客户带来了更优质、更个性化,甚至是神奇的体验。

服务运营也发生了类似转变。这些智能体不光能做基本的账单汇总,还会分析客户互动模式,自动对服务请求分类、排序,进而得出有关客户需求的预测性洞察。

智能体能够发现客户行为中的趋势,这些趋势可能意味着客户满意度有问题,或者存在业务拓展机会。如此一来,就为服务团队提供了实用信息,而不只是一堆原始数据。

如此一来,客户服务变得轻松又流畅。终端客户几乎察觉不到服务的存在——很多时候,他们还没意识到有问题,问题就已经解决了。

金融服务领域,智能体大大提高了客户服务效率。

确认争议时,智能体能分析交易历史,识别潜在的欺诈活动,还会自动启动相关安全协议。做财务规划时,智能体整合市场数据、客户个人历史和各类经济指标,生成全面的分析报告。

合理使用这些智能体,企业后台的运作效率会大幅提升,消费者也能体验更先进的私人银行、投资指导和财富管理服务。

第二阶段:复合智能体——无缝协作者


这一阶段,公司内部的专家智能体开始协同合作,朝着一个共同的商业目标努力。

「协调者智能体」负责组织多个专家智能体协同工作。这就好比餐厅的总经理,要把出色的接待员、服务员、经理、厨师、备餐员和配送员组织起来,大家齐心协力,赢得那个梦寐以求的米其林星级。

在复杂的商业场景中,复合智能体的表现是怎样的呢?我们来看看这个客户服务场景。

有一位忠诚的零售客户,想要更换一款过季商品的尺码。这时,多个智能体在背后默默协作。

首先,有一名前线服务代表负责处理客户最初的询问。接着,一名库存专家会去检查各个地方的产品库存情况。同时,物流智能体开始计算运输选项和时间安排。还有账单专家,认真审查客户的账户历史和支付选项。

最关键的是「协调者智能体」,它把前面这些智能体的工作成果汇总到一起,生成一个有条理、高效率,既符合品牌形象又贴合客户需求的回复。这些回复会交给前线工作人员,他们审核、完善后,再分享给客户。

当多智能体方法实施得当,「协调者智能体」为人类协调者提供服务时,能带来诸多由AI驱动的显著优势:

  • 可靠性提升:系统借助专门化、可靠的智能体聚焦特定领域。由于每个智能体的工作范围较窄,这不仅提升了可靠性,还减少了幻觉现象。

  • 安全性增强:采用分布式处理方式,把敏感数据的处理交给特定智能体,从而增强了安全性。

  • 可扩展性强:随着需求改变,生态系统能无缝扩展。组织可不断增添新的专门化智能体,轻松拓展功能。这或许是其中最重要的优势。

第三阶段:集成式智能体——企业协调者


在理想的最终阶段,跨组织边界的复杂智能体对智能体(A2A)交互出现了,这开创了全新的商业模式。

除了传统的企业对企业(B2B)、企业对消费者(B2C)模式外,还涌现出企业对智能体(B2A),甚至企业对智能体再到消费者(B2A2C)的交互形式。在这些新模式中,AI智能体成了工作和交易的中介。

来看一个简单的汽车租赁场景:客户的个人AI智能体与租赁公司的商业AI智能体进行谈判。

客户智能体一心争取更划算的价格和更多价值,租赁公司智能体则试图靠附加服务多赚钱。但租赁公司的智能体得拿捏好分寸,推销要积极,又不能太激进,以防生意被竞争对手抢走。

这些智能体之间的交互,需要依据复杂的博弈理论。这要求它们具备高超的谈判技巧,遵循特定的协议,能够在不确定的情况下管理风险,有可靠的信任验证机制,还要能巧妙地化解冲突。

现在,想象一下复杂的企业流程。

就拿供应链优化和客户协调这些工作来说,无论你是消费者,还是企业员工,集成式AI能让你拥有一个智能助手。这个助手可以根据你的需求和期望,处理复杂的协调工作,开展有价值的协作。

但是,要实现这个目标,我们人类还有很多工作要做。

必要条件:信任与责任

当我们部署愈发复杂的智能体系统时,每一项决策都必须遵循信任与责任这两个基本原则。

构建信任

在智能体时代,信任的内涵远不止于防范有害内容、偏见和幻觉。

Salesforce近期的研究表明,61%的客户觉得,随着AI的发展,可信度变得比以往任何时候都更加重要。我们正步入一个全新领域,在这个领域中,组织需要对人类与AI的共生关系抱有深度信任。

这种信任基于以下要素。首先是准确性和边界:AI智能体必须在明确的范围里运行,同时保持准确。

智能体的自我意识同样关键。就像一个值得敬重的同事,AI智能体得清楚自己的能力边界,明白什么时候该向人类寻求帮助。这就需要一套复杂的交接协议,保证AI和人类能无缝配合。

比如,我们的AI研究团队正在研究训练方法,教AI智能体遇到解决不了的难题时,把不确定的地方标出来,接着去寻求帮助。只要训练得当,AI就会知道什么时候不能瞎猜,而是向人类求助。

对于多智能体系统,我们还需要全球公认和广泛采用的协议。有了这些协议,协调者智能体才能安全、合乎道德地与其他企业的智能体交流、协商与合作,实现双方共同利益。这种互动得快速、高效,还得公平。

最后,随着AI智能体越来越多,我们的安全措施也得增强。

和其他技术一样,一些人也会利用AI搞破坏。他们可能会训练AI蠕虫来泄露数据,或者尝试控制其他AI智能体,曝光客户的私人数据。

强化保护、做好隐私控制以及持续进行监控,是维持信任的关键。只有建立了信任,AI才能从工具变成和我们一起成长的业务伙伴。

确保问责制

当组织开始部署能每秒做出数千个决策的AI智能体时,需要建立明确的责任和监督框架。

这样一来,一旦出现问题,我们就能有应对的办法。这要有一套周全的方案。下面讲讲负责监督智能体的管理团队该怎么做。

清晰的责任链条:AI 智能体做出重要决策时,得清楚到底谁来负责,不能有丝毫含糊。这可能意味着建立新的角色,比如「AI运维官」,他们不仅有权监管智能体的部署工作,而且在问题发生时也承担责任。

我们需要一个强大的系统,在信息不完整、有偏见、出现幻觉或者产生有害输出之前,就把问题查出来并解决掉。

这可不只是做简单的安全检查,还要持续监控智能体做出的决策,具备实时干预的能力,而且要有一套完整的审计追踪机制。

研究团队最近在检索增强生成(RAG)上有了很大的进展,这让AI系统获取和验证信息的方式有了很大改善。这些新成果能让我们快速评估和调整AI系统,确保它给出的结果既准确又靠谱。

要制定一套流程,让人类能对智能体进行监督和干预。不能只局限于「human-in-the-loop」这个简单概念,要设计出更复杂的框架,明确人类在何时、以何种方式介入智能体的决策。

在常规任务中,智能体能充分发挥自主性,而遇到重大决策时,人类的判断仍能起到关键作用 。

一旦出现错误,我们要有一套结构化应对方法。这不仅包含技术层面的回滚程序,还得明确如何与客户沟通、采取哪些补救措施,以及制定系统性改进的协议,以防止类似问题的发生。

目前,做出商业决策的自主AI智能体面临着责任界定的问题,现有的监管环境并不适用于它们。

我们需要和监管机构合作,制定合适的治理结构,明确AI智能体的责任,建立全新的法律和合规框架。

展望未来:科学方法与企业创新

要想部署真正有效的AI系统,企业高层要有长远眼光,把这些技术进步运用到实际应用中。

企业在AI应用上是否成功,不只看部署了多少AI智能体,或者实施速度有多快。关键在于企业领导和技术专家的精心规划,让AI与现有的工作流程、业务过程以及人类的工作偏好完美融合。

Salesforce在企业CRM领域摸爬滚打多年,经验丰富,很懂业务逻辑优化。我们把这些经验和知识融入到 Agentforce的部署策略里。系统不仅功能强大,在满足客户业务需求和运营人员需求方面,也做到了可靠又负责。

未来,人类和AI不再相互对立,而是携手合作,各展所长。随着Agentforce发布,智能体已经成为提升工作效能的强大助力,让团队完成以前办不到的任务。

开始这一转型的时机就是现在,就像每一次突破性实验都始于假设一样,每次成功的AI转型也都是从一个愿景开始,到最终验证成真!

参考资料:

https://x.com/silviocinguetta/status/1877166654464893035

https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
尹锡悦老婆面容憔悴,人工脸精心保养十几年,一朝回到解放前

尹锡悦老婆面容憔悴,人工脸精心保养十几年,一朝回到解放前

橘色数码
2025-01-19 07:37:37
甘肃老汉解手忘带纸,随手捡张烂纸片,却给我国加了两项世界第一

甘肃老汉解手忘带纸,随手捡张烂纸片,却给我国加了两项世界第一

电影不无聊MOVIE
2025-01-20 00:06:57
近日,一枚罕见的“球型”鸡蛋在英国拍出近1800元的高价

近日,一枚罕见的“球型”鸡蛋在英国拍出近1800元的高价

随波荡漾的漂流瓶
2025-01-19 21:26:55
美国禁令反击!美网民涌入小红书后,外媒发现又一现象!

美国禁令反击!美网民涌入小红书后,外媒发现又一现象!

魏家东
2025-01-19 10:07:44
“广东都快干成厂东了”,湿度仅次于沙漠!新一波冷空气将在过年前这几天

“广东都快干成厂东了”,湿度仅次于沙漠!新一波冷空气将在过年前这几天

珠江时报
2025-01-19 13:23:18
杨泽琪更新视频,全程微笑不语,指甲变黑脱落,疑似不会说话了?

杨泽琪更新视频,全程微笑不语,指甲变黑脱落,疑似不会说话了?

派大星纪录片
2025-01-18 15:57:36
我们单位有个女教授,52岁,工资12000,却活得跟“苦行僧”似的

我们单位有个女教授,52岁,工资12000,却活得跟“苦行僧”似的

小鹿姐姐情感说
2025-01-19 21:07:30
民众党改选,蔡壁如当选中央委员!黄国昌:大家不是在争权夺利

民众党改选,蔡壁如当选中央委员!黄国昌:大家不是在争权夺利

新时光点滴
2025-01-20 03:43:34
西部排名又变了:火箭创NBA奇迹,勇士收大礼,2队排名互换

西部排名又变了:火箭创NBA奇迹,勇士收大礼,2队排名互换

篮球大视野
2025-01-19 15:25:42
成都天府国际机场受大雾天气影响,出现大面积航班延误

成都天府国际机场受大雾天气影响,出现大面积航班延误

红星新闻
2025-01-19 16:35:41
玩呢?美国刚禁止tiktok,特朗普就连夜发文!知情人:明天恢复!

玩呢?美国刚禁止tiktok,特朗普就连夜发文!知情人:明天恢复!

美食阿鳕
2025-01-20 01:40:54
重返欧冠豪门!恭喜穆帅!王子邀请,联手1亿中锋,英超争冠乱了

重返欧冠豪门!恭喜穆帅!王子邀请,联手1亿中锋,英超争冠乱了

阿泰希特
2025-01-19 12:31:32
赛季第3次20+!河村勇辉砍全队最高20分,带队加时险胜

赛季第3次20+!河村勇辉砍全队最高20分,带队加时险胜

雷速体育
2025-01-19 13:24:12
范曾厉害,办新年画展坐迈巴赫保安牵手开道,小50岁妻子红光满面

范曾厉害,办新年画展坐迈巴赫保安牵手开道,小50岁妻子红光满面

探寻者
2025-01-19 08:55:00
卡萨诺:菲利克斯是冠军球员,他的到来能让球迷重新爱上米兰

卡萨诺:菲利克斯是冠军球员,他的到来能让球迷重新爱上米兰

懂球帝
2025-01-19 08:18:08
微信发布新功能:“微信蓝包”来了!

微信发布新功能:“微信蓝包”来了!

全是技能
2025-01-19 21:35:37
火爆!赵继伟与自家球迷对骂,辽篮家属竖中指爆粗,杨鸣也比划

火爆!赵继伟与自家球迷对骂,辽篮家属竖中指爆粗,杨鸣也比划

动漫里的童话
2025-01-19 23:23:12
坏消息,快船队的哈登是对阵湖人队的四名受伤首发球员之一

坏消息,快船队的哈登是对阵湖人队的四名受伤首发球员之一

好火子
2025-01-20 02:24:31
中央网信办整治挑起极端对立等六方面问题

中央网信办整治挑起极端对立等六方面问题

北青网-北京青年报
2025-01-19 23:48:03
韩国著名男演员因“性缩力”上热搜?

韩国著名男演员因“性缩力”上热搜?

韩流圈
2025-01-19 23:18:23
2025-01-20 07:12:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
12032文章数 65772关注度
往期回顾 全部

科技要闻

已生效!TikTok通知美国用户,暂停服务

头条要闻

TikTok:正恢复对美国用户的服务

体育要闻

聊聊半程惊艳名单 符合你的预期吗

娱乐要闻

李明德再闹娱乐圈!威胁侯明昊内涵王鹤棣

财经要闻

特朗普发虚拟币,盘中暴涨1250%

汽车要闻

10万元级无图智驾 悦也PLUS全路况实测

态度原创

家居
艺术
旅游
房产
亲子

家居要闻

昊元上品 畅享独立空间

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

旅游要闻

韩国游客特种兵式游杭州!这几个地方他们超爱

房产要闻

爆发了!三亚房价涨幅全国第一,海口二手杀进TOP6!

亲子要闻

萌娃抱着小狗正高兴,突然一屁墩,重重砸在另一只小狗上!