网易首页 > 网易号 > 正文 申请入驻

解密PC的AI进化:AI大模型如何“压”进PC?

0
分享至

当地时间2024年1月9日,2024年国际消费电子展(CES 2024)在美国拉斯维加斯举办。AI for All成为CES大会的关键议题之一。在众多展品当中,被视作个人大模型普惠第一终端的AI PC吸引众多目光。全球最大的PC厂商联想集团更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商务AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在内的一众AI PC产品。那么这些初次登场的AI PC产品身上到底有什么黑科技呢?虎嗅与您一起走进2024CES,为您揭开AI PC神秘的面纱。

奔驰、宝马、大众纷纷把大语言模型接入车机系统,让人能跟汽车自然对话。

三星给冰箱装了个AI识别系统,可以识别食物品种和新鲜度。

LG推出了会问候早安、欢迎回家的家庭AI机器人。

在2024年的CES展上, AI热度仍在持续,各家厂商都在喊AI for All,All in AI之类的口号。

然而对于普通的消费电子用户来说,更关注的似乎还是停留在手边的设备,比如作为我们生产力工具的电脑。

AI PC是2024年CES展中最热的词之一,在数据中心业务上赚的盆满钵满的英伟达,也在本次展会上推出了多款聚焦个人、商用电脑的AI硬件产品和应用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,将大语言模型(LLM)的处理速度提升了5倍,将AI视频生成速度提高了150%。

英伟达产品管理的高级总监Justin Walker在新闻发布会上强调:“我们已经销售了超过1亿块RTX GPU,这为运行AI应用的个人电脑提供了坚实的硬件基础。”

在PC终端方面,微软在CES大会之前,就宣布将在新款Windows 11电脑上配备Copilot按钮,这是一个专门用于调用现已融入其操作系统的人工智能聊天机器人的功能。配备Copilot按钮的首批设备预计将在本月完成上市。值得注意的是,Windows PC键盘布局上次的重大变革还是在30年前。

不过,在AI PC方面走的最靠前的当属联想。从2023年10月的全球TechWorld大会宣布了全线AI PC规划后,仅几个月时间,联想就带着多款AI Ready阶段的AI PC产品亮相CES展。包括赋能创作过程的Yoga Pro 9i,全球第一台可无缝切换笔记本电脑和平板电脑两种模式的ThinkBook Plus Gen 5 Hybrid、全球首款商务AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

无论是AI技术发展,还是PC市场趋势,都预示着AI将会成为2024年的PC行业新的增长引擎。AI PC则成为了传统PC厂商的新增长机会,甚至有可能打破依靠供应链和渠道驱动的业务模式,创造出全新的PC市场趋势和发展模式。

技术大揭秘:把AI装进PC

大模型的通用性、泛化能力都是来自于模型的参数量,从AI大模型热潮爆发至今,模型的参数量不断扩大,对算力的需求也在直线上涨。由此AI需要云端算力,几乎成了业界共识,很多人认为脱离了云服务器的AI PC很难把模型的能力发挥好。

然而,对于个人和商业用户来说,纯粹的云端AI也并不是万能的。随着AI技术的发展和应用场景的多样化,依赖云端AI处理大量数据、提供服务的模式正逐步显现出局限性。

目前的AI云服务主要面临三个比较明显的挑战:成本、安全和响应速度。

而结合云端AI和AI PC类产品的优势,构建的云端+本地的AI模式,很可能会成为未来AI的发展趋势。通过这种模式,大型AI模型可以在云端进行复杂的数据分析和学习,而端侧AI则负责实时、低延迟的任务处理。这种协同工作模式不仅能够弥补单一模式的不足,还可以在保证处理效率的同时,确保用户数据的隐私和安全。

那么,要把云端那些需要英伟达A100、H100显卡才能跑起来的AI大模型,“拖到”小小的个人电脑中,应该怎么做呢?

联想的做法是对大模型进行“压缩”。

AI大模型通常涉及复杂的数据结构(如神经网络的权重矩阵)。这些结构需要频繁地在计算过程中修改和访问,所以在训练和推理过程中需要占用大量内存空间。

以GPT-3为例,它有1750亿个参数。通常情况下,这些参数以32位浮点数(即float32)的形式存储。在32位浮点数中,每个参数需要4字节的存储空间。换算成更常见的单位,这大概相当于700GB。

目前参数量较小的主流AI大模型多位70亿参数或130亿参数,这些“小”模型需要的存储空间,大约也要20GB以上。个人、办公电脑上要运行这些模型,相当困难。

“我们现在做的技术就是如何把这个存储的这些空间降低之后,还能保持原有的模型性能。”联想研究院研究员谢栋介绍说。

联想基于阿里通义千问的7B模型重新做了一个新的模型,在参数量不变的情况下对模型的“体积“进行了大幅度的压缩,谢栋告诉虎嗅:”可能原来一个参数用两个字节来存储,经过压缩,一个参数只有半个字节就可以存储。“

阿里通义千问7B模型的原始大小是14.4GB,在联想的Lenovo AI now中运行的模型则压缩到了4GB。由此,AI大模型+电脑本身的缓存,大概只要5-6G内存就能运行起来。而目前,联想的主流集成显卡笔记本电脑内存都在16G以上,独立显卡的游戏本、高性能本显存都在8G以上,可以轻松运行压缩后的通义千问7B模型。

现在的AI与传统的软件不一样,不是所有的芯片都能跑。AI与硬件之间还有一个中间层叫framework。目前,联想的AI PC正在做的事就是定制自己的framework。

“中间层是决定他能在这样的硬件基础上跑的,第一要能跑,第二还要跑得好”联想全球中小企业产品与解决方案总经理郑爱国告诉虎嗅,“目前我们的专家每天都在和AMD和Intel的专家沟通,对他们最新的平台和芯片一个一个地调优,是其能最大限度地适合AI PC的工作和任务。”

目前联想研究院在这个“中间层”的研发工作中担任重要角色,除此之外,联想对AI PC的研发采用了多元化布局。目前最主要的研发任务主要集中在中国和美国。在日本、巴西,以及印度也都有研发分布。联想集团董事长兼CEO杨元庆表示:“创新还有研发一直以来都是联想两个重要的核心能力之一。我们的研发经费在过去几年一直在提升,从不到3%到大概已经4%以上。”

如何用AI PC打出区隔

正在拉斯维加斯举办的2024 CES展上,联想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的产品。这些产品的推出,不仅是技术进步的展示,也是联想在AI PC领域策略的体现。

联想集团执行副总裁兼中国区总裁刘军表示:“我们的AI PC目前处在AI Ready的阶段,在2024年4月的联想中国创新科技大会(TechWorld)上,我们将正式宣布我们的个人Agent。”这一声明表明,联想正将AI PC技术与个人助理功能结合,推动AI技术在个人电脑领域的深入应用。

在AI PC的硬件方面,联想计划推出CPU+GPU+NPU的混合AI模式,这种模式可以提高计算效率,优化AI应用的性能。NPU(神经网络计算单元)的引入是对传统CPU和GPU功能的补充,能够更加专注于处理AI相关的任务。这种混合硬件布局不仅适用于PC,也将应用于手机、平板等多种设备,甚至扩展到商业环境和AIOT(AI驱动的IoT)产品。

在软件生态方面,联想的战略是改变传统PC行业甚至是消费电子产品的交互逻辑,从应用交互转向意图交互。这一转变预示着未来的交互方式将更加直观和自然。用户不再需要通过复杂的菜单和步骤来执行任务,而是可以直接通过意图来与设备互动。这种基于意图的交互方式能够大大提高用户体验,使设备更加智能和易用。

在探索这些新领域的同时,对于其他厂商而言,如何在AI PC市场中寻找自己的定位和特色,是一个值得思考的问题。例如,其他厂商可能会在特定的垂直领域内进行深耕,如专注于创意工作的AI应用,或者在安全性、隐私保护方面进行创新。同时,不同厂商可能会选择不同的技术路径或合作伙伴,以寻找差异化的市场机会。

对于整个PC行业来说,AI PC的发展是一个多维度的过程,涉及硬件、软件、用户体验和生态系统等多个层面。联想作为先行者,在AI PC方向上自然会占据一定的先发优势,不过在创新产品的开发,以及AI技术的发展过程中,势必也会遇到各种不确定的问题。

从行业趋势来看,AI PC的未来可能不仅仅局限于个人电脑,而是会扩展到整个智能终端生态系统,包括智能家居、智能汽车等领域。这种趋势下,厂商之间的竞争将不仅仅是硬件和软件的竞争,更是对整个生态系统的理解和布局的竞争。

PC市场的拐点

IDC在2023年底发布的《全球季度个人计算设备跟踪报告》指出,鉴于当前的经济环境和市场状况,对全球PC市场的预测被下调。预计2023年的出货量将比2022年下降13.8%,而2022年的出货量则比上年下降了16.6%。这种连续两年的两位数同比下降在个人电脑市场是前所未有的。不过这种“衰退”趋势可能正在为市场的后续复苏铺平道路。

IDC认为,疫情期间售出的PC产品大多将在2024年面临Windows更新周期。此外,一些失去微软服务支持的旧版Windows系统,将面临2024年升级至Windows 11的压力。

这些因素在短期将会促进2024年PC市场的增长。而从长远来看,PC市场更大的增长动力则很可能源自AI PC带来的革命性升级。

联想智能设备集团执行副总裁兼总裁Luca Rossi在CES期间接受采访时表示:“2023年市场确实遭遇了一些压力。对于2024年全球市场的趋势我们保持谨慎乐观的态度,预见会有少量的增长。我们也乐观地认为,在2024年下半年和2025年,AI PC将在消费和商用市场掀起广泛的换机潮。人工智能电脑将成为转折点,加速更换周期。”

虽然目前全球PC市场中,仅有联想一家在大举落地AI PC,但其它PC行业巨头也都在对AI PC概念保持高度关注。HP和Dell的高管在近期的采访中都表示AI PC必将大幅提升PC的升级换代潜力表示肯定,HP Personal Systems部门总裁Alex Cho认为:AI PC或有望帮助PC行业增长率翻倍。

尽管面临短期挑战,IDC预计2024年及以后的市场将会出现反弹。预计2024年PC市场总量将比2023年增长3.4%,这得益于AI PC对市场升级起到的催化作用。初步针对企业PC市场的某些细分市场,随着用例的进一步发展和成本的降低,AI PC可能会推动更广泛的市场应用。

同时,IDC认为2024年将是PC市场的关键一年,为市场近期的挑战提供了喘息机会。预计2024年之后,出货量的增长将超过大流行前的水平,在2027年达到2.85亿台的峰值

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
争议?切尔西7500万神锋无缘世界杯!本赛季造26球却被内马尔挤掉

争议?切尔西7500万神锋无缘世界杯!本赛季造26球却被内马尔挤掉

我爱英超
2026-05-19 06:43:35
《监狱来的妈妈》得奖,对共产主义的背叛!

《监狱来的妈妈》得奖,对共产主义的背叛!

红色少女主播
2026-05-18 22:32:03
后台最硬女神探,遇到破不了的案,直接冤枉路人死刑!

后台最硬女神探,遇到破不了的案,直接冤枉路人死刑!

莫地方
2026-05-16 01:40:03
4万亿引藏水入疆,宇宙级工程红旗河,或许带来的不是绿洲!

4万亿引藏水入疆,宇宙级工程红旗河,或许带来的不是绿洲!

一口娱乐
2026-05-18 20:29:55
签了签了!5年合同联手锡安!隆多正式被放弃

签了签了!5年合同联手锡安!隆多正式被放弃

篮球教学论坛
2026-05-19 00:22:02
28岁新娘长相引热议,新郎不忍直视全程闭眼,网友:宁愿单身5年

28岁新娘长相引热议,新郎不忍直视全程闭眼,网友:宁愿单身5年

翰飞观事
2026-04-13 22:18:26
世界模型的门槛,谷歌可能迈过去了

世界模型的门槛,谷歌可能迈过去了

钛媒体APP
2026-05-18 15:14:36
论文打假博主耿同学:只打假杰青、长江学者,不针对普通学生

论文打假博主耿同学:只打假杰青、长江学者,不针对普通学生

总在茶余后
2026-05-18 12:07:46
【早报】蓝月巨变!瓜帅夏天离队,马雷斯卡接任!

【早报】蓝月巨变!瓜帅夏天离队,马雷斯卡接任!

体坛周报
2026-05-19 08:04:16
特朗普刚离京,中方就亮底牌!500架波音订单泡汤,美方瞬间着急

特朗普刚离京,中方就亮底牌!500架波音订单泡汤,美方瞬间着急

通鉴史智
2026-05-18 17:05:38
浪姐史上翻车最快的人出现了,网友:人不红果然是有原因的!

浪姐史上翻车最快的人出现了,网友:人不红果然是有原因的!

两只米老鼠
2026-04-14 03:27:12
对话安克阳萌:让我们抽象一下,公司是最难的产品

对话安克阳萌:让我们抽象一下,公司是最难的产品

晚点LatePost
2026-05-17 23:07:29
西媒:穆帅这次仍会邀请一名皇马旧将入教练组,最想要劳尔

西媒:穆帅这次仍会邀请一名皇马旧将入教练组,最想要劳尔

懂球帝
2026-05-19 06:32:14
看懂印度的危机,就懂了莫迪的绝境:印度为他的豪赌赔上了国运

看懂印度的危机,就懂了莫迪的绝境:印度为他的豪赌赔上了国运

夜里看海
2026-05-18 17:48:23
不是布朗!不是塔克!郑永刚盛赞广厦1人,他让我们站在了悬崖边

不是布朗!不是塔克!郑永刚盛赞广厦1人,他让我们站在了悬崖边

老吴说体育
2026-05-18 23:15:59
油价要涨破天了!5月18日油价迎来大幅暴涨,调价后全国油价价格

油价要涨破天了!5月18日油价迎来大幅暴涨,调价后全国油价价格

沙雕小琳琳
2026-05-19 00:12:00
夕又米晒三世同堂照庆木婚,4岁儿子虎头虎脑,18岁女儿留学国外

夕又米晒三世同堂照庆木婚,4岁儿子虎头虎脑,18岁女儿留学国外

娱珈歪歪鱼
2026-05-18 15:38:13
欢迎声中全程冷漠!朝鲜女足时隔12年赴韩国参赛 全队零互动引关注

欢迎声中全程冷漠!朝鲜女足时隔12年赴韩国参赛 全队零互动引关注

林子说事
2026-05-18 18:51:58
内马尔4战世界杯!冲击贝贝托纪录,34岁或成最年长进球球员

内马尔4战世界杯!冲击贝贝托纪录,34岁或成最年长进球球员

奥拜尔
2026-05-19 06:56:51
“借运”比借寿更难防!道长:这3样东西,要留意,莫要替人挡灾

“借运”比借寿更难防!道长:这3样东西,要留意,莫要替人挡灾

古怪奇谈录
2026-04-24 10:18:10
2026-05-19 09:03:00
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
26321文章数 687738关注度
往期回顾 全部

科技要闻

苹果WWDC26定档6月9日凌晨:iOS27将亮相

头条要闻

儿子说想给自己做蚕丝被家人网购1万粒蚕卵 妈妈崩溃

头条要闻

儿子说想给自己做蚕丝被家人网购1万粒蚕卵 妈妈崩溃

体育要闻

58顺位的保罗,最强第三中锋

娱乐要闻

票房会破14亿!口碑第一电影出现了

财经要闻

从卖流量到卖Token,运营商算力生意破局

汽车要闻

40.98万起!充电5分钟纯电续航420km 腾势N9闪充版胜算有多少?

态度原创

游戏
数码
教育
艺术
公开课

日本玩家买二手马里奥游戏 打开竟是成人光碟

数码要闻

macOS 27将不再支持Intel Mac 仅限配Apple Silicon芯片的Mac

教育要闻

孩子被老师骂到不肯上学,老师回怼:我凭什么受你儿子的气?

艺术要闻

蒋万安手写贺卡成焦点!网友:字软人弱!练书法3年,该如何提高

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版