网易首页 > 网易号 > 正文 申请入驻

13张动图快速理解马尔科夫链、PCA、贝叶斯!

0
分享至

大家好,我是小z,也可以叫我阿粥~

今天给大家分享几个数据科学领域常用的理论,用可视化的方式来解释抽象的理论概念,使这些抽象概念变得生动而立体~

前排提示:文末送两本好书~

马尔科夫链、主成分分析以及条件概率等概念,是计算机学生必学的知识点,然而理论的抽象性往往让学生很难深入地去体会和理解。而本文,将这些抽象的理论概念,用可视化的方式来解释,还可调节相应参数来改变结果,使这些抽象概念变得生动而立体!

计算机相关概念太难、太抽象?别怕,往下看!

人类对视觉信息的记忆要远远大于文字信息。使用图表等形式的可视化,可以让抽象、难懂的概念一目了然;在此基础之上,添加可控的参数调节器,将更有助于对概念的深入学习与理解。

马尔科夫链

马尔科夫链是指数学中具有马尔科夫性质的离散事件随机过程。在其每一步中,系统根据概率分布可以从一个状态变到另一个状态,也可以保持当前状态。状态的改变叫做转移,与不同的状态改变相关的概率叫做转移概率。

这概念是不是看着有点晕?没关系,我们来看下面这张图:

在状态空间中有两种状态,A和B。共有4种可能的转换。如果我们在A,接下来可以过渡到B或留在A。如果我们在B,可以过渡到A或者留在B。在这张图中,从任意状态到任意状态的转移概率是0.5。

当然,真正的建模工作者不会总是就画一张马尔科夫链图。相反,他们会使用“转移矩阵”来计算转移概率。状态空间中的每个状态都会出现在表格中的一列或者一行中。矩阵中的每个单元格都告诉你从行状态转换到列状态的概率。因此,在矩阵中,单元格做的工作和图中的箭头所示是一样。

如果状态空间添加了一个状态,我们将添加一行和一列,向每个现有的列和行添加一个单元格。这意味着当我们向马尔可夫链添加状态时,单元格的数量会呈二次方增长。因此,转换矩阵就起到了很大的作用(除非你想把法尔科夫链图画的跟丛林一样)。

马尔科夫链的一个作用是用计算机模拟现实世界中的现象。例如,可以用来检测一个新建的水坝溢流的频率(取决于连续下雨的天数)。为建立这个模型,可以从下面的雨天(R)和晴天(S)开始:

表述这种模拟天气的方法就是:“有一半的天数是下雨天。所以模拟中的每一天都有50%的概率是下雨的。”这个规则在模拟中所产生的序列如下:

你注意到上面的序列和原来的不太一样了吗?第二个序列似乎具有跳跃性,而第一个(真实数据)似乎具有“粘性”。在真实的数据中,如果某一天是晴天,那么第二天也很可能是晴天。

可以通过两个状态的马尔可夫链来消除这种“粘性”。当马尔科夫链处于状态“R”时,它保持在该状态的概率是0.9,状态改变的概率是0.1。同样,“S”状态保持不变的概率是0.9,过渡到“R”状态的概率是0.1。

在许多需要对大规模的现象做研究的工作人员手中,马尔科夫链的作用可以变得非常强大。例如,谷歌用于确定搜索结果顺序的算法,称为PageRank,就是一种马尔可夫链。

主成分分析(PCA)

主成分分析,是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量,转换后的这组变量叫主成分。PCA是最重要的降维方法之一,在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。

2D示例

首先,只考虑两个维度的数据集,比如高度和重量。这个数据集可以绘制成平面上的点。但如果想要整理出变量,PCA会找到一个新的坐标系,其中每个点都有一个新的(x,y)值。坐标轴实际上没有任何物理意义。它们是高度和重量的组合,被称为“主分量”。

拖动原始数据集中的点,可以看到PC坐标系统正在调整

PCA对于降维很有用。下面,我们将数据绘制成两条直线:一条由x值组成,另一条由y值组成。

但是,如果我们只打算沿一个维度查看数据,那么将该维度作为具有最大变化的主成分可能会更好。通过减少PC2,不会造成太大损失,因为它对数据集的变化贡献最小。

看透一个数据云是非常困难的,因此,在3D空间中,PCA显得更为重要。在下面的示例中,原始数据以3D的形式绘制,但可以通过不同的视角,将其投射到2D空间。确定好角度之后,点击“显示PCA”按钮,即可呈现2D的结果。在本例中,PCA变换确保水平轴PC1的变化量最大,垂直轴PC2的变化量次之,第三轴PC3的变化量最少。显然,PC3是丢弃的。

如果数据集不仅仅是三维的,而是17个维度的呢?!如下表所示:

表中是英国每个地区平均每人每周17种食物的消费量,单位为克。这张表显示了不同食物类型之间存在的一些有趣的差异,但总体差异并不显著。让我们看看PCA是否可以通过降维来强地区家之间的差异。

下图是第一个主成分的数据图。我们可以看到一些有关北爱尔兰的情况已经发生了变化。

现在,看看第一和第二主成分,可以看到北爱尔兰是一个主要的异常值。一旦回过头来看看表格中的数据,这就显得很有道理了:北爱尔兰人吃的新鲜土豆要很多,吃的新鲜水果、奶酪、鱼和酒精饮料较少。这是一个很好的迹象,我们所看到的结构反映了现实世界地理的一个重要事实北爱尔兰是四个国家中唯一一个不在大不列颠岛上的。

条件概率是指一个事件在另外一个事件已经发生条件下的发生概率。一个落下来的球可能落在红色的架子上(称之为A事件),或者落在蓝色架子上(称之为B事件),或者两者兼而有之。

那么给定一个球,它击中了红色架子(A事件),而后击中蓝色架子(B事件)的概率会是多少呢?可以通过给定A的条件概率,即P(B | A)来回答这个问题。

将抽象、难懂的计算机概念,以可视化的形式展现出来,可以帮助学生、研究者更好的理解;甚至可以帮助教师们提高教学质量。

当然还有一些其他的抽象概念的可视化,感兴趣的同学可访问下方链接地址查看: http://setosa.io/ev/

最后的最后,送两套北京大学出版社的好书。《chatGPT时代全能应用一本通》从ChatGPT等自然语言大模型基础知识讲起,重点介绍了ChatGPT等语言大模型在生活中的实际应用,让每一个人都能了解未来的生活和工作。通过实际案例和操作技巧,使读者能够快速上手并灵活运用ChatGPT技术,提升职场竞争力,以通俗易懂的语言解释ChatGPT的原理和应用,即使是职场新手也能轻松掌握。

同时结合Excel Home全新讲授的《Power BI数据分析与可视化实战》,用chatGPT使读者可以从烦琐的数据处理和报表编制中解脱,快速从海量数据中抽取关键信息并制作令人惊艳的交互式商业报告。

这次抽奖继续丰富点,本文三连(点赞、在看或者转发任意都可)后:

1、留言点赞第一送ChatGPT那本,点赞排名第二送Powerbi那本

2、加我微信好友,回复“抽奖”,抽奖送1套!(就是中奖了两本一起送出)

扫码加我好友

7月24日22:00开奖(一个人最多只能获得一本),祝大家好运~

(7月份如果已经中奖的同学,处于冷却期)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中金公司2024聘用名单曝光:清北14人,头部211已是“最低门槛”

中金公司2024聘用名单曝光:清北14人,头部211已是“最低门槛”

妍妍教育日记
2024-07-07 20:28:08
炸裂!东莞环卫工人因降薪集体罢工后续,事态升级,招聘临时工!

炸裂!东莞环卫工人因降薪集体罢工后续,事态升级,招聘临时工!

爱意随风起呀
2024-07-07 19:37:16
为什么警察穿皮鞋而不穿跑得快的运动鞋?网友的回答笑死了

为什么警察穿皮鞋而不穿跑得快的运动鞋?网友的回答笑死了

有趣的火烈鸟
2024-07-06 18:16:08
偶遇大明星了,怎么会有这么漂亮的女孩子!

偶遇大明星了,怎么会有这么漂亮的女孩子!

粤姐说情感
2024-07-06 21:03:21
太难了!男子抱5月大女儿跳楼,大喊:我压力那么大,谁帮我还!

太难了!男子抱5月大女儿跳楼,大喊:我压力那么大,谁帮我还!

娱乐圈见解说
2024-07-06 23:17:02
历史首个新秀三双!状元克拉克砍19+12+13 狂热掀翻领头羊自由人

历史首个新秀三双!状元克拉克砍19+12+13 狂热掀翻领头羊自由人

直播吧
2024-07-07 03:50:58
看了22年前董洁和刘亦菲的合照,才知她为啥力压神仙姐姐爆火全国

看了22年前董洁和刘亦菲的合照,才知她为啥力压神仙姐姐爆火全国

猫小狸同学
2024-07-05 11:37:12
吃不吃惊?巴黎奥运会还有半个月开幕,部分场馆竟然还未完工!

吃不吃惊?巴黎奥运会还有半个月开幕,部分场馆竟然还未完工!

十点街球体育
2024-07-07 14:42:26
秦岭最神秘的19号别墅,建成十年后无人敢拆,749局:给我使劲挖

秦岭最神秘的19号别墅,建成十年后无人敢拆,749局:给我使劲挖

麦大人
2023-10-10 18:17:44
朝鲜两名高官发动兵变为张成泽报仇,因细节败露,金正恩一招镇压

朝鲜两名高官发动兵变为张成泽报仇,因细节败露,金正恩一招镇压

阿胡
2024-04-30 11:48:45
中国妈妈通病大曝光,你家也这样吗?

中国妈妈通病大曝光,你家也这样吗?

趣说世界哈
2024-07-03 20:48:11
欧足联发声!西班牙队手球没判点原因曝光,30万德国球迷请愿重赛

欧足联发声!西班牙队手球没判点原因曝光,30万德国球迷请愿重赛

何老师呀
2024-07-07 21:48:23
博主:乃比江治疗后已经醒了,有球队的人在医院一直陪着他

博主:乃比江治疗后已经醒了,有球队的人在医院一直陪着他

直播吧
2024-07-07 23:22:13
我还能打!克莱上身进口T恤训练 三分手感依旧非常火热!

我还能打!克莱上身进口T恤训练 三分手感依旧非常火热!

直播吧
2024-07-07 07:45:46
父亲为救尿毒症女儿,捐出了自己的肾,却没想自己被女儿送进监狱

父亲为救尿毒症女儿,捐出了自己的肾,却没想自己被女儿送进监狱

二苏故事汇
2024-07-07 22:34:09
没想到老年人的瓜这么多!网友的评论太炸裂,我小脑都萎缩了

没想到老年人的瓜这么多!网友的评论太炸裂,我小脑都萎缩了

夢婷
2024-01-05 12:09:08
2年1000万!火箭签三分39%神射,申京格林危险了,斯通真要梭哈

2年1000万!火箭签三分39%神射,申京格林危险了,斯通真要梭哈

巴叔GO聊体育
2024-07-07 12:52:56
罗玉凤透露:会有更多中国人被美国遣返!网友:我们不欢迎

罗玉凤透露:会有更多中国人被美国遣返!网友:我们不欢迎

大风文字
2024-07-06 19:35:35
索尼官宣!12号新品发布,仅售5800元?

索尼官宣!12号新品发布,仅售5800元?

相机Beta
2024-07-04 07:37:52
“酱油大王”跌落神坛?代工厂停产、三年连亏、一家三口成老赖!

“酱油大王”跌落神坛?代工厂停产、三年连亏、一家三口成老赖!

农村阿祖
2024-07-05 21:58:52
2024-07-07 23:58:44
数据不吹牛
数据不吹牛
趣味+实用数据分析
412文章数 4501关注度
往期回顾 全部

科技要闻

临时加关税 欧版"元PLUS"成本涨近8000欧元

头条要闻

道德沦丧的彭国甫被处理 曾称"千万莫让别人戳脊梁骨"

头条要闻

道德沦丧的彭国甫被处理 曾称"千万莫让别人戳脊梁骨"

体育要闻

转发这篇索斯盖特,你也能运气爆棚!

娱乐要闻

49岁林志玲在日本带娃被偶遇

财经要闻

齐创阶段新高 一线城市楼市又可以了?

汽车要闻

18.98万起 宝马新电动MINI COOPER上市

态度原创

旅游
教育
时尚
健康
本地

旅游要闻

外国游客热门入境城市榜单出炉

教育要闻

学生考上清华,学校豪横奖励50万现金!网友问这钱哪里来的?

2024最值得关注的11双小白鞋,早穿早帅!

人类为何至今无法攻克渐冻症?

本地新闻

云游中国 | 走进安塞,寻觅黄土高原文化记忆

无障碍浏览 进入关怀版