网易首页 > 网易号 > 正文 申请入驻

Redis 那些故障转移、高可用方案

0
分享至

推荐大家关注一个公众号

后台回复“大礼包”有惊喜礼包!

日英文

Every person need a friend to make them laugh when they think they will never smile again.

每一个人都需要这样一个朋友:当以为自己再也笑不出来的时候,他能让你开怀大笑!

每日掏心话

人活着,其实就是一种心态,你若觉得快乐,幸福无处不在;你为自己悲鸣,世界必将灰暗。

责编:乐乐 | 来自:juejin.cn/post/6844904147943161869

往日回顾:

正文

Redis大家都不陌生,就算是没用过,也都听说过了。

作为最广泛使用的KV内存数据库之一,在当今的大流量时代,单机模式略显单薄,免不了要有一些拓展的方案。

笔者下文会对各种方案进行介绍,并且给出场景,实现 等等概述,还会提到一些新手常见的误区。

先从基础的拓展方式开始,这样更便于理解较高级的模式。

ps: 本文背景是以笔者落笔时官网最新稳定版5.0.8为准,虽然还没写完就变成了6.0.1。

分区 概述

分区(Partitioning)是一种最为简单的拓展方式。

在我们面临单机的存储空间瓶颈时,第一点就能想到像传统的关系型数据库一样,进行数据分区。

或者假设手中有N台机器可以作为Redis服务器 所有机器内存总和有256G, 而客户端正好也需要一个大内存的存储空间。

我们除了可以把内存条都拆下来焊到一个机器上,也可以选择分区使用,这样又拓展了计算能力。

单指分区来讲,即将全部数据分散在多个Redis实例中,每个实例不需要关联,可以是完全独立的。

使用方式

  • 客户端处理 和传统的数据库分库分表一样,可以从 key入手,先进行计算,找到对应数据存储的实例在进行操作。 范围角度,比如orderId:1~orderId:1000放入实例1,orderId:1001~orderId:2000放入实例2... 哈希计算,就像我们的 hashmap一样,用hash函数加上位运算或者取模,高级玩法还有一致性Hash等操作,找到对应的实例进行操作

  • 使用代理中间件 我们可以开发独立的代理中间件,屏蔽掉处理数据分片的逻辑,独立运行。当然也有他人已经造好的轮子,Redis也有优秀的代理中间件,譬如Twemproxy,或者codis,可以结合场景选择是否使用。

缺点
  • 无缘多key操作,key都不一定在一个实例上,那么多key操作或者多key事务自然是不支持。

  • 维护成本,由于每个实例在物理和逻辑上,都属于单独的一个节点,缺乏统一管理。

  • 灵活性有限,范围分片还好,比如hash+MOD这种方式,如果想 动态调整Redis实例的数量,就要考虑大量数据迁移,这就非常麻烦了。

同为开发者,深知我们虽然总能“曲线救国”的完成一些当前环境不支持的功能,但是总归要麻烦一些。

主从 概述数据迁移

常说的主从(Master-Slave),也就是复制(Replication)方式,怎么称呼都可以。

同上面的分区一样,也是Redis高可用架构的基础,新手可能会误以为这类基础模式即是“高可用”,这并不是十分正确的。

分区暂时能解决单点无法容纳的数据量问题,但是一个Key还是只在一个实例上,在大流量时代显得不那么可靠。

主从就是另一个纬度的拓展,节点将数据同步到从节点,就像将实例“分身”了一样,可靠性又提高了不少。

图画的有些夸张了,主要还是想体现结构灵活,是一主一从,还是一主多从,还是一主多从多从... 看你心情

有了“实例分身”,自然就可以做读写分离,将读流量均摊在各个从节点。

使用方式

高手云集的时代,聊天软件难免要备上这么一张表情包。

这表情包和使用方式有什么关系呢?首先看看使用方式:

  1. 作为主节点的Redis实例,并不要求配置任何参数,只需要正常启动

  2. 作为从节点的实例,使用配置文件或命令方式REPLICAOF 主节点Host 主节点port即可完成主从配置

是不是和表情包一样,“dalao”没动,我去“抱大腿”。

这样一个主从最小配置就完成了,主从实例即可对外提供服务。

命令里的“主节点”是相对的,slave也可以抱slave大腿,也就是上文提到的结构灵活。

缺点

  • slave节点都是 只读的,如果 写流量大的场景,就有些力不从心了。那我把slave节点 只读关掉不就行了?当然不行,数据复制是由主到从,从节点独有数据同步不到主节点,数据就不一致了。

  • 故障转移不友好,主节点挂掉后,写处理就无处安放,需要 手工的设定新的主节点,如使用REPLICAOF no one(谁大腿我都不抱了) 晋升为主节点,再梳理其他slave节点的新主配置,相对来说比较麻烦。

哨兵 概述

主从的手工故障转移,肯定让人很难接受,自然就出现了高可用方案-哨兵(Sentinel)。

我们可以在主从架构不变的场景,直接加入Redis Sentinel,对节点进行监控,来完成自动的故障发现与转移。

并且还能够充当配置提供者,提供主节点的信息,就算发生了故障转移,也能提供正确的地址。

哨兵本身也是Redis实例的一种,但不作为数据存储方使用,启动命令也是不一样的。

其实实际使用起来是很便捷的。

使用方式

Sentinel的最小配置,一行即可:

sentinel monitor <主节点别名> <主节点host> <主节点端口> <票数>

只需要配置master即可,然后用redis-sentinel <配置文件>命令即可启用。

Redis官网提到的“最小配置”是如下所示,除了上面提到的一行,还有其它的一些配置:

sentinel monitor mymaster 127.0.0.1 6379 2
sentinel down-after-milliseconds mymaster 60000
sentinel failover-timeout mymaster 180000
sentinel parallel-syncs mymaster 1

sentinel monitor resque 192.168.1.3 6380 4
sentinel down-after-milliseconds resque 10000
sentinel failover-timeout resque 180000
sentinel parallel-syncs resque 5

这是因为官网加了一个修饰词,是“典型的最小配置”,把重要参数和多主的例子都写出来了,照顾大家CV大法的时候,不要忘记重要参数,其实都是有默认值的。

正如该例所示,设置主节点别名就是为了监控多主的时候,与其额外配置项能够与其对应, 以及sentinel一些命令,如SENTINEL get-master-addr-by-name就要用到别名了。

哨兵数量建议在三个以上且为奇数,在Redis官网也提到了各种情况的“布阵”方式,非常值得参考。

更多

既然是高可用方案,并非有严格意义上的“缺点”,还需配合使用场景进行考量。

  • 故障转移期间短暂的不可用,但其实官网的例子也给出了parallel-syncs参数来指定并行的同步实例数量,以免全部实例都在同步出现整体不可用的情况,相对来说要比手工的故障转移更加方便。

  • 分区逻辑需要自定义处理,虽然解决了 主从下的高可用问题,但是Sentinel并没有提供分区解决方案,还需开发者考虑如何建设。

  • 既然是还是主从,如果异常的写流量搞垮了主节点,那么自动的“ 故障转移”会不会变成自动“ 灾难传递”,即slave提升为Master之后挂掉,又进行提升又被挂掉。不过最后这点也是笔者猜测,并没有听说过出现这种案例,可不必深究。

集群 概述

Redis Cluster是官方在3.0版本后推出的分布式方案。

对开发者而言,“官方支持”一词是大概率非常美好的,小到issue,大到feature。自定义去解决问题,成本总是要高一些。

有了官方的正式集群方案,从请求路由、故障转移、弹性伸缩几个纬度的使用上,将更为容易。

Cluster不同于哨兵,是支持分区的。有说法Cluster是哨兵的升级,这是不严谨的。

二者纬度不一样,如果因为Cluster也有故障转移的功能,就说它是哨兵的升级款,略显牵强。

Cluster在分区管理上,使用了“哈希槽”(hash slot)这么一个概念,一共有16384个槽位,每个实例负责一部分槽,通过CRC16(key)&16383这样的公式,计算出来key所对应的槽位。

虽然在节点和key二者中又引入了槽的概念,看起来不易理解,实际上因为颗粒度更细了,减少了节点的扩容和收缩难度,相比传统策略还是很有优势。

当然,“槽”是虚拟的概念,节点自身去维护“槽”的关系,并不是要真正下载启动个“槽服务”在跑。

使用方式

Redis的各种玩法,都是从配置文件着手,集群也不例外。

cluster-enabled yes
cluster-config-file "redis-node.conf"

关键配置简洁明了,有两步

  • 开启集群

  • 指定集群配置文件

集群配置文件(cluster-config-file)为内部使用,可以不去指定,Redis会帮助创建一个。启动还是普通的方式redis-server redis.conf

首先以集群方式启动了N台Redis实例,这当然还没完事。

接下来的步骤笔者称为“牵线搭桥分配槽”,听起来还算顺口。

“牵线搭桥分配槽”的方式也在不断升级,从直接用原始命令来处理,到使用脚本,以及现在的Redis-cli官方支持,使用哪种方式都可以。

redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 \
127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 \
--cluster-replicas 1

上方的命令即是Redis官网给出的redis-cli的方式用法,一行命令完成“三主三从”以及自动分配槽的操作。

这样集群就搭建完成了,当然,使用官方提供的check命令检查一下,也是有必要的。

redis-cli --cluster check 127.0.0.1:7001
更多

  • 虽然是对分区良好支持,但也有一些分区的老问题,譬如:如果不在同一个“槽”的数据,是没法使用类似mset的 多键操作。

  • 在select命令页有提到, 集群模式下只能使用一个库,虽然平时一般也是这么用的,但是要了解一下。

  • 运维上也要谨慎,俗话说得好,“ 使用越简单底层越复杂”,启动搭建是很方便,使用时面对带宽消耗,数据倾斜等等具体问题时,还需人工介入,或者研究合适的配置参数。

结尾 趣谈

在写“主从”方案的时候,发现有一个有趣的事情:

笔者开始是记得主从的关键命令是SLAVEOF,后来查阅官方的时候,发现命令已经更改为REPLICAOF,虽然SLAVEOF还能用。

官网的一些描述词汇,有的地方还是Slave,也有些是用Replication。

好奇的笔者查了一下相关的资料,并看了些Redis作者antirez的有关此时博客,发现已经是两年前的事情了。

其实就是“Slave”这个变量名给了一些人机会,借此“喷”了一波作者,作者也做出了一部分妥协。

有兴趣的盆友可以自己搜搜看,技术外的东西就不做评价了,看个乐呵就行。

笔者的主要目的还是:看官方文档的时候,别让不同的“词汇”迷惑了。

你还有什么想要补充的吗?

PS:欢迎在留言区留下你的观点,一起讨论提高。如果今天的文章让你有新的启发,欢迎转发分享给更多人。


版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知,我们会立即删除并表示歉意。谢谢!

欢迎加入后端架构师,在后台回复“”即可。

最近面试BAT,整理一份面试资料《Java面试BAT通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。在这里,我为大家准备了一份2021年最新最全BAT等大厂Java面试经验总结。

别找了,想获取史上最简单的Java大厂面试题学习资料

扫下方二维码回复「面试」就好了

嘿,你在看吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
房地产,扛不住了?

房地产,扛不住了?

地产观点
2024-06-25 07:33:41
后怕!如果意大利没绝平小组赛已出局 如今进入甜蜜半区因祸得福

后怕!如果意大利没绝平小组赛已出局 如今进入甜蜜半区因祸得福

橙汁的味道123
2024-06-27 08:52:20
创指半日跌1.06% 全市场超4100股飘绿

创指半日跌1.06% 全市场超4100股飘绿

中新经纬
2024-06-27 11:50:12
唐尚珺查分后直播,一招控住8万人陪他熬夜,网友:还是珺哥聪明

唐尚珺查分后直播,一招控住8万人陪他熬夜,网友:还是珺哥聪明

糖逗在娱乐
2024-06-26 11:36:29
老人拿龙袍去鉴定,专家:赝品,老人:你知道我是谁吗?

老人拿龙袍去鉴定,专家:赝品,老人:你知道我是谁吗?

一度历史观
2024-06-22 16:08:36
郝蕾在北京大别墅院子种菜,12岁儿子出镜,已经开始长点胡须了

郝蕾在北京大别墅院子种菜,12岁儿子出镜,已经开始长点胡须了

在下淘子
2024-06-26 01:26:37
2024年养老金调整补发,7月底之前会到位吗?退休人员注意什么?

2024年养老金调整补发,7月底之前会到位吗?退休人员注意什么?

碎月导师
2024-06-26 12:06:14
满分750的设396的本科线,指责满分660的上海设403的本科线太低了

满分750的设396的本科线,指责满分660的上海设403的本科线太低了

嘿哥哥科技
2024-06-27 01:35:31
社牛达人,崔永熙更新社媒晒与莫兰特合照:啥也不说了

社牛达人,崔永熙更新社媒晒与莫兰特合照:啥也不说了

懂球帝
2024-06-26 17:42:12
刘亦菲新剧《长陵》未拍先火,国风武侠题材,男主人选曝光太惊喜

刘亦菲新剧《长陵》未拍先火,国风武侠题材,男主人选曝光太惊喜

星寒新影视
2024-06-26 19:01:36
今日,北京局地有雨+短时大风!

今日,北京局地有雨+短时大风!

美丽大北京
2024-06-27 10:59:24
拖走菲船只后,中方4艘军舰出动,马科斯发现,美航母已撤离南海

拖走菲船只后,中方4艘军舰出动,马科斯发现,美航母已撤离南海

文雅笔墨
2024-06-22 18:09:22
马丁内斯:C罗倒地VAR应判点球;我们不想输但大家得到了休息

马丁内斯:C罗倒地VAR应判点球;我们不想输但大家得到了休息

懂球帝
2024-06-27 05:38:07
第七子,归队!火箭探花摘谢泼德,三分球30投全中,本届弹跳最强

第七子,归队!火箭探花摘谢泼德,三分球30投全中,本届弹跳最强

老王大话体育
2024-06-27 09:06:12
中美要脱钩了?拜登关上谈判大门,中资银行或被踢,日本抢先抛债

中美要脱钩了?拜登关上谈判大门,中资银行或被踢,日本抢先抛债

影孖看世界
2024-06-26 07:46:12
印度下死手?为逼可口可乐交出120年秘方,三番五次出台无赖政策

印度下死手?为逼可口可乐交出120年秘方,三番五次出台无赖政策

兰子记
2024-06-25 21:38:28
洗不白了!甄选明明说贵州山河破碎,连小学生都知道这个词的意思

洗不白了!甄选明明说贵州山河破碎,连小学生都知道这个词的意思

娱乐的硬糖吖
2024-06-27 08:48:43
【观点】湖人选23岁大龄神射手真算捡漏?4大短板致选秀顺位暴跌

【观点】湖人选23岁大龄神射手真算捡漏?4大短板致选秀顺位暴跌

醉卧浮生
2024-06-27 14:06:21
多地人行公告,停止流通人民币兑换网点及规则有变!

多地人行公告,停止流通人民币兑换网点及规则有变!

邮票暗记
2024-06-26 20:13:59
张子宇能超越郑海霞吗?她5方面不如霞姐,名嘴:别吹得太离谱了

张子宇能超越郑海霞吗?她5方面不如霞姐,名嘴:别吹得太离谱了

弄月公子
2024-06-26 09:45:54
2024-06-27 14:46:44
程序员小乐
程序员小乐
有趣有内涵
3163文章数 9493关注度
往期回顾 全部

科技要闻

朱啸虎:5年后将没有独立的大模型公司存在

头条要闻

冯德莱恩被同意连任 同日匈牙利外长向中方表态

头条要闻

冯德莱恩被同意连任 同日匈牙利外长向中方表态

体育要闻

和布朗尼一样菜的人,咋进NBA?

娱乐要闻

李雪琴北大学历情况被扒,牵扯多人

财经要闻

曹远征:不能被"产能过剩"的概念所困惑

汽车要闻

32万公里实车直播拆解 极氪凭事实证明实力!

态度原创

家居
亲子
本地
时尚
公开课

家居要闻

极简静观 打造生活松弛感

亲子要闻

看孩子学习的你还好吗?

本地新闻

冷知识:东北雪糕才是最早的网红雪糕

同样是50岁,为什么她们不显老还没有油腻感?主要是穿衣不同

公开课

连中三元是哪三元?

无障碍浏览 进入关怀版