Skip to content

Commit e7e1055

Browse files
committed
docs(redis): add redis-master-slave.md
1 parent 70f826b commit e7e1055

5 files changed

Lines changed: 92 additions & 1 deletion

‎docs/high-concurrency/how-to-ensure-high-concurrency-and-high-availability-of-redis.md‎

Lines changed: 2 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -9,4 +9,5 @@
99
## 面试题剖析
1010
如果你用 redis 缓存技术的话,肯定要考虑如何用 redis 来加多台机器,保证 redis 是高并发的,还有就是如何让 redis 保证自己不是挂掉以后就直接死掉了,即 redis 高可用。
1111

12-
由于此节内容较多,因此,会分为多个小节进行讲解。
12+
由于此节内容较多,因此,会分为多个小节进行讲解。
13+
- [redis 主从架构](/docs/high-concurrency/redis-master-slave.md)
Lines changed: 90 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,90 @@
1+
# redis master-slave 架构
2+
3+
单机的 redis,能够承载的 QPS 大概就在上万到几万不等。对于缓存来说,一般都是用来支撑**读高并发**的。因此架构做成主从(master-slave)架构,一主多从,主负责写,并且将数据复制到其它的 slave 节点,从节点负责读。所有的**读请求全部走从节点**。这样也可以很轻松实现水平扩容,**支撑读高并发**。
4+
5+
![redis-master-slave](/img/redis-master-slave.png)
6+
7+
redis replication -> 主从架构 -> 读写分离 -> 水平扩容支撑读高并发
8+
9+
## redis replication 的核心机制
10+
- redis 采用异步方式复制数据到 slave 节点,不过 redis2.8 开始,slave node 会周期性地确认自己每次复制的数据量;
11+
- 一个 master node 是可以配置多个slave node的;
12+
- slave node 也可以连接其他的 slave node;
13+
- slave node 做复制的时候,是不会 block master node 的正常工作的
14+
- slave node在做复制的时候,也不会block对自己的查询操作,它会用旧的数据集来提供服务;但是复制完成的时候,需要删除旧数据集,加载新数据集,这个时候就会暂停对外服务了;
15+
- slave node 主要用来进行横向扩容,做读写分离,扩容的 slave node 可以提高读的吞吐量。
16+
17+
注意,如果采用了主从架构,那么建议必须**开启** master node 的**持久化**,不建议用 slave node 作为 master node 的数据热备,因为那样的话,如果你关掉 master 的持久化,可能在 master 宕机重启的时候数据是空的,然后可能一经过复制, slave node 的数据也丢了。
18+
19+
另外,master 的各种备份方案,也需要做。万一本地的所有文件丢失了,从备份中挑选一份 rdb 去恢复 master,这样才能**确保启动的时候,是有数据的**,即使采用了后续讲解的高可用机制,slave node 可以自动接管 master node,但也可能 sentinel 还没检测到 master failure,master node 就自动重启了,还是可能导致上面所有的 slave node 数据被清空。
20+
21+
## redis 主从复制的核心原理
22+
当启动一个 slave node 的时候,它会发送一个 `PSYNC` 命令给 master node。
23+
24+
如果这是 slave node 初次连接到 master node,那么会触发一次 `full resynchronization` 全量复制。此时 master 会启动一个后台线程,开始生成一份 `RDB` 快照文件,同时还会将从客户端 client 新收到的所有写命令缓存在内存中。`RDB` 文件生成完毕后, master 会将这个 `RDB` 发送给 slave,slave 会先写入本地磁盘,然后再从本地磁盘加载到内存中,接着 master 会将内存中缓存的写命令发送到 slave,slave 也会同步这些数据。slave node 如果跟 master node 有网络故障,断开了连接,会自动重连,连接之后 master node 仅会复制给 slave 部分缺少的数据。
25+
26+
![redis-master-slave-replication](/img/redis-master-slave-replication.png)
27+
28+
### 主从复制的断点续传
29+
从 redis2.8 开始,就支持主从复制的断点续传,如果主从复制过程中,网络连接断掉了,那么可以接着上次复制的地方,继续复制下去,而不是从头开始复制一份。
30+
31+
master node 会在内存中维护一个 backlog,master 和 slave 都会保存一个 replica offset 还有一个 master run id,offset 就是保存在 backlog 中的。如果 master 和 slave 网络连接断掉了,slave 会让 master 从上次 replica offset 开始继续复制,如果没有找到对应的 offset,那么就会执行一次 `resynchronization`。
32+
33+
> 如果根据 host+ip 定位 master node,是不靠谱的,如果 master node 重启或者数据出现了变化,那么 slave node 应该根据不同的 run id 区分。
34+
35+
### 无磁盘化复制
36+
master 在内存中直接创建 `RDB`,然后发送给 slave,不会在自己本地落地磁盘了。只需要在配置文件中开启 `repl-diskless-sync yes` 即可。
37+
```bash
38+
repl-diskless-sync yes
39+
40+
# 等待 5s 后再开始复制,因为要等更多 slave 重新连接过来
41+
repl-diskless-sync-delay 5
42+
```
43+
44+
### 过期 key 处理
45+
slave 不会过期 key,只会等待 master 过期 key。如果 master 过期了一个 key,或者通过 LRU 淘汰了一个 key,那么会模拟一条 del 命令发送给 slave。
46+
47+
## 复制的完整流程
48+
slave node 启动时,会在自己本地保存 master node 的信息,包括 master node 的`host`和`ip`,但是复制流程没开始。
49+
50+
slave node 内部有个定时任务,每秒检查是否有新的 master node 要连接和复制,如果发现,就跟 master node 建立 socket 网络连接。然后 slave node 发送 `ping` 命令给 master node。如果 master 设置了 requirepass,那么 slave node 必须发送 masterauth 的口令过去进行认证。master node **第一次执行全量复制**,将所有数据发给slave node。而在后续,master node 持续将写命令,异步复制给 slave node。
51+
52+
![redis-master-slave-replication-detail](/img/redis-master-slave-replication-detail.png)
53+
54+
### 全量复制
55+
- master 执行 bgsave ,在本地生成一份 rdb 快照文件。
56+
- master node 将 rdb 快照文件发送给 slave node,如果 rdb 复制时间超过 60秒(repl-timeout),那么 slave node 就会认为复制失败,可以适当调节大这个参数(对于千兆网卡的机器,一般每秒传输100MB,6G文件,很可能超过 60s)
57+
- master node 在生成 rdb 时,会将所有新的写命令缓存在内存中,在 slave node 保存了 rdb 之后,再将新的写命令复制给 slave node。
58+
- 如果在复制期间,内存缓冲区持续消耗超过64MB,或者一次性超过256MB,那么停止复制,复制失败。
59+
```bash
60+
client-output-buffer-limit slave 256MB 64MB 60
61+
```
62+
- slave node接收到 rdb 之后,清空自己的旧数据,然后重新加载 rdb 到自己的内存中,同时**基于旧的数据版本**对外提供服务。
63+
- 如果 slave node 开启了 AOF,那么会立即执行 BGREWRITEAOF,重写 AOF.
64+
65+
### 增量复制
66+
- 如果全量复制过程中,master-slave 网络连接断掉,那么 slave 重新连接 master 时,会触发增量复制。
67+
- master 直接从自己的 backlog 中获取部分丢失的数据,发送给 slave node,默认 backlog 就是1MB。
68+
- msater就是根据 slave 发送的 psync 中的 offset 来从 backlog 中获取数据的。
69+
70+
### heartbeat
71+
72+
主从节点互相都会发送heartbeat信息。
73+
74+
master 默认每隔 10秒 发送一次 heartbeat,slave node 每隔 1秒 发送一个 heartbeat。
75+
76+
### 异步复制
77+
master 每次接收到写命令之后,先在内部写入数据,然后异步发送给 slave node。
78+
79+
## redis 如何才能做到高可用
80+
如果系统在 365天内,有 99.99% 的时间,都是可以哗哗对外提供服务的,那么就说系统是高可用的。
81+
82+
一个 slave 挂掉了,是不会影响可用性的,还有其它的 slave 在提供相同数据下的相同的对外的查询服务。
83+
84+
但是,如果 master node 死掉了,会怎么样?没法写数据了,写缓存的时候,全部失效了。slave node 还有什么用呢,没有 master 给它们复制数据了,系统相当于不可用了。
85+
86+
redis 的高可用架构,叫做 `failover` **故障转移**,也可以叫做主备切换。
87+
88+
master node 在故障时,自动检测,并且将某个 slave node 自动切换位 master node的过程,叫做主备切换。这个过程,实现了 redis 的主从架构下的高可用。
89+
90+
后面会详细说明 redis **基于哨兵的高可用性**。
47.5 KB
Loading
16.3 KB
Loading

‎img/redis-master-slave.png‎

13.6 KB
Loading

0 commit comments

Comments
 (0)