docs(redis): add redis-master-slave.md

This commit is contained in:
yanglbme 2018-11-16 20:04:30 +08:00
parent 70f826b647
commit e7e1055ebd
5 changed files with 92 additions and 1 deletions

View File

@ -9,4 +9,5 @@
## 面试题剖析
如果你用 redis 缓存技术的话,肯定要考虑如何用 redis 来加多台机器,保证 redis 是高并发的,还有就是如何让 redis 保证自己不是挂掉以后就直接死掉了,即 redis 高可用。
由于此节内容较多,因此,会分为多个小节进行讲解。
由于此节内容较多,因此,会分为多个小节进行讲解。
- [redis 主从架构](/docs/high-concurrency/redis-master-slave.md)

View File

@ -0,0 +1,90 @@
# redis master-slave 架构
单机的 redis能够承载的 QPS 大概就在上万到几万不等。对于缓存来说,一般都是用来支撑**读高并发**的。因此架构做成主从(master-slave)架构,一主多从,主负责写,并且将数据复制到其它的 slave 节点,从节点负责读。所有的**读请求全部走从节点**。这样也可以很轻松实现水平扩容,**支撑读高并发**。
![redis-master-slave](/img/redis-master-slave.png)
redis replication -> 主从架构 -> 读写分离 -> 水平扩容支撑读高并发
## redis replication 的核心机制
- redis 采用异步方式复制数据到 slave 节点,不过 redis2.8 开始slave node 会周期性地确认自己每次复制的数据量;
- 一个 master node 是可以配置多个slave node的
- slave node 也可以连接其他的 slave node
- slave node 做复制的时候,是不会 block master node 的正常工作的
- slave node在做复制的时候也不会block对自己的查询操作它会用旧的数据集来提供服务但是复制完成的时候需要删除旧数据集加载新数据集这个时候就会暂停对外服务了
- slave node 主要用来进行横向扩容,做读写分离,扩容的 slave node 可以提高读的吞吐量。
注意,如果采用了主从架构,那么建议必须**开启** master node 的**持久化**,不建议用 slave node 作为 master node 的数据热备,因为那样的话,如果你关掉 master 的持久化,可能在 master 宕机重启的时候数据是空的,然后可能一经过复制, slave node 的数据也丢了。
另外master 的各种备份方案,也需要做。万一本地的所有文件丢失了,从备份中挑选一份 rdb 去恢复 master这样才能**确保启动的时候,是有数据的**即使采用了后续讲解的高可用机制slave node 可以自动接管 master node但也可能 sentinel 还没检测到 master failuremaster node 就自动重启了,还是可能导致上面所有的 slave node 数据被清空。
## redis 主从复制的核心原理
当启动一个 slave node 的时候,它会发送一个 `PSYNC` 命令给 master node。
如果这是 slave node 初次连接到 master node那么会触发一次 `full resynchronization` 全量复制。此时 master 会启动一个后台线程,开始生成一份 `RDB` 快照文件,同时还会将从客户端 client 新收到的所有写命令缓存在内存中。`RDB` 文件生成完毕后, master 会将这个 `RDB` 发送给 slaveslave 会先写入本地磁盘,然后再从本地磁盘加载到内存中,接着 master 会将内存中缓存的写命令发送到 slaveslave 也会同步这些数据。slave node 如果跟 master node 有网络故障,断开了连接,会自动重连,连接之后 master node 仅会复制给 slave 部分缺少的数据。
![redis-master-slave-replication](/img/redis-master-slave-replication.png)
### 主从复制的断点续传
从 redis2.8 开始,就支持主从复制的断点续传,如果主从复制过程中,网络连接断掉了,那么可以接着上次复制的地方,继续复制下去,而不是从头开始复制一份。
master node 会在内存中维护一个 backlogmaster 和 slave 都会保存一个 replica offset 还有一个 master run idoffset 就是保存在 backlog 中的。如果 master 和 slave 网络连接断掉了slave 会让 master 从上次 replica offset 开始继续复制,如果没有找到对应的 offset那么就会执行一次 `resynchronization`
> 如果根据 host+ip 定位 master node是不靠谱的如果 master node 重启或者数据出现了变化,那么 slave node 应该根据不同的 run id 区分。
### 无磁盘化复制
master 在内存中直接创建 `RDB`,然后发送给 slave不会在自己本地落地磁盘了。只需要在配置文件中开启 `repl-diskless-sync yes` 即可。
```bash
repl-diskless-sync yes
# 等待 5s 后再开始复制,因为要等更多 slave 重新连接过来
repl-diskless-sync-delay 5
```
### 过期 key 处理
slave 不会过期 key只会等待 master 过期 key。如果 master 过期了一个 key或者通过 LRU 淘汰了一个 key那么会模拟一条 del 命令发送给 slave。
## 复制的完整流程
slave node 启动时,会在自己本地保存 master node 的信息,包括 master node 的`host`和`ip`,但是复制流程没开始。
slave node 内部有个定时任务,每秒检查是否有新的 master node 要连接和复制,如果发现,就跟 master node 建立 socket 网络连接。然后 slave node 发送 `ping` 命令给 master node。如果 master 设置了 requirepass那么 slave node 必须发送 masterauth 的口令过去进行认证。master node **第一次执行全量复制**将所有数据发给slave node。而在后续master node 持续将写命令,异步复制给 slave node。
![redis-master-slave-replication-detail](/img/redis-master-slave-replication-detail.png)
### 全量复制
- master 执行 bgsave ,在本地生成一份 rdb 快照文件。
- master node 将 rdb 快照文件发送给 slave node如果 rdb 复制时间超过 60秒repl-timeout那么 slave node 就会认为复制失败,可以适当调节大这个参数(对于千兆网卡的机器一般每秒传输100MB6G文件很可能超过 60s)
- master node 在生成 rdb 时,会将所有新的写命令缓存在内存中,在 slave node 保存了 rdb 之后,再将新的写命令复制给 slave node。
- 如果在复制期间内存缓冲区持续消耗超过64MB或者一次性超过256MB那么停止复制复制失败。
```bash
client-output-buffer-limit slave 256MB 64MB 60
```
- slave node接收到 rdb 之后,清空自己的旧数据,然后重新加载 rdb 到自己的内存中,同时**基于旧的数据版本**对外提供服务。
- 如果 slave node 开启了 AOF那么会立即执行 BGREWRITEAOF重写 AOF.
### 增量复制
- 如果全量复制过程中master-slave 网络连接断掉,那么 slave 重新连接 master 时,会触发增量复制。
- master 直接从自己的 backlog 中获取部分丢失的数据,发送给 slave node默认 backlog 就是1MB。
- msater就是根据 slave 发送的 psync 中的 offset 来从 backlog 中获取数据的。
### heartbeat
主从节点互相都会发送heartbeat信息。
master 默认每隔 10秒 发送一次 heartbeatslave node 每隔 1秒 发送一个 heartbeat。
### 异步复制
master 每次接收到写命令之后,先在内部写入数据,然后异步发送给 slave node。
## redis 如何才能做到高可用
如果系统在 365天内有 99.99% 的时间,都是可以哗哗对外提供服务的,那么就说系统是高可用的。
一个 slave 挂掉了,是不会影响可用性的,还有其它的 slave 在提供相同数据下的相同的对外的查询服务。
但是,如果 master node 死掉了会怎么样没法写数据了写缓存的时候全部失效了。slave node 还有什么用呢,没有 master 给它们复制数据了,系统相当于不可用了。
redis 的高可用架构,叫做 `failover` **故障转移**,也可以叫做主备切换。
master node 在故障时,自动检测,并且将某个 slave node 自动切换位 master node的过程叫做主备切换。这个过程实现了 redis 的主从架构下的高可用。
后面会详细说明 redis **基于哨兵的高可用性**

Binary file not shown.

After

Width:  |  Height:  |  Size: 48 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 16 KiB

BIN
img/redis-master-slave.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 14 KiB