MySQL主从复制、读写分离、MHA——图文总结

x33g5p2x  于2021-11-12 转载在 Mysql  
字(3.6k)|赞(0)|评价(0)|浏览(316)

前言

在实际的生产环境中,如果对MySQL数据库的读和写都在一台数据库服务中操作,无论在安全性、高可用性,还是高并发性等各个方面都是完全不能满足实际需求的,一般来说都是通过主从复制(Master-Slave)的方式来同步数据,再通过读写分离来提升数据库的并发负载能力这样的方案进行部署与实施

一、MySQL主从复制

1.支持的复制类型

  • 基于语句的复制(statement):在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高
  • 基于行的复制(row): 把改变的内容复制过去,而不是把命令在从服务器上执行一遍
  • 混合类型的复制(mixed): 在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高

2.主从复制的工作过程是基于日志

  • master二进制日志
  • slave中继日志

3.请求方式

  • I/O线程
  • dump线程
  • SQL线程

4.主从复制的原理

①Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中

②Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求 Master的二进制事件

③同时Master节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至Slave节点本地的中继日志(Relay log)中

④Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地写入,即解析成 sql 语句逐一执行,使得其数据和 Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒

复制过程有一个很重要的限制,即复制在 Slave 上是串行化的,也就是说 Master 上的并行更新操作不能在 Slave 上并行操作

中继日志通常会位于OS缓存中,所以中继日志的开销很小

5.MySQL集群和主从复制分别适合在什么场景下使用

集群和主从复制是为了应对高并发、大访问量的情况,如果网站访问量和并发量太大了,少量的数据库服务器是处理不过来的,会造成网站访问慢,数据写入会造成数据表或记录被锁住,锁住的意思就是其他访问线程暂时不能读写要等写入完成才能继续,这样会影响其他用户读取速度,采用主从复制可以让一些服务器专门读,一些专门写可以解决这个问题

6.为什么使用主从复制、读写分离

主从复制、读写分离一般是一起使用的,目的很简单,就是为了提高数据库的并发性能。你想,假设是单机,读写都在一台MySQL上面完成,性能肯定不高。如果有三台MySQL,一台mater只负责写操作,两台salve只负责读操作,性能不就能大大提高了吗?

所以主从复制、读写分离就是为了数据库能支持更大的并发

随着业务量的扩展、如果是单机部署的MySQL,会导致I/O频率过高。采用主从复制、读写分离可以提高数据库的可用性

7.用途及条件

mysql主从复制用途:

  • 实时灾备,用于故障切换
  • 读写分离,提供查询服务
  • 备份,避免影响服务

必要条件:

  • 主库开启binlog日志(设置log-bin参数)
  • 主从server-id不同
  • 从库服务器能连通主库

8.mysql主从复制存在的问题

主库宕机后,数据可能丢失

从库只有一个SQL Thread,主库写压力大,复制很可能延时

解决办法

半同步复制——解决数据丢失的问题

并行复制——解决从库复制延迟的问题

9.MySQL主从复制延迟

①master服务器高并发,形成大量事务
②网络延迟
③主从硬件设备导致——cpu主频、内存io、硬盘io
④本来就不是同步复制、而是异步复制

  • 从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysql内存中完成,减少磁盘操作
  • 从库使用高性能主机,包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性
  • 从库使用SSD磁盘
  • 网络优化,避免跨机房实现同步

二、主从复制的形式

三、读写分离

1.原理

①只在主服务器上写,只在从服务器上读

②主数据库处理事务性查询,从数据库处理select查询

③数据库复制用于将事务性查询导致的变更同步到集群中的从数据库

2.为什么要读写分离呢?

  • 因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的
  • 但是数据库的“读”(读10000条数据可能只要5秒钟)
  • 所以读写分离,解决的是,数据库的写入,影响了查询的效率

3.什么时候要读写分离?

  • 数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用
  • 利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能

4.主从复制与读写分离

  • 在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的

5.目前较为常见的MySQL读写分离分为以下两种

①基于程序代码内部实现

  • 在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的
  • 优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手
  • 但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大

②基于中间代理层实现

代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序
(1)MySQL-Proxy,MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。
(2)Atlas,是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目,它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程
(3)Amoeba,由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

  • 由于使用MySQL Proxy 需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写,这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的
  • Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层

四、MHA原理

基于二进制日志故障备份+基于VIP的健康检查+故障自动切换(master——>backup master)

五、MHA如何搭建

1.首先搭建主从复制

2.软连接:

(一条是做mysql命令的软连接)——为了检测主从复制,mysql是无法识别root的,做了软连接之后可以在系统环境中直接使用mysql服务的的命令

(一条是做mysqlbinlog软连接)——故障发生时用biinlog日志尽可能抢救mysql,基于binlog再去恢复

3.SSH-免交互:

看它有没有登录进去,更加方便和快捷

4.manager提权:

(检测主从复制是否成功——‘mysql -uroot -p123123 -e ‘show slave status\G’,查看I/O和SQL线程是否为yes,提取到两个yes即为主从复制成功)
以上是mysql集群的操作

5.node组件

在所有服务器上优先部署

node组件——>抢救(把二进制日志拉出来);同步中继日志(尽量保证数据一致性);在manager或者mha节点上的node组件还会汇总其他node组件的信息,用于将详细信息提供给manager组件

6.manager组件

——>维护mysql集群信息;健康检测+故障切换

7.核心的配置文件2个

master_ip_failover——>VIP + VIP所在的虚拟接口

my $vip = ‘192.168.10.200’; #指定vip的地址
my $brdc = ‘192.168.10.255’; #指定vip的广播地址
my $ifdev = ‘ens33’; #指定vip绑定的网卡
my $key = ‘1’;

app1.cnf——>定义了Mysql节点的主机(以server的方式来表示);定义了从节点信息;可定义主备服务器(需要忽略检测策略)

8.执行两个健康检查+启动MHAA

9.首次启动时,在master节点创建VIP

dev = ‘ens33’; #指定vip绑定的网卡
my $key = ‘1’;

app1.cnf——>定义了Mysql节点的主机(以server的方式来表示);定义了从节点信息;可定义主备服务器(需要忽略检测策略)

8.执行两个健康检查+启动MHAA

9.首次启动时,在master节点创建VIP

相关文章