mysql5.7-MGR集群搭建

一、 MGR介绍
MySQL Group Replication(简称MGR)是MySQL官方于2016年12月推出的一个全新的高可用与高扩展的解决方案。MySQL组复制提供了高可用、高扩展、高可靠的MySQL集群服务。
1)高一致性,基于原生复制及paxos协议的组复制技术,并以插件的方式提供,提供一致数据安全保证;
2)高容错性,只要不是大多数节点坏掉就可以继续工作,有自动检测机制,当不同节点产生资源争用冲突时,不会出现错误,按照先到者优先原则进行处理,并且内置了自动化脑裂防护机制;
3)高扩展性,节点的新增和移除都是自动的,新节点加入后,会自动从其他节点上同步状态,直到新节点和其他节点保持一致,如果某节点被移除了,其他节点自动更新组信息,自动维护新的组信息;
4)高灵活性,有单主模式和多主模式,单主模式下,会自动选主,所有更新操作都在主上进行;多主模式下,所有server都可以同时处理更新操作。
MGR是MySQL数据库未来发展的一个重要方向。

1、 MGR基础结构要求
1)引擎必须为innodb,因为需事务支持在commit时对各节点进行冲突检查
2)每个表必须有主键,在进行事务冲突检测时需要利用主键值对比
3)必须开启binlog且为row格式
4)开启GTID,且主从状态信息存于表中(–master-info-repository=TABLE 、–relay-log-info-repository=TABLE),–log-slave-updates打开
5)一致性检测设置–transaction-write-set-extraction=XXHASH64

2、 MGR使用限制
1)RP和普通复制binlog校验不能共存,需设置–binlog-checksum=none
2)不支持gap lock(间隙锁),隔离级别需设置为read_committed
3)不支持对表进行锁操作(lock /unlock table),不会发送到其他节点执行 ,影响需要对表进行加锁操作的情况,列入mysqldump全表备份恢复操作
4)不支持serializable(序列化)隔离级别
5)DDL语句不支持原子性,不能检测冲突,执行后需自行校验是否一致
6)不支持外键:多主不支持,单主模式不存在此问题
7)最多支持9个节点:超过9台server无法加入组

二、 MGR环境准备
1、 数据库服务器规划
mysql5.7-MGR集群搭建
2、 在三台主机上设置hostname和IP映射
[[email protected] ~]# vim /etc/hosts #120/130/140都设置hosts文件
192.168.2.120 xuegod120.com
192.168.2.130 xuegod130.com
192.168.2.140 xuegod140.com
注释:这里的hostname必须和hostname文件里写的一致

三、 创建复制环境
1、 xuegod120复制环境配置
1) 修改my.cnf文件
server_id = 100 #服务ID
gtid_mode = ON #全局事务
enforce_gtid_consistency = ON #强制GTID的一致性
master_info_repository = TABLE #将master.info元数据保存在系统表中
relay_log_info_repository = TABLE #将relay.info元数据保存在系统表中
binlog_checksum = NONE #禁用二进制日志事件校验
log_slave_updates = ON #级联复制
log_bin = binlog #开启二进制日志记录
binlog_format = ROW #以行的格式记录

transaction_write_set_extraction = XXHASH64 #使用哈希算法将其编码为散列
loose-group_replication_group_name = ‘ce9be252-2b71-11e6-b8f4-00212844f856’ #加入的组名,可以自定义,格式是这种就行,三台主机需要一致
loose-group_replication_start_on_boot = off #不自动启用组复制集群
loose-group_replication_local_address = ‘xuegod120.com:33061’ #以本机端口33061接受来自组中成>员的传入连接,这里的名字需要些hostname文件里面的名字
loose-group_replication_group_seeds = ‘xuegod120.com:33061, xuegod130.com:33062, xuegod140.com:33063’ #组中成员访问表
loose-group_replication_bootstrap_group = off #不启用引导组
保存并重启服务
注释:这里可以先不重启mysql服务,避免数据库会将操作记录到二进制日志文件,如果这里重启了mysqld服务,那么可以进入mysql关闭日志记录
mysql> set sql_log_bin=0;或off

2) 建立复制账号
[[email protected] ~]# mysql -uroot -p123456 -A
mysql> set sql_log_bin=0; #这里上面如果没有重启mysql服务,不需要这一步操作
mysql> grant replication slave on . to [email protected]‘192.168.2.%’ identified by ‘123456’;
Query OK, 0 rows affected, 1 warning (0.00 sec)
mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

3) 重启mysql服务,并构建group replication集群
[[email protected] ~]# systemctl restart mysqld
[[email protected] ~]# mysql -uroot -p123456 -A
mysql> change master to master_user=‘repl’,master_password=‘123456’ for channel ‘group_replication_reconvery’;
Query OK, 0 rows affected, 2 warnings (0.01 sec)

4) 安装group replication插件
mysql> install plugin group_replication soname ‘group_replication.so’;
Query OK, 0 rows affected (0.27 sec)

5) 查看mysql支持的group repliation插件
mysql> show plugins;
mysql5.7-MGR集群搭建

6) 设置group replication引导启动
设置group_replication_bootstrap_group为ON是为了标示以后加入集群的服务器以这台服务器为基准,以后加入的就不需要设置。
mysql> set global group_replication_bootstrap_group=on;
Query OK, 0 rows affected (0.00 sec)

7) 开启group replication
作为首个MGR集群首个节点
mysql> start group_replication;
Query OK, 0 rows affected (2.26 sec)

8) 关闭group replication引导
mysql> set global group_replication_bootstrap_group=off;
Query OK, 0 rows affected (0.00 sec)

9) 查询MGR集群的信息
我们通过查询表来获取信息,因为my.cnf配置文件里面定义了将信息写入到表中
mysql> select * from performance_schema.replication_group_members;
mysql5.7-MGR集群搭建
注释:状态显示online,表示在线。

10) 创建测试数据库
mysql> create database test;
Query OK, 1 row affected (0.00 sec)

mysql> use test;
Database changed
mysql> create table t1 (id int primary key,name varchar(20));
Query OK, 0 rows affected (0.18 sec)

mysql> insert into t1 values (1,‘AA’);
Query OK, 1 row affected (0.20 sec)

mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
±—±-----+
1 row in set (0.00 sec)

11) 查询二进制日志文件
mysql> show binlog events;
mysql5.7-MGR集群搭建
2、 xuegod130复制环境配置
1) 修改my.cnf配置文件
#Group Replication
server_id = 101 #注意服务ID不一样
gtid_mode = ON
enforce_gtid_consistency = ON
master_info_repository = TABLE
relay_log_info_repository = TABLE
binlog_checksum = NONE
log_slave_updates = ON
log_bin = binlog
binlog_format= ROW

transaction_write_set_extraction = XXHASH64
loose-group_replication_group_name = ‘ce9be252-2b71-11e6-b8f4-00212844f856’
loose-group_replication_start_on_boot = off
loose-group_replication_local_address = ‘xuegod130.com:33062
loose-group_replication_group_seeds = ‘xuegod120.com:33061, xuegod130.com:33062, xuegod140.com:33063
loose-group_replication_bootstrap_group = off
保存重启mysql服务
[[email protected] ~]# systemctl restart mysqld

2) 创建复制账号,并构建group replication集群
注意:这里记得关闭二进制日志记录,因为上面重启服务了
mysql> set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)

mysql> grant replication slave on . to [email protected]‘192.168.2.%’ identified by ‘123456’;
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

mysql> set sql_log_bin=1;
Query OK, 0 rows affected (0.00 sec)

mysql> change master to master_user=‘repl’,master_password=‘123456’ for channel ‘group_replication_recovery’;
Query OK, 0 rows affected, 2 warnings (0.11 sec)

3) 安装group replication插件
mysql> install PLUGIN group_replication SONAME ‘group_replication.so’;
Query OK, 0 rows affected (0.27 sec)
4) 将实例添加到之前的复制组,并开启组复制
mysql> set global group_replication_allow_local_disjoint_gtids_join=ON;
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> start group_replication;
Query OK, 0 rows affected, 1 warning (5.90 sec)

5) 查看复制组的状态
mysql> select * from performance_schema.replication_group_members;
mysql5.7-MGR集群搭建

6) 查看数据库和表是否同步过来
mysql> show databases;
±-------------------+
| Database |
±-------------------+
| information_schema |
| mysql |
| performance_schema |
| sys |
| test |
±-------------------+
5 rows in set (0.03 sec)

mysql> use test
Database changed
mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
±—±-----+
1 row in set (0.00 sec)

3、 xuegod140复制组的配置
1) 修改配置文件
#Group Replication
server_id = 102 #注意服务id不一样
gtid_mode = ON
enforce_gtid_consistency = ON
master_info_repository = TABLE
relay_log_info_repository = TABLE
binlog_checksum = NONE
log_slave_updates = ON
log_bin = binlog
binlog_format= ROW

transaction_write_set_extraction = XXHASH64
loose-group_replication_group_name = ‘ce9be252-2b71-11e6-b8f4-00212844f856’
loose-group_replication_start_on_boot = off
loose-group_replication_local_address = ‘xuegod140.com:33063
loose-group_replication_group_seeds =‘xuegod120.com:33061, xuegod130.com:33062, xuegod140.com:33063
loose-group_replication_bootstrap_group = off
保存重启mysqld服务
[[email protected] ~]# systemctl restart mysqld

2) 创建复制账号,并构建组复制集群
[[email protected] ~]# mysql -uroot -p123456 -A
mysql> set SQL_LOG_BIN=0;
Query OK, 0 rows affected (0.00 sec)

mysql> grant replication slave on . to [email protected]‘192.168.2.%’ identified by ‘123456’;
Query OK, 0 rows affected, 1 warning (0.01 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

mysql> set SQL_LOG_BIN=1;
Query OK, 0 rows affected (0.00 sec)

mysql> change master to master_user=‘repl’,master_password=‘123456’ for channel ‘group_replication_recovery’;
Query OK, 0 rows affected, 2 warnings (0.16 sec)

3) 安装组复制集群插件
mysql> install PLUGIN group_replication SONAME ‘group_replication.so’;
Query OK, 0 rows affected (0.23 sec)

4) 添加实例到复制组,并启动组复制集群
mysql> set global group_replication_allow_local_disjoint_gtids_join=ON;
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> start group_replication;
Query OK, 0 rows affected, 1 warning (3.31 sec)

5) 查看组复制集群状态
mysql> select * from performance_schema.replication_group_members;
mysql5.7-MGR集群搭建
到此,单主节点的集群就搭建完毕!

4、 查看三台集群的状态
1) xuegod120-master的read_only状态
master的只读模式是关闭的,说明是可以写入数据
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | OFF |
| super_read_only | OFF |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.01 sec)

2) xuegod130的read_only状态
xuegod130的只读模式是开启,说明只能读取数据
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | ON |
| super_read_only | ON |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.01 sec)

3) xuegod140的read_only状态
同样xuegod140的只读模式也是开启
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | ON |
| super_read_only | ON |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

4) 我们可以进行测试
在xuegod120上插入数据(发现可以插入数据)
mysql> use test;
Database changed
mysql> insert into t1 values (2,‘BB’);
Query OK, 1 row affected (0.01 sec)

mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
| 2 | BB |
±—±-----+
2 rows in set (0.00 sec)

在xuegod130和140上插入数据(发现报错,无法插入)
mysql> use test;
Database changed
mysql> insert into t1 values (3,‘CC’);
ERROR 1290 (HY000): The MySQL server is running with the --super-read-only option so it cannotexecute this statement

总结:MGR集群搭建完毕后,只能有一个写入的服务器,其他都是读取的服务器

5、 模拟主服务器挂掉,测试salve服务器能否接管
[[email protected] ~]# systemctl stop mysqld
1) 先查看两台slave的组复制集群状态
mysql> select * from performance_schema.replication_group_members;
mysql5.7-MGR集群搭建
发现只能下两个slave服务器,主的已经没有了
2) 查看两台slave的read_only状态
xuegod130的read_only状态变更为关闭状态(可以写入数据)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | OFF |
| super_read_only | OFF |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

xuegod140服务器的read_only状态还是开启的(只读)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | ON |
| super_read_only | ON |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

总结:当master服务器挂掉后,其他两台slave服务器会通过选举,自动接管作为主服务器,代理员master服务器的业务,进行读写

6、 启动模拟故障的master服务器,查看能否自动加入集群
1) 查看组复制的状态
这里发现是offline状态(离线状态)
mysql> select * from performance_schema.replication_group_members;
±--------------------------±----------±------------±------------±-------------+
| CHANNEL_NAME | MEMBER_ID | MEMBER_HOST | MEMBER_PORT | MEMBER_STATE |
±--------------------------±----------±------------±------------±-------------+
| group_replication_applier | | | NULL | OFFLINE |
±--------------------------±----------±------------±------------±-------------+
1 row in set (0.00 sec)

2) 开启组复制集群,再次查看状态
mysql> start group_replication;
Query OK, 0 rows affected (3.24 sec)

mysql> select * from performance_schema.replication_group_members;
mysql5.7-MGR集群搭建
注释:这里虽然看到已经加入到组复制集群,但是状态显示recovering

3) 加入组复制集群,后查看read_only状态
发现已经自动开启(只读状态)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | ON |
| super_read_only | ON |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

4) 一段时间后,再次查看组复制集群状态,发现变更为ERROR
mysql5.7-MGR集群搭建

5) 查看mysql日志
mysql5.7-MGR集群搭建

6) 故障解决办法
重新构建组复制集群,重启组复制集群即可
mysql> change master to master_user=‘repl’,master_password=‘123456’ for channel ‘group_replication_recovery’;
Query OK, 0 rows affected, 2 warnings (0.11 sec)

mysql> stop group_replication;
Query OK, 0 rows affected (1.00 sec)

mysql> start group_replication;
Query OK, 0 rows affected (2.92 sec)

mysql> select * from performance_schema.replication_group_members;

mysql5.7-MGR集群搭建

四、 多主模式(multi-primary模式)
1、该模式启用需设置两个参数
group_replication_single_primary_mode=0 #这个参数很好理解,就是关闭单master模式
group_replication_enforce_update_everywhere_checks=1 #这个参数设置多主模式下各个节点严格一致性检查
2、 默认启动的都是单master模式,其他节点都设置了read_only、super_read_only这两个参数,需要修改这两个配置
3、 完成上面的配置后就可以执行多点写入了,多点写入会存在冲突检查,这耗损性能挺大的,官方建议采用网络分区功能,在程序端把相同的业务定位到同一节点,尽量减少冲突发生几率。

4、单主模式改多主模式方法
在原来单主模式的主节点执行操作如下
我们这里因为刚刚做了故障模拟,所以现在的主节点是xuegod130服务器
1) 在单主模式执行如下操作
mysql> stop group_replication;
Query OK, 0 rows affected (9.30 sec)

mysql> set global group_replication_single_primary_mode=off;
Query OK, 0 rows affected (0.00 sec)

mysql> set global group_replication_enforce_update_everywhere_checks=ON;
Query OK, 0 rows affected (0.00 sec)

mysql> SET GLOBAL group_replication_bootstrap_group=ON;
Query OK, 0 rows affected (0.00 sec)

mysql> START GROUP_REPLICATION;
Query OK, 0 rows affected, 1 warning (2.02 sec)

mysql> SET GLOBAL group_replication_bootstrap_group=OFF;
Query OK, 0 rows affected (0.00 sec)

2) 在其他节点执行如下操作
xuegod120上
mysql> stop GROUP_REPLICATION;
Query OK, 0 rows affected (9.33 sec)

mysql> set global group_replication_allow_local_disjoint_gtids_join=ON;
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> set global group_replication_single_primary_mode=off;
Query OK, 0 rows affected (0.00 sec)

mysql> set global group_replication_enforce_update_everywhere_checks=ON;
Query OK, 0 rows affected (0.00 sec)

mysql> start group_replication;
Query OK, 0 rows affected, 1 warning (5.77 sec)

xuegod140上
mysql> stop GROUP_REPLICATION;
Query OK, 0 rows affected (9.33 sec)

mysql> set global group_replication_allow_local_disjoint_gtids_join=ON;
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> set global group_replication_single_primary_mode=off;
Query OK, 0 rows affected (0.00 sec)

mysql> set global group_replication_enforce_update_everywhere_checks=ON;
Query OK, 0 rows affected (0.00 sec)

mysql> start group_replication;
Query OK, 0 rows affected, 1 warning (5.77 sec)

3) 查看各个节点的组复制集群状态
都是正常在线状态
mysql5.7-MGR集群搭建

4) 查看各个节点的read_only状态
xuegod120:(关闭状态,可以写入)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | OFF |
| super_read_only | OFF |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.01 sec)

xuegod130:(关闭状态,可以写入)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | OFF |
| super_read_only | OFF |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

xuegod140:(关闭状态,可以写入)
mysql> show variables like “%read_only%”;
±----------------------±------+
| Variable_name | Value |
±----------------------±------+
| innodb_read_only | OFF |
| read_only | OFF |
| super_read_only | OFF |
| transaction_read_only | OFF |
| tx_read_only | OFF |
±----------------------±------+
5 rows in set (0.00 sec)

5) 在各个节点上,插入数据,进行测试
xuegod120:
mysql> use test
Database changed
mysql> insert into t1 values (3,‘CC’);
Query OK, 1 row affected (0.20 sec)

mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
| 2 | BB |
| 3 | CC |
±—±-----+
3 rows in set (0.00 sec)

xuegod130:
mysql> use test
Database changed
mysql> insert into t1 values (4,‘DD’);
Query OK, 1 row affected (0.01 sec)

mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
| 2 | BB |
| 3 | CC | #复制也OK
| 4 | DD |
±—±-----+
4 rows in set (0.00 sec)

xuegod140:
mysql> use test;
Database changed
mysql> insert into t1 values (5,‘EE’);
Query OK, 1 row affected (0.01 sec)

mysql> select * from t1;
±—±-----+
| id | name |
±—±-----+
| 1 | AA |
| 2 | BB |
| 3 | CC |
| 4 | DD |
| 5 | EE |
±—±-----+
5 rows in set (0.00 sec)