Mycat学习实战-Mycat读写分离

作者: ygqygq2 分类: 数据库 发布时间: 2017-11-03 17:59

Mycat学习实战-Mycat读写分离

读写分离,简单地说是把对数据库的读和写操作分开,以对应不同的数据库服务器。主数据库提供写操作,从数据库提供读操作,这样能有效地减轻单台数据库的压力。主数据库进行写操作后,数据及时同步到所读的数据库,尽可能保证读、写数据库的数据一致,比如MySQL的主从复制、Oracle的data guard、SQL Server的复制订阅等。

1. Mycat高可用参数

有关Mycat高可用的schema.xml配置参数相关说明:

balance属性
负载均衡类型,目前的取值有如下4种。
* balance="0" : 不开启读写分离机制,所有读操作都发送到当前可用的writeHost上。
* balance="1" : 全部的readHost与stand by writeHost都参与select语句的负载均衡,简而言之,当为双主双从模式(M1->S1,M2->S2,并且M1与M2互为主备)时,在正常情况下,M2、S1和S2都参与select语句的负载均衡。
* balance="2" : 所有的读操作都随机地在writeHost、readHost上分发。
* balance="3" : 所有的读请求都随机分发到writeHost对应的readHost上执行,writeHost不负担读压力。

writeType属性
负载均衡类型目前的取值有两种。
* writeType="0" : 所有的写操作都发送到配置的第1个writeHost上,writeHost挂了则切到writeHost2上,重新恢复writeHost1节点后,不会再切回来,还是以writeHost2为准,切换记录在配置文件dnindex.properties中。
* writeType="0" : 所有的写操作都随机地发送到配置的writeHost上,Mycat1.5版本以后不再推荐使用该值。

switchType属性
* switchType="-1" : 表示不自动切换。
* switchType="1" : 为默认值(或为0),表示自动切换。
* switchType="2" : 表示基于MySQL主从同步的状态决定是否切换,心跳语句如下:

  • switchType="3" : 表示基于 MySQL Galary Cluster的切换机制,心跳语句如下:

2. MySQL读写分离master-slave

对于MySQL,主流的读写分离是master-slave和galera cluster,下面分别介绍如何通过Mycat来实现这两种读写分离。

2.1 MySQL主从读写分离环境

项目 Mycat MySQL-master MySQL-slaveA MySQL-slaveB
IP 192.168.33.11 192.168.33.11 192.168.33.12 192.168.33.13
Port 8066/9066 3306 3306 3306

MySQL为一主两从,192.168.33.11同时为192.168.33.12和192.168.33.13的主。

查看主从,都正常。

2.2 验证测试

vim conf/schema.xml

测试SQL:

开启DEBUG日志,
vim conf/log4j2.conf

可以从DEBUG日志中看到,读操作发送到当前的writeHost上。
tail -f logs/wrapper.log

其它的balance参数就不一一演示了。

2.3 读写分离2种配置的区别

配置方式一

配置方式二

在hostM1、hostS1、hostS2均正常工作时,写均在hostM1上。读会有如下区别:

balance 方式一 方式二
0 读–>hostM1 读–>hostM1
1 读–>hostS2 or hostS3 读–>hostS2 or hostS3
2 读–>hostM1 or hostS2 or hostS3 读–>hostM1 or hostS2 or hostS3
3 读–>hostM1 读–>hostS2 or hostS3

在hostM1失去心跳,宕机时,两种配置方式的读写会有如下区别:

balance 方式一 方式二
switchType=-1 switchType=0或1 switchType=-1 switchType=0或1
0 读–>X
写–>X
读–>hostS2
写–>hostS2
读–>X
写–>X
1 读–>hostS2
写–>X
读–>hostS2
写–>hostS2
2 读–>hostS2
写–>X
读–>hostS2
写–>hostS2
3 读–>X
写–>X
读–>hostS2
写–>hostS2

主从切换记录文件
cat conf/dnindex.properties

注意
* 当发生主从切换后,要查看集群内所有mycat的此文件是否一致。
* 当主挂了以后,备接替主以后,再加入集群的DB是从的角色。
* 主从切换后可能会存在数据的丢失。
* mycat的主从切换,并不是mysql的主从切换,mysql的主从设置并不会改变。

3. MySQL Galera Cluster+Mycat读写分离

MySQL Galera Cluster是一套基于同步复制的多主MySQL集群解决方案,使用简单,没有单点故障,可用性高,能很好地保证业务量不断增长时数据的安全和随时扩展。

Galera本质上是一个wsrep提供者,其运行依赖于wsrep的API接口。wsrep API定义了一系列应用回调和复制调用库,来实现事务数据库同步写集(writeset)复制及相似的应用。目前的主流分支有MariaDB Galera Cluster和Percona Xtradb Cluster。

Galera官方建议一套Cluster至少有3个节点,理论上可以多写,但是在多个实验环境和生产案例中,多写会引起较为严重的锁等待,所以使用Galera时推荐用一写多读。这样Galera Cluster结合Mycat,很容易配置出一套读写分离的数据库架构。

下面以Percona Xtradb Cluster为例,演示Mycat如何实现读写分离。

3.1 Percona XtraDB Cluster读写分离环境

准备3个节点环境,系统CentOS7.3。

项目 Mycat testA testB testC
IP 192.168.33.11 192.168.33.11 192.168.33.12 192.168.33.13
Port 8066/9066 3306 3306 3306

为了测试方便,这里关闭系统防火墙和禁用selinux,生产环境防火墙则需要开放Percona XtraDB Cluster节点间通信需要使用的端口:
* 3306
* 4444
* 4567
* 4568

3.2 安装、配置Percona XtraDB Cluster

3.2.1 配置Percona yum源

安装命令如下:

sudo yum install http://www.percona.com/downloads/percona-release/redhat/0.1-4/percona-release-0.1-4.noarch.rpm

请确保有安装成功结果:

sudo yum list | grep percona

显示部分的安装包:

3.2.2 安装Percona-XtraDB-Cluster-57

安装Percona XtraDB Cluster

sudo yum install Percona-XtraDB-Cluster-57

启动mysql
sudo service mysql start

mysql5.7版本初始化时,密码保存在log-error日志中,所以过滤出来,修改密码,并为mycat作准备。

停止mysql服务

sudo service mysql stop

3.2.3 节点配置Write-Set Replication

安装完Percona-XtraDB-Cluster-57,其实已经配置了默认的wsrep配置,配置文件如下:

cat /etc/percona-xtradb-cluster.conf.d/wsrep.cnf


官方说在/etc/my.cnf下添加如下配置,其实会导致mysql启动出错,在这里卡了我几个小时。因为有/etc/percona-xtradb-cluster.conf.d/wsrep.cnf配置了相差参数,所以我们直接修改该配置。以下并对配置文件说明。

其它2个节点也做相应配置,只是注意如下2个参数:

testB

testC

配置参数说明:
wsrep_provider:指定Galera library的路径

wsrep_cluster_name:在集群中所有的节点指定相同的集群名

wsrep_cluster_address:指定集群中节点的IP地址。至少需要一个节点加入集群,但建议将节点的地址列出来。这样,如果列表中的第一个节点不可用,加入的节点可以使用其他地址。而且节点从不可用重新变为可用时,可以重新加入集群。

wsrep_node_name:为每个节点指定逻辑名称。如果没有指定此变量,则将使用主机名。
wsrep_node_address:指定这个节点的IP地址。

wsrep_sst_method:默认情况下,Percona XtraDB集群使用Percona XtraBackup进行状态快照传输(SST)。设置wsrep_sst_method =xtrabackup-v2是非常推荐的。该方法需要在初始节点上设置SST的用户。使用·wsrep_sst_auth·变量提供SST用户凭据。

wsrep_sst_auth:为SST指定身份验证凭证作为< sst_user>:。当引导第一个节点并为其提供必要的特权时,您必须创建该用户。

pxc_strict_mode:在默认情况下,PXC Strict Mode启用,并设置为ENFORCING,这阻止了Percona XtraDB集群中实验性和不受支持的特性的使用。

binlog_format:Galera只支持行级复制,因此设置binlog_format = ROW

default_storage_engine:Galera完全支持InnoDB存储引擎。它不能正确地与MyISAM或任何其他非事务性存储引擎一起工作。将此变量设置为default_storage_engine = InnoDB

innodb_autoinc_lock_mode:Galera只支持对InnoDB的交叉(2)锁模式。设置传统的(0)或连续的(1)锁定模式会导致由于未解决的死锁而导致复制失败。将此变量设置为innodb_autoinc_lock_mode = 2


3.2.4 引导第一个节点

在配置所有的PXC节点之后,通过引导第一个节点来初始化集群。初始节点应该是包含所有数据的节点,您希望将这些数据复制到其他节点。
Bootstrapping意味着在没有任何已知的集群地址的情况下启动节点。如果wsrep_cluster_address变量是空的,那么Percona XtraDB集群假设这是第一个节点并初始化集群。
与其更改配置,不如使用以下命令启动第一个节点:(5.7版本使用如下命令时,并不需要修改配置wsrep_cluster_address为空。

systemctl start mysql@bootstrap.service

当您使用前面的命令启动节点时,它将使用wsrep_cluster_address =gcomm://的引导模式运行。这告诉节点用wsrep_cluster_conf_id将集群初始化为1。在将其他节点添加到集群之后,您可以重新启动该节点,并再次使用标准配置。

为了确保集群已初始化,运行以下步骤:

上面的输出显示集群大小为1节点,它是主组件,节点处于同步状态,它是完全连接的,并为写集复制做好准备。
在将其他节点添加到新集群之前,为SST创建一个用户并为它提供必要的特权。在为写集复制配置节点时,凭证必须与指定的凭证匹配。

更多信息,查看 Privileges for Percona XtraBackup

3.2.4 添加节点到集群

自动配置适当配置的新节点。当您使用wsrep_cluster_address变量中至少一个其他运行节点的地址启动一个节点时,它会自动加入集群并与之同步。

注意
任何现有的数据和配置都将被覆盖,以匹配供节点的数据和配置。不要在同一时间连接多个节点以避免在新节点连接时大量的通信开销。

启动第二个节点

systemctl start mysql

为了确保集群已添加节点,运行以下步骤:

之前的输出显示新节点已成功添加到集群中。集群大小现在是2个节点,它是主要组件,它已经完全连接并准备好接收写集复制。
如果第二个节点的状态与前一个示例同步,则节点接收到完整的SST,与集群同步,然后您可以继续添加下一个节点。

注意
如果节点的状态是Joiner,则意味着SST还没有完成。在所有其他节点处于同步状态之前,不要添加新节点。

启动第三个节点

systemctl start mysql

为了确保集群已添加节点,运行以下步骤:

之前的输出显示新节点已成功添加到集群中。集群大小现在是3个节点,它是主要组件,它已经完全连接并准备好接收写集复制。

将节点1加入集群
先停止引导服务
systemctl stop mysql@bootstrap.service
再启动mysql服务
systemctl start mysql

3.2.5 数据复制验证

我们在节点2创建数据库,在节点3创建表,在节点1插入数据到表中。

节点2创建数据库

节点3创建表

在节点1插入数据

节点2查询数据

3.3 配置Mycat对Percona-XtraDB-Cluster-57读写分离

vim conf/schema.xml

启动mycat后,查询数据,关闭节点1的mysql,查询数据,发现对读写没有任何影响。

4. 总结

mycat+mysql主从配置读写分离,不管主从是什么样的架构,都需要从实际业务角度考虑各个节点宕机对数据库可用性的影响,以及主从同步设置的难易。

MySQL Galera Cluster+Mycat读写分离是非常好的架构,但是它也有不足之处或者说限制,主要包括:
* 数据复制只支持InnoDB存储引擎的表。
* 不支持LOCK TABLESUNLOCK TABLES语句,也不支持其它的Lock functions, 比如 GET_LOCK(), RELEASE_LOCK()等函数。
* 不支持使用log_output将日志存储在表中,日志只能以文件形式存储。
* 目前还不支持XA(扩展架构)事务。
详情:
https://www.percona.com/doc/percona-xtradb-cluster/5.7/limitation.html

后面还会研究下MySQL MHA + Mycat的高可用方案。

参考资料:
[1] http://mycat.io/
[2] 《分布式数据库架构及企业实践——基于Mycat中间件》
[3] 龙哥官方课程课件、博客
[4] https://www.percona.com/doc/percona-xtradb-cluster/5.7/index.html

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!

发表评论

电子邮件地址不会被公开。 必填项已用*标注