Mysql的高可用/容灾架构的性能测试讨论

本文主要给大家介绍MySQL的高可用/容灾架构的性能测试讨论，希望可以给大家补充和更新些知识，如有其它问题需要了解的可以持续在创新互联行业资讯里面关注我的更新文章的。

发展壮大离不开广大客户长期以来的信赖与支持，我们将始终秉承“诚信为本、服务至上”的服务理念，坚持“二合一”的优良服务模式，真诚服务每家企业，认真做好每个细节，不断完善自我，成就企业，实现共赢。行业涉及户外休闲椅等，在重庆网站建设公司、营销型网站、WAP手机网站、VI设计、软件开发等项目上具有丰富的设计经验。

系统高可用/容灾，是系统运维人员非常关心的一个话题。

基于AWS云平台的数据库，我们能做哪些高可用的架构设计呢？

目前中国区，有北京和宁夏两个独立的Region。关于RDS，不仅能做到Multi-AZ的设置，同时AWS还支持RDS的跨Region主从同步。

今天，我们就讨论基于Mysql的高可用/容灾架构的性能测试。

1. 创建Replica Slave

2. 这里我们可以选择将Replica slave创建到“北京region”或者“宁夏region”。

3. 由于北京和宁夏的距离因素，大家都会关心北京Master和宁夏Replica的同步，会不会因为网络延时，而导致lag较大？

今天我就进行测试，看看网络延迟，会对主从同步有多大影响。

（注： 北京region和宁夏region是没有直接连通的，也就是说，客户的EC2或者其他服务的跨Region数据同步，都只能通过公网，或者自己准备的专线方式传输数据。但是AWS内部，会为RDS的主从同步，以及S3 的 Cross Region Replication功能提供专用的线路，并且针对每个account提供一定的带宽）

测试环境准备，

<1. EC2   m4.xlarge   （4CPU 16G）
<2. RDS  db.r4.xlarge    （4CPU 16G ） Mysql版本5.7.12
<3. 创建两个replica，一个在宁夏，一个在北京，主要是为了比较同步情况，确认和区分网络因素的差异
<4. Mysql创建20个表，每个表1000W行数据，数据量在40G左右
<5. 主库使用sysbench进行压力测试 ,sysbench使用方法参考：
      https://blog.51cto.com/hsbxxl/2068181
<6. 主库的参数修改
      binlog_format=row
<7. 从库的下面参数设置，利用5.7的relay work的并发性能
      slave_parallel_workers=50

4.  sysbench脚本

通过定时任务，执行sysbench脚本，每5分钟执行一次
# crontab -l
*/5 * * * * /root/test.sh
每次执行150s，50个session并发读写20个表，每个表1000W行数据
# cat test.sh
date >> sync.log
sysbench /usr/share/sysbench/tests/include/oltp_legacy/oltp.lua \
--mysql-host=bjs.cbchwkqr6lfg.rds.cn-north-1.amazonaws.com.cn --mysql-port=3306 \
--mysql-user=admin --mysql-password=admin123 --mysql-db=testdb2 --oltp-tables-count=20 \
--oltp-table-size=10000000 --report-interval=10 --rand-init=on --max-requests=0 \
--oltp-read-only=off --time=150 --threads=50 \
run >> sync.log

5. 在主库上，sysbench测试数据输出如下，可以根据输出，确定主库的读写数据，进行参考：

[ 10s ] thds: 50 tps: 1072.24 qps: 21505.53 (r/w/o: 15060.08/4296.37/2149.08) lat (ms,95%): 89.16 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 50 tps: 759.83 qps: 15195.04 (r/w/o: 10640.78/3034.21/1520.05) lat (ms,95%): 215.44 err/s: 0.00 reconn/s: 0.00
[ 30s ] thds: 50 tps: 631.10 qps: 12645.47 (r/w/o: 8853.55/2529.71/1262.21) lat (ms,95%): 262.64 err/s: 0.00 reconn/s: 0.00
......
[ 130s ] thds: 50 tps: 765.94 qps: 15295.77 (r/w/o: 10701.91/3062.27/1531.59) lat (ms,95%): 125.52 err/s: 0.00 reconn/s: 0.00
[ 140s ] thds: 50 tps: 690.08 qps: 13776.96 (r/w/o: 9636.39/2761.41/1379.16) lat (ms,95%): 150.29 err/s: 0.00 reconn/s: 0.00
[ 150s ] thds: 50 tps: 749.51 qps: 15033.64 (r/w/o: 10532.97/3000.45/1500.22) lat (ms,95%): 147.61 err/s: 0.00 reconn/s: 0.00
SQL statistics:
queries performed:
read:                            1458030
write:                           416580
other:                           208290
total:                           2082900
transactions:                        104145 (689.50 per sec.)
queries:                             2082900 (13790.04 per sec.)
ignored errors:                      0      (0.00 per sec.)
reconnects:                          0      (0.00 per sec.)
General statistics:
total time:                          151.0422s
total number of events:              104145
Latency (ms):
min:                                    8.92
avg:                                   72.39
max:                                 7270.55
95th percentile:                      167.44
sum:                              7538949.20
Threads fairness:
events (avg/stddev):           2082.9000/18.44
execution time (avg/stddev):   150.7790/0.44

现在我们一起看一下，在北京和宁夏的两个replica的同步情况

6. 指标Replica Lag (Milliseconds)

可以看到，北京和宁夏的replica的同步性能基本是一致的，在每个150s的写周期，都会有lag的上升，基本延迟在40～50s左右。这说明，网络不是瓶颈，因为北京的replica和Master在同一个AZ的同一个subnet。

北京

宁夏

7. 根据上图结果可以分析，主从的延迟，在Mysql自身replay的过程没有跟上导致的延迟。

那么，我将两个replica的RDS机型升级到 8CPU 32G，进行测试，并比较结果。

可以看到，升级机型，还是有帮助的，lag明显下降不少，将延迟维持在20～30S

北京

宁夏

也保持和北京相同的lag，更说明了，网络不是同步的瓶颈。Mysql自身replay log，是一个性能瓶颈。

8. 再观察CPU的使用率

由于两个replica只有同步数据的负载，所以可以看到，同步数据的性能消耗，只有15%

后面的曲线是在我升级到8CPU 32G之后，只有7.5%的负载。说明硬件资源是足够的，但是Mysql自身的原因导致同步lag。

北京

宁夏

9. Write IOPS

稳定在4000左右，我实际分配的IOPS是6000，所以磁盘也不是瓶颈。另外，主库能完成读写操作，理论上从库只有写操作，负载更低。物理硬件资源不会是限制。

北京

宁夏

10. 主库的性能指标,可以看到，同样的配置，主库的资源还是够用的。能满足读和写的需求。

CPU性能指标

11. Write IOPS性能指标

12. Read IOPS性能指标

13. Write throughput性能指标

14. 既然数据库主机资源，和网络不是瓶颈。那么Mysql自身的问题，就需要我们去逐步调整了。

接下来，针对mysql的参数进行调整优化。

说是优化，是尽量降低备库相关参数的影响，将IO相关的参数基本全部关闭，去跟随OS层面的机制进行落盘。

实际上，replica的数据安全性要求相对主库要小很多，所以，在从库同步速度较慢的时候，结合实际情况，调整下面参数，会有显著的效果。

innodb_flush_log_at_trx_commit=0
innodb_flush_neighbors=0
innodb_flush_sync=0
sync_binlog=0
sync_relay_log=0
slave_parallel_workers=50
master-info-repository  = TABLE
relay-log-info-repository = TABLE

15. 调优之后的结果

宁夏

在调整完参数之后，效果立竿见影，从40s的延迟，降低到 5s左右

16. 再观察一下北京区的replica（未调整Mysql参数）

依然还是维持之前的lag，保持在50s的延迟情况。

北京

17. 最后再调整一个参数，让worker并行.默认情况下，这个参数是database，也就是只有在多个database被修改的情况下，worker才会并行工作。而实际情况下，大部分客户都是一个database（schema）多个tables的情况。所以，将参数修改成LOGICAL_CLOCK，才能起到并行的作用。

slave_parallel_type＝LOGICAL_CLOCK

当worker并行之后，已经能够将主从延迟降低到2S以内了，基本能满足绝大部分业务场景了。

18. 测试总结

基于以下条件

硬件：4CPU 16G内存  6000IOPS磁盘

50个并发，每秒700个TPS，1.5W个QPS，1W个写，的情况下。

北京到宁夏的Mysql主从，能控制在10S以内的延迟。

如果对于replica的数据安全性要求比较高，即不调整Mysql落盘的参数情况下，延迟在40～50s范围。

根据实际情况，大家可以通过调整mysql参数，加大replica机型的方式，来获取更好的同步性能。

Mysql作为一个开源RDBMS，虽然在Oracle的技术支持下，有了很大的进步。但是replica的种种性能，和Oracle的Dataguard的同步相比，还是有很大的差距。

后续我会继续研究，如何能让Mysql同步的更快。

19. 关于Mysql主从同步的调优：

<1. MySQL数据库主从同步延迟原理。

答：谈到MySQL数据库主从同步延迟原理，得从mysql的数据库主从复制原理说起，mysql的主从复制都是单线程的操作，主库对所有DDL和 DML产生binlog，binlog是顺序写，所以效率很高，slave的Slave_IO_Running线程到主库取日志，效率很比较高，下一步， 问题来了，slave的Slave_SQL_Running线程将主库的DDL和DML操作在slave实施。DML和DDL的IO操作是随即的，不是顺 序的，成本高很多，还可能可slave上的其他查询产生lock争用，由于Slave_SQL_Running也是单线程的，所以一个DDL卡主了，需要 执行10分钟，那么所有之后的DDL会等待这个DDL执行完才会继续执行，这就导致了延时。有朋友会问：“主库上那个相同的DDL也需要执行10分，为什 么slave会延时？”，答案是master可以并发，Slave_SQL_Running线程却不可以。

<2. MySQL数据库主从同步延迟是怎么产生的。

答：当主库的TPS并发较高时，产生的DDL数量超过slave一个sql线程所能承受的范围，那么延时就产生了，当然还有就是可能与slave的大型query语句产生了锁等待。

<3. MySQL数据库主从同步延迟解决方案

答：最简单的减少slave同步延时的方案就是在架构上做优化，尽量让主库的DDL快速执行。还有就是主库是写，对数据安全性较高，比如 sync_binlog=1，innodb_flush_log_at_trx_commit = 1 之类的设置，而slave则不需要这么高的数据安全，完全可以讲sync_binlog设置为0或者关闭binlog，innodb_flushlog也 可以设置为0来提高sql的执行效率。另外就是使用比主库更好的硬件设备作为slave。

看了以上关于Mysql的高可用/容灾架构的性能测试讨论，希望能给大家在实际运用中带来一定的帮助。本文由于篇幅有限，难免会有不足和需要补充的地方，如有需要更加专业的解答，可在官网联系我们的24小时售前售后，随时帮您解答问题的。