当前位置:首页 > 文章列表 > 数据库 > MySQL > MySQL冷备的gtid竟然还能不一致

MySQL冷备的gtid竟然还能不一致

来源:SegmentFault 2023-01-16 13:56:25 0浏览 收藏

IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《MySQL冷备的gtid竟然还能不一致》,聊聊MySQL,我们一起来看看吧!

本文的测试环境为mysql5.7.30

冷备
起因:自己私下做某个测试时,因为源库数据量小,而且图方便,所以打算用冷备的方式构建从库,但这里留下的一个坑是:之前的从库有数据。先描述下现象:

(1)如果停止源库mysql后,只复制data目录(不包含binlog)到从库,则从库的show master status和mysql.gtid_executed的gtid会是两库的并集,和源库不一样。
(2)如果复制data目录和log目录(包含binlog),则从库的show master status的gtid值和源库一样。

源库的gtid(在备份等操作过程中没有数据写入)

从库原有的数据(在备份等操作过程中没有数据写入)

关掉从库的mysql服务,删掉data目录,用源库的data目录替换后起库。发现3c60f36b-46ab-11ec-b485-08002704f055(源库的server_uuid)的gtid和源库保持一致,baf76130-9458-11ec-84f7-080027e4e8a5(从库的server_uuid)的gtid还是从库原来的。数据上保持和主库一致,比主库多的数据没了

从以上的测试实际上可以大致猜测和binlog有关系,在官网中查找相关信息验证:gtid_executed计算为最新二进制日志文件中Previous_gtids_log_event中的GTID、该二进制日志文件中事务的GTID以及存储在mysql.gtid_executed表中的GTID的并集。此GTID集包含服务器上已使用(或显式添加到gtid_purged)的所有GTID,无论它们当前是否位于服务器上的二进制日志文件中。它不包括服务器上当前正在处理的事务的GTID(@@GLOBAL.gtid_owned)(https://dev.mysql.com/doc/ref...

在服务器意外停止的情况下,当前二进制日志文件中的GTID集不会保存在 mysql.gtid_executed表中。这些GTID在恢复期间从二进制日志文件添加到表中。例外情况是,如果在重新启动服务器时未启用二进制日志记录。在这种情况下,服务器无法访问二进制日志文件来恢复GTID,因此无法启动复制(https://dev.mysql.com/doc/ref...
下面看看其他备份恢复的方法是否有什么坑。

mysqldump
如果使用mysqldump备份恢复,默认--set-gtid-purged是on,即在备份的结果集里会有SET @@GLOBAL.GTID_PURGED语句,但是该从库的该变量不是空,所以恢复时会报错@@GLOBAL.GTID_PURGED can only be set when @@GLOBAL.GTID_EXECUTED is empty,即gtid的设置失败。

Xtrabackup
这个实际上也是之前碰到的问题,和这次主题相关就一块放进来。
从库利用源库的备份恢复完成,但是一段时间后复制报主键冲突错误(只有主库可写)。查看备份日志,发现该gtid对应的事件已经复制过来了,按理说不应该再执行一遍

cat xtrabackup_binlog_info 
mysql-bin.000949        1011856733      7fad1986-f472-11e9-9e4f-40eedd74dfea:1-13113,
9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:1-2151443844

但是从库show slave status的状态如下,Executed_Gtid_Set比xtrabackup_binlog_info小

Retrieved_Gtid_Set: 9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:2150986487-2151940664
 Executed_Gtid_Set: 7fad1986-f472-11e9-9e4f-40eedd74dfea:1-13113,
9b46f7b8-f472-11e9-9694-d0efc1ea2bf9:1-2150986486

怀疑是恢复过程有问题,重新执行然后查看从库的Executed_Gtid_Set还是比xtrabackup_binlog_info中小,而且查报主键错误的sql,发现这条数据已经存在。检查备份恢复的apply log和copy的日志,均无异常,排除恢复问题。所以怀疑恢复时的Executed_Gtid_Set是否不是正确的,或者说不是最新的?

网上搜索得到的相关说法:mysql.gtid_executed表使用innodb存储引擎,mysql.gtid_executed表中的数据并不是实时更新的,并且对其所有的写入不会记录binlog,也就是不会存在于redo log中。因此xtrabackup备份所得到的mysql.gtid_executed,就是copy gtid_executed.ibd时刻mysql.gtid_executed表中已有的数据。此数据与当时show master status的返回值极可能不一致(没满足写入时机),并且后续拷贝到xtrabackup_logfile文件也不会包含mysql.gtid_executed相关信息,因此apply-log不会影响mysql.gtid_executed表中的数据。如果还原实例的../logs/目录下存在binlog,在启动数据库服务时,它们会被计算到gtids_in_binlog,然后结合mysql.gtid_executed表初始化@@global.gtid_executed

官网的进一步佐证:https://dev.mysql.com/doc/ref...

解决方法,先执行reset master;然后set @@global.gtid_purged=xtrabackup_binlog_info中的gtid

总结
(1)冷备时需要把binlog一块备份然后覆盖掉从库的相关数据;
(2)在原本有数据的从库进行mysqldump恢复时需要先reset master;
(3)xtrabackup恢复时需要根据xtrabackup_binlog_info设置@@global.gtid_purged。

文中关于mysql的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《MySQL冷备的gtid竟然还能不一致》文章吧,也可关注golang学习网公众号了解相关技术文章。

版本声明
本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
个推TechDay直播预告 | 8月24日晚19:30,实时数仓搭建保姆级教程开课个推TechDay直播预告 | 8月24日晚19:30,实时数仓搭建保姆级教程开课
上一篇
个推TechDay直播预告 | 8月24日晚19:30,实时数仓搭建保姆级教程开课
容器化 | 一文搞定镜像构建方式选型
下一篇
容器化 | 一文搞定镜像构建方式选型
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ljg-skills -
    ljg-skills
    ljg-skills 是李继刚开源的 AI 技能与提示词集合,面向大模型使用者整理了一批可复用的 prompt、角色设定和任务技能模板,适合用于学习提示词设计、搭建个人 AI 工作流和沉淀团队常用智能体能力。
    615次使用
  • MELO音乐 - AI 音乐生成平台,支持多模态创作能力
    MELO音乐
    MELO音乐是一站式AI视频与音乐制作助手,对标suno, udio的高品质体验。提供伴奏生成、原创写词、无损导出、哼唱识曲、混音变声等全套音频与短视频编辑工具。无论是流行Kpop、电音说唱、民谣古风、摇滚儿歌还是商用轻音乐,MELO为你免费谱曲,轻松做同款!
    629次使用
  • UniScribe - AI 免费在线音视频转文字平台
    UniScribe
    UniScribe 是一款 AI 音视频转文字与内容整理工具,支持上传音频、视频文件或粘贴 YouTube 链接,自动生成转写文本、摘要、思维导图和关键问题,并支持多格式导出,适合会议记录、课程学习、访谈整理和内容创作复盘。
    600次使用
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    766次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    753次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码