0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NineData:1小时迁移500GB的MySQL数据

数据库小组 来源:数据库小组 作者:数据库小组 2023-09-05 11:34 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在上篇「快、准、稳的实现亿级别MySQL大表迁移」的文章中,介绍了NineData在单张大表场景下的迁移性能和优势。但在大部分场景中,可能遇到的是多张表构成的大数据量场景下的数据搬迁问题。因为搬迁数据量较大,迁移的时长、稳定性及准确性都受到极大的挑战,常见的迁移工具通常不能很好得支持。为此,NineData针对这种场景专门进行针对性的优化,以提供高效、准确、稳定的大数据量迁移能力。

1、传统的迁移方案

目前,数据迁移主要分为逻辑迁移和物理迁移,逻辑迁移主要有mysqldump、mydumper ,物理迁移主要有XtraBackup。对于这类导入导出和拷贝文件的传统迁移方案,在迁移中会存在一些问题:

要求业务停机,在迁移过程中,通过需要停止服务,保持静态迁移数据,由于迁移数据量大,需要的迁移时间较长,这也意味着业务停机时间较长。

迁移时间久,对于mysqldump的逻辑迁移,单线程导出表,迁移时间长。

可靠性差,导出异常后,不支持断点能力,在迁移过程中,如果遇到数据库、软件或硬件任何问题导致的任务中断,都需要从头迁移,迁移难度高。

保障能力弱,迁移期间,不能提供完善的观测跟干预能力;同时,比较缺乏结构及数据对比能力,缺乏质量保障体系,可能影响迁移成功性。

2、高性能的迁移方案

NineData 提供的数据复制同时包含了数据迁移和数据同步的能力,在不影响业务的前提下,提供了高效、稳定、可运维的大数据量迁移能力。经实测,在源及目标实例同城情况下,500GB的MySQL数据的迁移,只需1个小时,平均迁移速度142MB/s。

通过对 MySQL 大数据量迁移的性能测试,和传统迁移比,NineData 数据迁移的优势有:

简单易用:一分钟即可完成任务配置,并全自动化完成任务迁移。

强劲性能:完善的智能分片、表级行级并发、动态攒批等核心技术,有效保证迁移性能。

高可靠:结合新型断点、异常诊断及丰富的修复手段,对于迁移过程中可能出现软硬件故障,提供完善的容灾能力,大大提高了大数据量迁移的成功率。

数据质量保障:NineData 还提供了对比功能,包含数据和结构的对比,以及全量、快速(抽样)和不一致复检的对比方式,并且也支持不同的对比频率。在迁移或复制结束后,通过数据和结构对比,能有效的保障数据的一致性。

NineData 在提供强大迁移能力的同时,也保证了使用的简单性,只需要1分钟就能完成迁移任务的配置,实现完全自动化的数据迁移过程。下面我们来看下整个任务的配置过程:

2.1 配置迁移链路

wKgaomT2ocWAXLBbAAU1TgjgJsY144.jpg

1. 配置任务名称,选择要迁移的源和目标实例。

2. 选择复制类型,数据迁移选择结构和全量复制(数据迁移)。

3. 根据需要,选择合适的冲突处理策略。

2.2 选择迁移对象

wKgZomT2ocaAMmSiAAUkdcMBboA371.jpg

选择迁移对象:针对不同粒度选择迁移对象,也可以选择部分迁移对象。

2.3 配置映射对象

wKgZomT2ocqAbOebAAWS95v-OFg404.jpg

配置映射和过滤规则:可自定义迁移的库名、表名和按照不同的过滤条件进行多表的部分数据迁移,也可以针对表的列名进行映射和部分列迁移。

wKgZomT2ocyAYTwhAASFPsSEacw645.jpg

2.4 预检查&启动

wKgaomT2ocyAWmBxAAgbEyUZe8c381.jpg

通过丰富的检查项,保证了迁移任务的稳定性;通过开启数据对比,保证了迁移后数据的一致性。到此,我们就完成了一个高性能迁移任务的配置。

同时,为了提供更好的迁移体验,NineData针对迁移过程提供了完善的观测、干预能力。其不但提供对象迁移的详细状态、进展、详情,还通过监控和日志透露后台线程的内部执行情况,帮助用户全方位追踪迁移进展。同时,还针对运行过程中可能出现的异常情况,提供基础诊断能力,及修复、跳过、移除等多种修复策略和迁移限流能力,让用户能够自主快速得诊断并修复链路,保障迁移稳定性。

wKgZomT2oc2AIBQHAAbJosOh5NI216.jpg

wKgaomT2oc6AWsDUAAT_Gcs34KE281.jpg

3、总结

NineData 提供的高效、快速、稳定的MySQL大数据量迁移能力,很好的补充了传统迁移方案的不足。当前,NineData 已经支持数十种常见数据库的迁移复制,同时,除了SAAS模式外,还提供了企业专属集群模式,满足企业最高的数据安全合规要求。目前,NineData已在运营商、金融、制造业、地产、电商等多个行业完成大规模应用实践。如果您感兴趣的话,可以登录官网:数据迁移-迁移工具-数据传输-NineData-玖章算术,立即开始使用。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    4092

    浏览量

    68676
  • MySQL
    +关注

    关注

    1

    文章

    938

    浏览量

    29845
  • 数据迁移
    +关注

    关注

    0

    文章

    97

    浏览量

    7307
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    新版架构师系列-ShardingJDBC分库分表mysql数据库实战

    搞定海量数据存储,MySQL 分库分表进阶教程 2026年,中国互联网的数据量已经突破1800EB。每一天,仅短视频平台就新增超过500TB数据
    发表于 05-18 17:01

    NineData 5.0 产品发布和生态伙伴大会,圆满举办!

    4 月 16 日,NineData 5.0 产品发布会和生态伙伴大会在杭州成功举办。NineData 5.0 围绕数据复制 A2A 架构、 AI 原生数据库 DevOps 、ChatD
    的头像 发表于 04-17 14:47 162次阅读
    <b class='flag-5'>NineData</b> 5.0 产品发布和生态伙伴大会,圆满举办!

    MySQL 删库后怎么恢复?binlog2sql 之外,NineData 还能做什么

    的完整链路。本文从“误删数据怎么恢复”切入,先说明 binlog2sql 的适用场景和技术边界,再结合 NineData 的 Track Rollback 做事后定位和 DML 回滚 这也是它
    的头像 发表于 04-15 11:49 144次阅读
    <b class='flag-5'>MySQL</b> 删库后怎么恢复?binlog2sql 之外,<b class='flag-5'>NineData</b> 还能做什么

    NineData 2026年3月功能上新:支持飞书外部审批,增强慢查询分析与数据复制能力

    RDS MySQL、阿里云 RDS PostgreSQL 及 SQL Server,数据归档与清理覆盖 SQL Server;同时增强大规格数据复制性能、复杂对象兼容性和链路稳定性,进一步提升企业 SQL 变更、性能排查与
    的头像 发表于 04-10 11:40 397次阅读
    <b class='flag-5'>NineData</b> 2026年3月功能上新:支持飞书外部审批,增强慢查询分析与<b class='flag-5'>数据</b>复制能力

    MySQL 到 SelectDB 实时同步:传统 ETL 与 NineData 的能力侧重

    一条成熟的 MySQL -> SelectDB 链路,不只是“数据复制问题”,也是“目标端建模问题”。NineData 并不会替代目标端建模,它把团队的注意力从“同步链路本身是否可靠”逐步转移到“SelectDB 目标表该怎么设
    的头像 发表于 03-31 15:53 710次阅读
    <b class='flag-5'>MySQL</b> 到 SelectDB 实时同步:传统 ETL 与 <b class='flag-5'>NineData</b> 的能力侧重

    从业务库到实时分析库,NineData 构建 MySQL到SelectDB 同步链路

    MySQL 到 SelectDB,难点从来不是“把数据搬过去”,而是把这件事做成一条真正可靠的生产链路。 NineData 在这个场景里的价值,不只是提供了一条复制通道,而是把任务创建、实时复制
    的头像 发表于 03-31 12:54 588次阅读
    从业务库到实时分析库,<b class='flag-5'>NineData</b> 构建 <b class='flag-5'>MySQL</b>到SelectDB 同步链路

    从个人开发到企业专属集群,NineData怎么做的?

    最近看了一圈数据管理相关产品,一个比较明显的感受是: 很多工具都能解决一个点,但很少有产品能把“从开发到生产、从个人到企业”的整条链路做完整。 而 NineData 比较有意思的一点,正是它不只是做
    的头像 发表于 03-25 15:35 157次阅读
    从个人开发到企业专属集群,<b class='flag-5'>NineData</b>怎么做的?

    哪些人更适合用 NineData 社区版的慢 SQL 功能:DBA、后端、SRE,还是技术负责人?

    本文只讨论在 MySQL 慢 SQL 场景下的使用边界。NineData 社区版支持离线部署、Docker 单机部署,数据库 DevOps 提供 10 个数据源可用额度,核心功能与专业
    的头像 发表于 03-19 23:15 453次阅读

    NineData 新增支持 MySQL 到 openGauss PostgreSQL 数据复制链路

    MySQL 到 openGauss PostgreSQL 兼容版的迁移,真正难的从来不是“把数据搬过去”,而是如何在业务不停、数据持续变化、结果需要验证、问题需要及时发现的前提下,把整
    的头像 发表于 03-19 11:44 246次阅读
    <b class='flag-5'>NineData</b> 新增支持 <b class='flag-5'>MySQL</b> 到 openGauss PostgreSQL <b class='flag-5'>数据</b>复制链路

    NineData 社区版的慢SQL分析,比查看日志+看EXPLAIN适合中小团队

    本文探讨 NineData 社区版在 MySQL 慢 SQL 场景对中小团队的适用性。与 “查看日志 + 看 EXPLAIN” 传统方式不同,它将慢 SQL 按模板聚合,能从大盘、模板、诊断等多维
    的头像 发表于 03-17 14:07 183次阅读
    <b class='flag-5'>NineData</b> 社区版的慢SQL分析,比查看日志+看EXPLAIN适合中小团队

    MySQL 慢 SQL 排查这件事,NineData 社区VS DBeaver/ Navicat 技术分析

    社区版的定位不同,它是免费、本地化部署的数据管理平台,将数据库 DevOps、数据复制、数据库对比三大能力整合于一体。 在 MySQL
    的头像 发表于 03-17 11:53 203次阅读
    <b class='flag-5'>MySQL</b> 慢 SQL 排查这件事,<b class='flag-5'>NineData</b> 社区VS DBeaver/ Navicat 技术分析

    TB级数据手工校验要多久?用NineData仅需小时级别

    TB级数据手工校验要多久?用NineData仅需小时级别
    的头像 发表于 03-16 10:48 542次阅读
    TB级<b class='flag-5'>数据</b>手工校验要多久?用<b class='flag-5'>NineData</b>仅需<b class='flag-5'>小时</b>级别

    技术解析|SAP ECC到S/4HANA迁移实战:50TB数据19小时迁移架构

    丹麦零售巨头Salling集团仅用19小时完成50TB数据迁移至S/4HANA,比原计划提前5小时,实现零停机的数字化转型奇迹,同时为2026年IT碳中和目标奠定基础。
    的头像 发表于 02-28 22:40 247次阅读

    工业数据中台支持接入MySQL数据库吗

    工业数据中台完全支持接入MySQL数据库 ,且通过数据同步、集成与治理等技术手段,能够充分发挥MySQL
    的头像 发表于 12-04 11:23 566次阅读
    工业<b class='flag-5'>数据</b>中台支持接入<b class='flag-5'>MySQL</b><b class='flag-5'>数据</b>库吗

    MySQL数据备份与恢复策略

    数据是企业的核心资产,MySQL作为主流的关系型数据库管理系统,其数据的安全性和可靠性至关重要。本文将深入探讨MySQL
    的头像 发表于 07-14 11:11 966次阅读