0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NineData:1小时迁移500GB的MySQL数据

数据库小组 来源:数据库小组 作者:数据库小组 2023-09-05 11:34 次阅读

在上篇「快、准、稳的实现亿级别MySQL大表迁移」的文章中,介绍了NineData在单张大表场景下的迁移性能和优势。但在大部分场景中,可能遇到的是多张表构成的大数据量场景下的数据搬迁问题。因为搬迁数据量较大,迁移的时长、稳定性及准确性都受到极大的挑战,常见的迁移工具通常不能很好得支持。为此,NineData针对这种场景专门进行针对性的优化,以提供高效、准确、稳定的大数据量迁移能力。

1、传统的迁移方案

目前,数据迁移主要分为逻辑迁移和物理迁移,逻辑迁移主要有mysqldump、mydumper ,物理迁移主要有XtraBackup。对于这类导入导出和拷贝文件的传统迁移方案,在迁移中会存在一些问题:

要求业务停机,在迁移过程中,通过需要停止服务,保持静态迁移数据,由于迁移数据量大,需要的迁移时间较长,这也意味着业务停机时间较长。

迁移时间久,对于mysqldump的逻辑迁移,单线程导出表,迁移时间长。

可靠性差,导出异常后,不支持断点能力,在迁移过程中,如果遇到数据库、软件或硬件任何问题导致的任务中断,都需要从头迁移,迁移难度高。

保障能力弱,迁移期间,不能提供完善的观测跟干预能力;同时,比较缺乏结构及数据对比能力,缺乏质量保障体系,可能影响迁移成功性。

2、高性能的迁移方案

NineData 提供的数据复制同时包含了数据迁移和数据同步的能力,在不影响业务的前提下,提供了高效、稳定、可运维的大数据量迁移能力。经实测,在源及目标实例同城情况下,500GB的MySQL数据的迁移,只需1个小时,平均迁移速度142MB/s。

通过对 MySQL 大数据量迁移的性能测试,和传统迁移比,NineData 数据迁移的优势有:

简单易用:一分钟即可完成任务配置,并全自动化完成任务迁移。

强劲性能:完善的智能分片、表级行级并发、动态攒批等核心技术,有效保证迁移性能。

高可靠:结合新型断点、异常诊断及丰富的修复手段,对于迁移过程中可能出现软硬件故障,提供完善的容灾能力,大大提高了大数据量迁移的成功率。

数据质量保障:NineData 还提供了对比功能,包含数据和结构的对比,以及全量、快速(抽样)和不一致复检的对比方式,并且也支持不同的对比频率。在迁移或复制结束后,通过数据和结构对比,能有效的保障数据的一致性。

NineData 在提供强大迁移能力的同时,也保证了使用的简单性,只需要1分钟就能完成迁移任务的配置,实现完全自动化的数据迁移过程。下面我们来看下整个任务的配置过程:

2.1 配置迁移链路

wKgaomT2ocWAXLBbAAU1TgjgJsY144.jpg

1. 配置任务名称,选择要迁移的源和目标实例。

2. 选择复制类型,数据迁移选择结构和全量复制(数据迁移)。

3. 根据需要,选择合适的冲突处理策略。

2.2 选择迁移对象

wKgZomT2ocaAMmSiAAUkdcMBboA371.jpg

选择迁移对象:针对不同粒度选择迁移对象,也可以选择部分迁移对象。

2.3 配置映射对象

wKgZomT2ocqAbOebAAWS95v-OFg404.jpg

配置映射和过滤规则:可自定义迁移的库名、表名和按照不同的过滤条件进行多表的部分数据迁移,也可以针对表的列名进行映射和部分列迁移。

wKgZomT2ocyAYTwhAASFPsSEacw645.jpg

2.4 预检查&启动

wKgaomT2ocyAWmBxAAgbEyUZe8c381.jpg

通过丰富的检查项,保证了迁移任务的稳定性;通过开启数据对比,保证了迁移后数据的一致性。到此,我们就完成了一个高性能迁移任务的配置。

同时,为了提供更好的迁移体验,NineData针对迁移过程提供了完善的观测、干预能力。其不但提供对象迁移的详细状态、进展、详情,还通过监控和日志透露后台线程的内部执行情况,帮助用户全方位追踪迁移进展。同时,还针对运行过程中可能出现的异常情况,提供基础诊断能力,及修复、跳过、移除等多种修复策略和迁移限流能力,让用户能够自主快速得诊断并修复链路,保障迁移稳定性。

wKgZomT2oc2AIBQHAAbJosOh5NI216.jpg

wKgaomT2oc6AWsDUAAT_Gcs34KE281.jpg

3、总结

NineData 提供的高效、快速、稳定的MySQL大数据量迁移能力,很好的补充了传统迁移方案的不足。当前,NineData 已经支持数十种常见数据库的迁移复制,同时,除了SAAS模式外,还提供了企业专属集群模式,满足企业最高的数据安全合规要求。目前,NineData已在运营商、金融、制造业、地产、电商等多个行业完成大规模应用实践。如果您感兴趣的话,可以登录官网:数据迁移-迁移工具-数据传输-NineData-玖章算术,立即开始使用。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    3591

    浏览量

    63373
  • MySQL
    +关注

    关注

    1

    文章

    775

    浏览量

    26006
  • 数据迁移
    +关注

    关注

    0

    文章

    65

    浏览量

    6890
收藏 人收藏

    评论

    相关推荐

    如何将MS访问数据转换为MySQL

    借助dbForgeStudio for MySQL,您可以轻松地将数据从MicrosoftAccess迁移MySQL,并保持数据和功能的完
    的头像 发表于 01-23 13:47 176次阅读
    如何将MS访问<b class='flag-5'>数据</b>转换为<b class='flag-5'>MySQL</b>

    一分钟,自动完成Redis数据迁移

    NineData提供了高效、安全的Redis不停机数据迁移方案。与传统迁移方案相比,NineData具备简单易用、强劲性能和高可靠性的优势。
    的头像 发表于 01-08 11:34 194次阅读
    一分钟,自动完成Redis<b class='flag-5'>数据</b><b class='flag-5'>迁移</b>

    MySQL5.7数据导入8.0版本,这3款工具值得收藏!

    MySQL 5.7数据迁移MySQL 8.0可以使用NineDataMySQL Shel
    的头像 发表于 11-29 16:47 426次阅读
    <b class='flag-5'>MySQL</b>5.7<b class='flag-5'>数据</b>导入8.0版本,这3款工具值得收藏!

    如何将数据MySQL迁移到Influxdb中

    如果以前是将时序数据存放在MySQL,现在为了获取更好的性能和使用可视化工具,我们需要将数据MySQL迁移到Influxdb中。 这看起来
    的头像 发表于 11-02 10:54 683次阅读

    人大金仓三大兼容:MySQL迁移无忧

    替换成为大势所趋。 作为数据库领域国家队,人大金仓以服务用户为中心,率先加大对MySQL兼容性开发,目前对MySQL常用功能的兼容性已达到90%以上。此外KingbaseES对MySQL
    的头像 发表于 10-31 09:25 319次阅读
    人大金仓三大兼容:<b class='flag-5'>MySQL</b><b class='flag-5'>迁移</b>无忧

    40分钟500GBMySQL至Doris数据迁移同步的新选择!#云计算 #数据结构 #MySQL

    数据结构
    数据库小组
    发布于 :2023年10月18日 11:43:13

    使用NineData快速、高效完成Redis差异数据对比!

    NineData在Redis数据迁移场景下表现出色,可快速准确完成Redis数据对比,找出不一致的key并生成详细报告。数据对比方案需考虑
    的头像 发表于 10-07 11:57 214次阅读
    使用<b class='flag-5'>NineData</b>快速、高效完成Redis差异<b class='flag-5'>数据</b>对比!

    Redis 大数据量高速迁移,2000W key不到2分钟!

    NineData 基于全量复制、增量日志复制技术,提供了高效、安全可靠的 Redis 不停机迁移方案。当然,除了 Redis,NineData 已经支持数十种常见数据库的
    的头像 发表于 09-12 15:40 375次阅读
    Redis 大<b class='flag-5'>数据</b>量高速<b class='flag-5'>迁移</b>,2000W key不到2分钟!

    NineData:高效可靠的MongoDB迁移及同步方案

    为解决用户面临的MongoDB迁移问题,玖章算术旗下的云原生智能数据管理平台NineData 推出了MongoDB 业务不停服数据迁移能力。
    的头像 发表于 09-05 11:32 408次阅读
    <b class='flag-5'>NineData</b>:高效可靠的MongoDB<b class='flag-5'>迁移</b>及同步方案

    如何快速实现MySQL到Doris的高容量数据同步

    NineData 采用先进的数据同步技术,确保数据实时同步到 Doris,极大地降低了数据延迟,实测 500
    的头像 发表于 08-25 17:27 882次阅读
    如何快速实现<b class='flag-5'>MySQL</b>到Doris的高容量<b class='flag-5'>数据</b>同步

    如何快速完成PostgreSQL数据迁移

    NineData推出了PostgreSQL业务不停服数据迁移能力。NineData实现了完全自动化的结构迁移和全量
    的头像 发表于 08-14 15:39 1906次阅读
    如何快速完成PostgreSQL<b class='flag-5'>数据</b><b class='flag-5'>迁移</b>?

    使用NineData快速完成MySQL数据的差异对比!

    NineData 是一款功能强大的数据库对比工具,能够帮助企业追踪数据库的变化、发现问题并快速修复。相比其他工具,NineData 具有以下优势:即开即用、全面的
    的头像 发表于 08-08 15:07 629次阅读
    使用<b class='flag-5'>NineData</b>快速完成<b class='flag-5'>MySQL</b><b class='flag-5'>数据</b>的差异对比!

    Navicat的平替NineData怎么样?

    NineData 是一款非常有特色的数据库SQL开发产品,对MySQL常用功能支持非常完整,包括智能的SQL补全、SQL执行历史、结果集编辑、数据对比、结构对比、
    的头像 发表于 07-24 14:46 1013次阅读
    Navicat的平替<b class='flag-5'>NineData</b>怎么样?

    Redis数据同步解决方案—NineData

    、异常修复和断点续传等能力上也支持的最完善。所以,如果需要使用 Redis 的迁移和实时同步功能,推荐使用 NineData,不仅满足稳定、高效、安全,而且使用简单(SaaS),很好地解决 Redis 数据同步的问题。
    的头像 发表于 06-05 15:31 546次阅读
    Redis<b class='flag-5'>数据</b>同步解决方案—<b class='flag-5'>NineData</b>