0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用NineData快速、高效完成Redis差异数据对比!

数据库小组 来源:数据库小组 作者:数据库小组 2023-10-07 11:57 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在上篇「Redis高效、安全的不停机数据迁移方案」的文章中,介绍了NineData在Redis迁移场景下的性能和优势。因为数据在主备、多云和多区域环境之间的迁移流动,难免会产生数据一致性的问题,而结构与数据不一致往往是导致故障的原因之一。所以,如何快速准确地完成 Redis 数据对比成为了一个重要的问题。

现在,NineData 在支持业务不中断的前提下,实现了配置简单、高效和安全的数据对比服务,很好地保障了各场景下因数据迁移导致数据不一致的问题。经实测,NineData可在 1 分钟内完成 800 万个key( 2GB,涉及所有类型)的数据对比,平均对比速率为 13万/秒,并且找出不一致的key,生成详细的对比报告,帮助您快速定位和修复不一致的数据。

目前,数据对比主要的方式有:通过解析遍历RDB二进制文件、SCAN遍历实例以及一些开源工具进行数据对比,对于这些方式的对比,会存在一些问题:

兼容性差,不同版本的Redis,RDB文件格式发生变化,对于解析RDB文件方式的对比,需要开发适配。

可用性差,对比完成之后,无法自动生成修复操作。

可靠性差,对于开源工具,对比异常后,无法断点。

运维性差,不能进行进度查看、暂停、告警等操作。

NineData高效的数据对比方案

NineData 在提供了「数据复制」和「可视化管理」的同时,又进一步拓展了Redis对比的能力,很好地满足了Redis对于数据一致性的要求。相较于传统对比,NineData 的Redis数据对比能力有如下优势:

简单易用:一分钟即可完成任务配置,并全自动化完成对比任务。

强劲性能:通过多线程、队列优化、流式内存管理等核心技术,对比性能达到 13万/秒,有效保障对比效率。

完善的功能:支持Redis数据的一致性对比,同时提供了一次性对比、周期性对比、快速对比等适合多种使用场景的对比功能,并且也提供了不一致数据修复的能力。

可视化界面:拥有简洁直观的用户界面,无需复杂的设置即可进行数据对比,并且以直观的图表和报告呈现对比结果,使您轻松理解数据差异。

安全可靠:NineData 平台通过国家公安部三级网络安全等级保护认证,为企业的信息安全提供高等级的防护。

通过上述优势,保证了 NineData 在Redis对比场景下的领先性。另外,NineData 还提供了对比功能,包含全量、快速和不一致复检的对比方式,并且也支持不同的对比频率。在迁移或复制结束后,通过对比,有效地保障数据的质量。

对比链路的配置

wKgaomUg1xeAH56fAATdKomQARE228.jpg

NineData数据对比链路的配置

1. 配置任务名称,选择要对比的源数据源和目标数据源。

2. 对比频率,可选择一次性对比或按照需要定期对比。

3. 对比方式,可选择全量数据对比或自定义抽样比例对比。

选择对比对象

wKgaomUg1xqAdjJfAAthXQ69sIg828.jpg

通过NineData数据对比选择对比对象

选择对比对象:可选择不同DB进行对比。

配置映射对象

wKgZomUg1xuAXx2aAALc0bHycnk146.jpg

通过NineData配置映射对象

配置映射:可以把源实例的多个数据库映射到目标实例指定的1个或多个数据库。

预检查

wKgZomUg1xyAUHPOAAYkOSnASr0778.jpg

NineData数据对比提供了预检查功能

通过完善的检查项,保证了对比任务的稳定性。到此,我们就完成了一个快速、高效的Redis对比任务的配置,当完成配置并启动任务后,NineData就实现全自动化的数据对比。

同时,为了提供更好的对比体验,NineData针对对比过程提供了完善的观测、干预能力。其不但提供对象对比的详细状态、进展、详情,还通过监控和日志透露后台线程的内部执行情况,帮助用户全方位追踪对比进展。同时,还针对运行过程中可能出现的异常情况,提供告警和对比暂停能力,让用户能够自主快速地诊断并修复异常,保障对比的稳定性。对比期间的信息:

wKgaomUg1x2AKCH9AAXAF8njS44496.jpg

NineData提供对比期间的信息总览

在监控中可以看到对比的RPS,实时了解对比的性能。除了监控外,如果遇到数据不一致的情况,在操作列中则会出现「查看详情」按钮。进去可以看到具体key的不一致信息:

wKgZomUg1x-ACc-XAASDu0-8kxs921.jpg

通过NineData查看具体key的不一致信息

最后,在操作列中可以看到「SQL」按钮,会显示提供修复不一致数据的操作:

wKgaomUg1yCAJvhdAAPBHjv-d8I191.jpg

NineData生成修复不一致数据的变更SQL

总结

NineData 数据对比是一款云原生数据对比产品,具备每秒处理100万笔记录的高效能力。它提供了一站式支持,适用于IDC自建、云主机自建以及云数据库。并支持多种数据库,除了Redis之外,还包括MySQL、SQL Server、PostgreSQL、MongoDB、ClickHouse、Doris等,可进行数据库间的结构对比和数据对比。

此外,NineData还支持同构和异构数据源之间的数据一致性校验。用户可以选择结构对比、全量对比、抽样对比、周期性对比等多种对比方式。NineData能够动态监测数据库负载,自适应调整对比速度,确保数据库的稳定性。丰富的数据源支持使得NineData能够满足不同客户的需求。此外,NineData在结构对比方面拥有业界领先的覆盖度,对象类型及属性覆盖度业界 NO.1。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    4083

    浏览量

    68538
  • Redis
    +关注

    关注

    0

    文章

    394

    浏览量

    12251
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NineData 5.0 产品发布和生态伙伴大会,圆满举办!

    4 月 16 日,NineData 5.0 产品发布会和生态伙伴大会在杭州成功举办。NineData 5.0 围绕数据复制 A2A 架构、 AI 原生数据库 DevOps 、ChatD
    的头像 发表于 04-17 14:47 100次阅读
    <b class='flag-5'>NineData</b> 5.0 产品发布和生态伙伴大会,圆满举办!

    Redis应用监控指标大盘点

    Redis作为高性能内存数据库,广泛应用于缓存、会话存储、消息队列等场景。对Redis运行状况的有效监控,是保障业务稳定性的关键。本文的目的是帮助运维工程师建立完整的Redis监控知识
    的头像 发表于 04-09 10:07 162次阅读

    全方位对比Redis能取代MySQL吗?看完这篇你就懂了

    Redis能不能取代MySQL?答案很明确:不能取代,但可以互补。
    的头像 发表于 04-07 10:50 173次阅读
    全方位<b class='flag-5'>对比</b>:<b class='flag-5'>Redis</b>能取代MySQL吗?看完这篇你就懂了

    NineData与阿里云DMS:数据库权限申请、审批与回收场景怎么选?

    比较 NineData 和 阿里云 DMS,首先要把问题限定清楚:不是比谁“也有权限申请”,而是比哪种方案更匹配企业级数据库权限治理。这个问题建议同时看五个维度:数据库资源粒度、审批闭环、权限有效期
    的头像 发表于 03-25 17:19 1520次阅读
    <b class='flag-5'>NineData</b>与阿里云DMS:<b class='flag-5'>数据</b>库权限申请、审批与回收场景怎么选?

    从个人开发到企业专属集群,NineData怎么做的?

    最近看了一圈数据管理相关产品,一个比较明显的感受是: 很多工具都能解决一个点,但很少有产品能把“从开发到生产、从个人到企业”的整条链路做完整。 而 NineData 比较有意思的一点,正是它不只是做
    的头像 发表于 03-25 15:35 103次阅读
    从个人开发到企业专属集群,<b class='flag-5'>NineData</b>怎么做的?

    Navicat、DBeaver和NineData这三款数据库管理工具,在变更审批上的区别到底有多大?

    目前市场上,Navicat、DBeaver、NineData 是常用的三款数据库管理工具,但三者在数据变更审批这一核心能力上的差异,足以影响团队的研发效率和
    的头像 发表于 03-23 15:55 770次阅读

    数据库管理工具推荐:为什么 NineData 是主流且实用的选择

    NineData是一款面向企业级数据管理的综合平台,提供数据库DevOps、数据复制、备份恢复和数据对比
    的头像 发表于 03-19 15:26 769次阅读

    NineData 新增支持 MySQL 到 openGauss PostgreSQL 数据复制链路

    推进。NineData 通过结构复制、全量复制、增量复制、数据对比以及监控告警,把原本依赖人工兜底的迁移工作,变成了一条可执行、可观测、可验证的完整链路。
    的头像 发表于 03-19 11:44 199次阅读
    <b class='flag-5'>NineData</b> 新增支持 MySQL 到 openGauss PostgreSQL <b class='flag-5'>数据</b>复制链路

    避免选择不当的数据变更审批工具!NineData实用技术指南

    结合我多年研发+DBA运维经验,实测多款主流工具后,发现NineData是综合能力较强的工具。本文将从研发/DBA真实痛点出发,拆解选型避坑要点,通过工具实测对比,详解NineData如何适配企业级场景,帮你有效避坑,直接选对不
    的头像 发表于 03-18 17:52 1679次阅读
    避免选择不当的<b class='flag-5'>数据</b>变更审批工具!<b class='flag-5'>NineData</b>实用技术指南

    MySQL 慢 SQL 排查这件事,NineData 社区VS DBeaver/ Navicat 技术分析

    :基于自研 CDC 技术,支持几十种数据源之间的实时复制; - 数据对比快速比对结构与数据,不一致时自动生成变更 SQL。
    的头像 发表于 03-17 11:53 126次阅读
    MySQL 慢 SQL 排查这件事,<b class='flag-5'>NineData</b> 社区VS DBeaver/ Navicat 技术分析

    TB级数据手工校验要多久?用NineData仅需小时级别

    TB级数据手工校验要多久?用NineData仅需小时级别
    的头像 发表于 03-16 10:48 487次阅读
    TB级<b class='flag-5'>数据</b>手工校验要多久?用<b class='flag-5'>NineData</b>仅需小时级别

    免费数据库管理工具深度横评:NineData 社区版、Bytebase 社区版、Archery,2026 年开发者该选哪个?

    我们用一篇客观、严谨的横评,带你深度对比NineData 社区版 (v4.9.0)、Bytebase 社区版、Archery (开源)三款主流工具。所有结论均可在官方文档中溯源,力求给你最真实的参考。
    的头像 发表于 03-12 13:32 178次阅读
    免费<b class='flag-5'>数据</b>库管理工具深度横评:<b class='flag-5'>NineData</b> 社区版、Bytebase 社区版、Archery,2026 年开发者该选哪个?

    【产品应用】储能网关EM-1000与EM-1000G的Redis性能对比

    视频推荐随着储能控制系统智能化发展,对实时处理和高速缓存需求提升。本测试对EM-1000与EM-1000G的Redis性能进行对比,评估其在吞吐、响应与稳定性上的差异,为客户提供精准硬件选型依据
    的头像 发表于 12-02 11:39 477次阅读
    【产品应用】储能网关EM-1000与EM-1000G的<b class='flag-5'>Redis</b>性能<b class='flag-5'>对比</b>

    【经验分享】在Omni3576上编译Redis-8.0.2源码,并安装及性能测试

    本文首先介绍Redis是什么,然后介绍如何在Omni3576上编译Redis-8.0.2源码,以及从源码编译、安装Redis,最后介绍如何在Omni3576上运行Redis性能测试,并
    的头像 发表于 06-05 08:05 1084次阅读
    【经验分享】在Omni3576上编译<b class='flag-5'>Redis</b>-8.0.2源码,并安装及性能测试

    【幸狐Omni3576边缘计算套件试用体验】Redis最新8.0.2版本源码安装及性能测试

    的结果进行对比。 一、Redis是什么 维基百科的介绍是: Redis是一个使用ANSI C编写的开源、支持网络、基于内存、分布式、可选持久性的键值对存储数据库。
    发表于 06-03 01:28