0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DBSyncer支持多种数据源和预警功能

jf_ro2CN3Fa 来源:芋道源码 2023-05-18 16:37 次阅读

设计

应用场景

使用教程

预览

DBSyncer是一款开源的数据同步中间件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步场景。

支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

组合驱动 ,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系

实时监控 ,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志

开发插件 ,自定义转化同步逻辑

设计

架构图

f4359d5e-f496-11ed-90ce-dac502259ad0.png

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/ruoyi-vue-pro

视频教程:https://doc.iocoder.cn/video/

应用场景

连接器 数据源 目标源 支持版本(包含以下)
MySQL 5.7.19以上
Oracle 10gR2 -11g
SqlServer 2008以上
PostgreSQL 9.5.25以上
ES 6.0以上
Kafka 开发中 2.10-0.9.0.0以上
File *.txt, *.unl
SQL 支持以上关系型数据库
后期计划 Redis

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/yudao-cloud

视频教程:https://doc.iocoder.cn/video/

使用教程

1.启动 代理 和 数据库 服务

f43b1dce-f496-11ed-90ce-dac502259ad0.png

2.准备测试账号,test

f4440ae2-f496-11ed-90ce-dac502259ad0.png

3.分配sysadmin角色

f44ac0f8-f496-11ed-90ce-dac502259ad0.png

4.分配指定数据库权限

f4504a96-f496-11ed-90ce-dac502259ad0.png

PostgreSQL

通过复制流技术监听增量事件,基于内置插件pgoutput、test_decoding实现解析wal日志

1、修改postgresql.conf文件,重启服务

wal_level=logical

2、授予账号权限LOGIN和REPLICATION

File

监听文件修改时间得到变化文件,通过文件偏移量读取最新数据

https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES

定时获取增量数据。

账号具有访问权限。

日志

建议MySQL、SqlServer、PostgreSQL都使用日志

f45773e8-f496-11ed-90ce-dac502259ad0.png

定时

假设源表数据格式

f45f4050-f496-11ed-90ce-dac502259ad0.pngf468bcfc-f496-11ed-90ce-dac502259ad0.png

预览

驱动管理

f46f32a8-f496-11ed-90ce-dac502259ad0.png

驱动详情

f476ef02-f496-11ed-90ce-dac502259ad0.png

驱动表字段关系配置

f482318c-f496-11ed-90ce-dac502259ad0.png

监控

f48c4988-f496-11ed-90ce-dac502259ad0.png

上传插件

f4927754-f496-11ed-90ce-dac502259ad0.png

开源地址

审核编辑:彭静

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    2985

    浏览量

    41718
  • 管理系统
    +关注

    关注

    1

    文章

    1933

    浏览量

    34401
  • 数据源
    +关注

    关注

    1

    文章

    59

    浏览量

    9589

原文标题:星标1.4k,一款国产开源数据同步中间件,支持多种数据源和预警功能!

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    LabView动态创建数据源的方法

    在LabView中LabSQL操作数据库是通过ODBC连接,用户需要在ODBC中指定数据源名称和驱动程序。因此在使用LabSQL之前,首先需要在Windows操作系统中的ODBC数据源中创建一个
    发表于 09-23 01:53

    本例中采用的是数据源绑定的方式

    控制面板--管理工具--数据源(ODBC)--系统DSN--添加数据库即可。
    发表于 12-27 12:03

    数据源的类型是DAQmx Event改成数字波形

    数据源的类型是DAQmx Event改成数字波形
    发表于 05-04 21:38

    数据源那个dbase驱动 电脑上怎么装

    数据源那个dbase驱动电脑上怎么装
    发表于 01-21 20:45

    ODBC数据源的建立

    我找不到数据源这个选项啊,怎么办?
    发表于 04-21 11:39

    DxDataBook 如何调用网络数据源

    DxDataBook 如何调用网络数据源: 就是在library wizard中有三种调用三种数据源的方式:WWW、oracle、ODBC三种,后面两种我知道怎么调用,但有人知道第一种(www)怎么调用吗?求大神解救!!
    发表于 07-19 10:06

    请问labview连接oracle数据库时用了udl 数据源名称过长怎么解决

    用labview连接oracle时用的udl连接,数据连接属性时可以连接成功的,但是在labview 里他说数据源名称过长。请问这个怎么解决?错误提示:NI_Database_API.lvlib
    发表于 08-18 15:26

    QuickBI助你成为分析师——搞定数据源

    摘要: QuickBI支持多种数据源连接,添加数据源数据分析展示的第一步,下面来详细介绍一下产品数据源
    发表于 03-28 12:43

    QuickBI助你成为分析师——数据源FAQ小结

    摘要: 添加数据源的时候经常会遇到各种问题,下面来讲解一下常见情况,若仍有疑问扫码咨询哦!使用 Quick BI 分析数据时,需要先指定原始数据所在的数据源,测试连通
    发表于 03-28 12:58

    聚合不同数据源的属性得分

    本节首先直观地讨论属性的打分原则,进而介绍如何处理CB和IB列表以完成对属性的打分,最后讨论如何聚合不同数据源的属性得分。
    发表于 08-07 08:22

    怎么建立一个驱动为SQL D 的数据源

    怎么建立一个驱动为SQL D 的数据源
    发表于 12-09 14:46

    SpringBoot项目多数据源配置数据

    SpringBoot项目多数据源配置
    发表于 06-05 09:51

    ViCANdo Suite直接支持数据源

    点云数据实时处理ViCANdo Suite直接支持数据源ViCANdo Suite 产品介绍
    发表于 01-05 07:28

    Quick BI 支持多种数据源进行多维分析

    Quick BI 支持多种数据源进行多维分析 一、摘要 随着互联网的高速发展,数据量爆发式增长的同时,数据的存储形式也开始呈现出多样性,有结构化存储,如 Mysql, Oracle
    发表于 12-27 16:45 286次阅读
    Quick BI <b class='flag-5'>支持</b><b class='flag-5'>多种数据源</b>进行多维分析

    数据源数据转换和同步的ETL工具推荐

    多种数据源的连接,包括文件系统、数据库、消息队列、网络接口等。它提供了可视化的界面和强大的数据处理功能,可以轻松地创建数据流,进行
    的头像 发表于 07-28 16:32 505次阅读