0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ShardingSphere的框架及应用解决方案

牵手一起梦 来源:IT168网站 作者:李雪薇 2020-09-10 15:29 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

一、NewSQL的概念

NewSQL的概念,最开始来源于国外的一份商业分析报告。它是各种新的可扩展/高性能数据库的简称,这类数据库不仅具有NoSQL海量数据的存储管理能力,还保持了传统数据库支持ACID和SQL等特性。

提及SQL,很多朋友最先想到的就是MySQL数据库和PostgreSQL数据库。对我们来说,它其实一个单点、很可靠,有ACID事务,也有查询语言的关系型数据库。其中,ACID事务和查询语言是我们最关心的两点。

伴随互联网的蓬勃发展,数据量的持续膨胀,NoSQL出现了。NoSQL泛指非关系型数据库,具备Scalability(扩展性)和Resilience(弹性)。扩展性是指可以无限的把一个单点变成一个集群,从而提升整个系统的可用性。弹性保证了在宕机集群崩溃后,数据的自动修复且上层业务无感知。

那么就有人提出来了,我能不能既可以拥有像SQL的关系模型,拥有它的ACID事务,同时还拥有像NoSQL的扩展性、弹性伸缩,以及高可用性。于是,NewSQL应运而生,它最开始的定义就叫做Scalability SQL。

在分布式的场景中,没有办法同时保证Consistency(一致性)和Availability(可用性),以及分区的容错性。CAP原则就是,你只能保证整个系统更关注于强一致性,或者高可用性。

ShardingSphere的框架及应用解决方案

综上所述,NewSQL是为了综合SQL和NoSQL的特性。它的存在并不是完全颠覆了CAP理论,而是需要基于这套理论,根据我们自身的实际情况,选择一个Consistency和Availability之间的平衡点。

对于用户来说,NewSQL其实就是A single logical DB,即单个逻辑数据库。从开发的角度,NewSQL具有New Architecture(新架构)、Transparent Sharding(透明化分片中间件)、Database as a Service(云数据库)三种形态。

二、Apache ShardingSphere的架构

Apache ShardingSphere是一套开源的分布式数据库中间件解决方案组成的生态圈,它由JDBC、Proxy和Sidecar(规划中)这3款相互独立,却又能够混合部署配合使用的产品组成。它们均提供标准化的数据分片、分布式事务和数据库治理功能,可适用于Java同构、异构语言、云原生等各种多样化的应用场景。

Apache ShardingSphere定位为关系型数据库中间件,旨在充分合理地在分布式的场景下利用关系型数据库的计算和存储能力,而并非实现一个全新的关系型数据库。Apache ShardingSphere目前已提供数十个SPI作为系统的扩展点,仍在不断增加中。

如上图所示,这是Apache ShardingSphere最新的部署框架。Apache ShardingSphere最开始定位于NewSQL的中间件,后面它的盘子越来越大,逐渐超越了中间件的范畴,但又未达到新架构的范畴,处在一个中间的状态。

首先,中间件的数据库集群,可能有自己的主库或者从库,包括同步、复制、备份等都是靠MySQL或者PG数据库来实现的。

其次,用户真正能够接触三个产品,第一个产品叫ShardingSphere-JDBC,它定位为轻量级Java框架,在Java的JDBC层提供的额外服务。它具备解析SQL、分片管理、分布式事务,脱敏等功能。

第二个产品叫ShardingSphere-Proxy,定位为透明化的数据库代理端,提供封装了数据库二进制协议的服务端版本,用于完成对异构语言的支持。适用于任何兼容MySQL/PostgreSQL协议的的客户端,可以管理数据库集群。

三、功能介绍

仔细观察ShardingSphere的框架,我们不难发现中间件左侧的Sharding-Scaling,它是一个提供给用户的通用的ShardingSphere数据接入迁移,及弹性伸缩的调度平台。

JDBC的核心功能就是Orchestration,即编排治理,配置集中化与动态化、数据治理。ShardingSphere提供了界面治理模块——Sharding-UI,可以快速维护Sharding-Proxy集群,方便用户一键式的操作。

如上图所示,从研发的角度来看Apache ShardingSphere的框架,最上面的接入端有JDBC和Proxy,中间层的核心功能是数据分片、分布式事务、数据库治理,最下层是数据库集群。

其实,Sharding是Apache ShardingSphere的立足之本。除了分库分表,它还还支持Encrypt(脱敏)和Shadow(影子库),所有压测的数据都会分配的影子库中。Sharding最核心的还是底层四个模块来做支撑。

我们必须要解析SQL,才能理解用户需要什么。Parser(解析器)已经重构过很多遍,为了实现自主可控,保证高效性和正确性。除此之外,Router代表着路由,Rewriter改写一些SQL,Executor做并行的控制,提高整体效率。

分布式事务主要有两个方面,ACID强一致性事务和BASE柔性事务。值得一提的是,ShardingSphere分为自研的分布式数据库(DTX)、对接其他公司的解决方案两部分。对于用户来说,他无需过多了解ShardingSphere,就可以拥有多种分布式事务的选型,这其实是一种非常有意思的方式。

ShardingSphere不只是一个分布式数据库的原因在于,它的Orchestration模块提供了很多功能,比如在线变更、分片规则的在线推送,以及限流和熔断等。用户在了解分片的基础上,可以慢慢去探索这个开放生态,找到自己想要的功能。

潘娟强调道,分库分表、强一致事务、柔性事务、分布式治理、可视化链路追踪、读写分离等所有的功能都是可以组合在一起的。完全的自由组合,从而形成一个只满足公司所需要的产品。

当存储系统或者性能不够的时候,数据库就要通过Scaling(迁移平台)进行Scale out(扩展)。目标不是放在提高单机性能上,而是要做成分布式,多个机器来解决。

四、社区

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 互联网
    +关注

    关注

    55

    文章

    11321

    浏览量

    108825
  • 数据库
    +关注

    关注

    7

    文章

    3993

    浏览量

    67713
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    DALI数字照明控制的解决方案

    NDA102 DALI数字照明控制解决方案基于数字照明接口联盟(DiiA)开发的数字可寻址照明接口(DALI)技术。该解决方案包括新唐构建的IEC 62386库。新唐是DiiA准会员,拥有DALI
    发表于 09-08 06:29

    无人超市解决方案 智慧新零售解决方案

    通过阅读本篇文章,你将了解到:1.为什么需要无人超市解决方案?2.无人超市是什么?3.无人超市的常见应用场景4.无人超市解决方案的功能有哪些?5.无人超市的最佳实践案例一、为什么需要无人超市解决方案
    的头像 发表于 08-22 10:22 735次阅读
    无人超市<b class='flag-5'>解决方案</b> 智慧新零售<b class='flag-5'>解决方案</b>

    叉车限速解决方案

    叉车的动力系统,响应迅速,限速效果稳定可靠,且对叉车原有结构改动较小,适配性较强。 三、声光预警 声光预警功能是限速解决方案中的重要辅助部分。当叉车即将达到限速值或出现超速情况时,装置会立即启动声光
    发表于 08-20 14:00

    AcrelEMS-PSP港口船舶岸电能效管理解决方案

    一、行业需求19821800313 二、系统方案—概述 AcrelEMS-PSP港口船舶岸电能效管理聚焦港口的能量和信息的流向搭建平台解决方案。 该系统解决方案集变电站综合自动化、电力监控、电能质量
    的头像 发表于 08-19 14:17 487次阅读
    AcrelEMS-PSP港口船舶岸电能效管理<b class='flag-5'>解决方案</b>

    如何在ctd解决方案中使用FRS (ccg2,3)?

    你好,我正在检查用作 c 型多功能集线器的 ctd 解决方案。 多集线器希望通过允许 CCG3 在外部POWER_DRILL2GO被切断时(当充电端子在 ccg2 处被切断时)通过 FRS 切换到灌
    发表于 05-27 07:56

    智能仓储管理解决方案NRF5832

    在当今的仓储管理领域,无线通讯技术的应用成为解决物品出入库管理难题的一种理想方案。我们的研发团队经过反复实践和应用,成功开发了一套名为\"智能仓储管理装置及系统\"的解决方案,以
    发表于 04-10 14:10

    软通动力携手华为发布多款智慧园区解决方案

    2025华为中国合作伙伴大会期间,软通动力作为华为园区优选级解决方案开发伙伴,受邀出席多场重要活动和会议,携手华为发布智慧园区基线解决方案、CSI通感一体解决方案,并出席《建筑开源鸿蒙技术框架
    的头像 发表于 03-24 15:45 998次阅读

    智慧路灯设计解决方案

    智慧路灯设计解决方案
    的头像 发表于 03-21 10:20 681次阅读
    智慧路灯设计<b class='flag-5'>解决方案</b>

    东软发布“融智”解决方案智能化实施框架

    随着生成式人工智能技术取得突破性进展,行业智能化转型的路径正在被重塑。为全面加速AI+行业的战略布局与实施,东软构建了“融智”解决方案智能化实施框架。该框架能够充分利用东软长期以来积累的深厚行业知识和数据标准,同时融合主流基础大
    的头像 发表于 03-18 18:15 791次阅读

    解决方案】安科瑞智慧用电产品解决方案介绍

    解决方案】安科瑞智慧用电产品解决方案介绍
    的头像 发表于 02-19 08:42 927次阅读
    【<b class='flag-5'>解决方案</b>】安科瑞智慧用电产品<b class='flag-5'>解决方案</b>介绍

    隔离电源方案电路框架

    隔离电源方案电路框架
    发表于 02-13 15:18 10次下载

    电摩电机控制器解决方案

    请问各位大佬,哪些途径可以买到解决方案?或者哪位大佬有成熟的电摩电机控制器解决方案,可以联系我,有使用需求。
    发表于 02-12 15:43

    鸿蒙原生页面高性能解决方案上线OpenHarmony社区 助力打造高性能原生应用

    。 HMrouter:简化页面跳转逻辑HMrouter是HarmonyOS NEXT出色的路由框架解决方案,专注于优化应用内原生页面跳转逻辑,它封装系统 Navigation,集成
    发表于 01-02 18:00

    SSM开发中的常见问题及解决方案

    在SSM(Spring + Spring MVC + MyBatis)框架的开发过程中,开发者可能会遇到一些常见问题。以下是对这些问题的详细分析以及相应的解决方案: 一、配置文件问题 问题描述
    的头像 发表于 12-17 09:16 1846次阅读

    SSM框架的优缺点分析 SSM在移动端开发中的应用

    :Spring框架是企业型开发使用的成熟的开源框架,能够节省成本。SSM框架使用起来更加轻快,能够更合理地分配资源,使用最小的资源完成当前的需求。 节省开发时间 :SSM框架采用典型
    的头像 发表于 12-16 18:18 2998次阅读