0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ShardingSphere的框架及应用解决方案

牵手一起梦 来源:IT168网站 作者:李雪薇 2020-09-10 15:29 次阅读

一、NewSQL的概念

NewSQL的概念,最开始来源于国外的一份商业分析报告。它是各种新的可扩展/高性能数据库的简称,这类数据库不仅具有NoSQL海量数据的存储管理能力,还保持了传统数据库支持ACID和SQL等特性。

提及SQL,很多朋友最先想到的就是MySQL数据库和PostgreSQL数据库。对我们来说,它其实一个单点、很可靠,有ACID事务,也有查询语言的关系型数据库。其中,ACID事务和查询语言是我们最关心的两点。

伴随互联网的蓬勃发展,数据量的持续膨胀,NoSQL出现了。NoSQL泛指非关系型数据库,具备Scalability(扩展性)和Resilience(弹性)。扩展性是指可以无限的把一个单点变成一个集群,从而提升整个系统的可用性。弹性保证了在宕机集群崩溃后,数据的自动修复且上层业务无感知。

那么就有人提出来了,我能不能既可以拥有像SQL的关系模型,拥有它的ACID事务,同时还拥有像NoSQL的扩展性、弹性伸缩,以及高可用性。于是,NewSQL应运而生,它最开始的定义就叫做Scalability SQL。

在分布式的场景中,没有办法同时保证Consistency(一致性)和Availability(可用性),以及分区的容错性。CAP原则就是,你只能保证整个系统更关注于强一致性,或者高可用性。

ShardingSphere的框架及应用解决方案

综上所述,NewSQL是为了综合SQL和NoSQL的特性。它的存在并不是完全颠覆了CAP理论,而是需要基于这套理论,根据我们自身的实际情况,选择一个Consistency和Availability之间的平衡点。

对于用户来说,NewSQL其实就是A single logical DB,即单个逻辑数据库。从开发的角度,NewSQL具有New Architecture(新架构)、Transparent Sharding(透明化分片中间件)、Database as a Service(云数据库)三种形态。

二、Apache ShardingSphere的架构

Apache ShardingSphere是一套开源的分布式数据库中间件解决方案组成的生态圈,它由JDBC、Proxy和Sidecar(规划中)这3款相互独立,却又能够混合部署配合使用的产品组成。它们均提供标准化的数据分片、分布式事务和数据库治理功能,可适用于Java同构、异构语言、云原生等各种多样化的应用场景。

Apache ShardingSphere定位为关系型数据库中间件,旨在充分合理地在分布式的场景下利用关系型数据库的计算和存储能力,而并非实现一个全新的关系型数据库。Apache ShardingSphere目前已提供数十个SPI作为系统的扩展点,仍在不断增加中。

如上图所示,这是Apache ShardingSphere最新的部署框架。Apache ShardingSphere最开始定位于NewSQL的中间件,后面它的盘子越来越大,逐渐超越了中间件的范畴,但又未达到新架构的范畴,处在一个中间的状态。

首先,中间件的数据库集群,可能有自己的主库或者从库,包括同步、复制、备份等都是靠MySQL或者PG数据库来实现的。

其次,用户真正能够接触三个产品,第一个产品叫ShardingSphere-JDBC,它定位为轻量级Java框架,在Java的JDBC层提供的额外服务。它具备解析SQL、分片管理、分布式事务,脱敏等功能。

第二个产品叫ShardingSphere-Proxy,定位为透明化的数据库代理端,提供封装了数据库二进制协议的服务端版本,用于完成对异构语言的支持。适用于任何兼容MySQL/PostgreSQL协议的的客户端,可以管理数据库集群。

三、功能介绍

仔细观察ShardingSphere的框架,我们不难发现中间件左侧的Sharding-Scaling,它是一个提供给用户的通用的ShardingSphere数据接入迁移,及弹性伸缩的调度平台。

JDBC的核心功能就是Orchestration,即编排治理,配置集中化与动态化、数据治理。ShardingSphere提供了界面治理模块——Sharding-UI,可以快速维护Sharding-Proxy集群,方便用户一键式的操作。

如上图所示,从研发的角度来看Apache ShardingSphere的框架,最上面的接入端有JDBC和Proxy,中间层的核心功能是数据分片、分布式事务、数据库治理,最下层是数据库集群。

其实,Sharding是Apache ShardingSphere的立足之本。除了分库分表,它还还支持Encrypt(脱敏)和Shadow(影子库),所有压测的数据都会分配的影子库中。Sharding最核心的还是底层四个模块来做支撑。

我们必须要解析SQL,才能理解用户需要什么。Parser(解析器)已经重构过很多遍,为了实现自主可控,保证高效性和正确性。除此之外,Router代表着路由,Rewriter改写一些SQL,Executor做并行的控制,提高整体效率。

分布式事务主要有两个方面,ACID强一致性事务和BASE柔性事务。值得一提的是,ShardingSphere分为自研的分布式数据库(DTX)、对接其他公司的解决方案两部分。对于用户来说,他无需过多了解ShardingSphere,就可以拥有多种分布式事务的选型,这其实是一种非常有意思的方式。

ShardingSphere不只是一个分布式数据库的原因在于,它的Orchestration模块提供了很多功能,比如在线变更、分片规则的在线推送,以及限流和熔断等。用户在了解分片的基础上,可以慢慢去探索这个开放生态,找到自己想要的功能。

潘娟强调道,分库分表、强一致事务、柔性事务、分布式治理、可视化链路追踪、读写分离等所有的功能都是可以组合在一起的。完全的自由组合,从而形成一个只满足公司所需要的产品。

当存储系统或者性能不够的时候,数据库就要通过Scaling(迁移平台)进行Scale out(扩展)。目标不是放在提高单机性能上,而是要做成分布式,多个机器来解决。

四、社区

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 互联网
    +关注

    关注

    54

    文章

    10892

    浏览量

    100682
  • 数据库
    +关注

    关注

    7

    文章

    3583

    浏览量

    63341
收藏 人收藏

    评论

    相关推荐

    中软国际数据治理专业服务解决方案获得华为云联合基线解决方案认证

    近日,中软国际联合华为云生态及技术团队共同设计的数据治理专业服务解决方案成功通过华为云基线解决方案专家团队评审,中软国际数据治理专业服务解决方案正式成为华为云联合基线解决方案。 打造基
    的头像 发表于 12-20 20:25 556次阅读
    中软国际数据治理专业服务<b class='flag-5'>解决方案</b>获得华为云联合基线<b class='flag-5'>解决方案</b>认证

    华为被评为智慧园区解决方案领导者

    MarketScape聚焦评估厂商在解决方案领域的综合竞争力,采用 定性加定量 的方式严格评分;它提供了一个清晰的框架,对IT和CT技术
    的头像 发表于 12-19 15:50 170次阅读
    华为被评为智慧园区<b class='flag-5'>解决方案</b>领导者

    spring分布式框架有哪些

    Spring分布式框架是一套基于Spring框架解决方案,用于构建分布式系统。它提供了一系列的组件和模块,可以帮助开发人员轻松地构建可扩展、高可用、高性能的分布式应用程序。下面将详细介绍一些常用
    的头像 发表于 11-16 10:58 337次阅读

    Altera内存解决方案

    以下主题概述了Altera的外部内存接口解决方案。 Altera提供最快、最高效、延迟最低的内存接口IP核。Altera的外部存储器接口IP设计用于方便地与当今更高速的存储器设备接口。 Altera
    发表于 09-26 07:38

    用于蜂窝连接的ST4SIM安全解决方案

    意法半导体的ST4SIM SIM和eSIM产品组基于基本型、加密型和GSMA SGP.02配置。我们的解决方案允许设备随时随地联网,同时确保资产安全。得益于合作伙伴提供的连接解决方案,全球覆盖和互
    发表于 09-08 06:14

    智能家居和楼宇解决方案和系统

    自动化市场及趋势 ST家居及楼宇自动化解决方案 KNX在家居楼宇市场的解决方案 ST家居楼宇自动化亮点组合
    发表于 09-07 06:26

    基于PyTorch AMD的解决方案

    2.0经验的力量PyTorch AMD的解决方案
    的头像 发表于 09-04 16:11 503次阅读

    ARM物联网整体解决方案-数据表

    ARM物联网整体解决方案提供了一种独特的基于解决方案的方法,将最新的专业处理能力与先进的软件和工具相结合。 ARM物联网整体解决方案可随时实施或构建,从而简化您的设计流程和产品开发。
    发表于 08-29 06:06

    请问MDK授权的问题有什么解决方案吗?

    请问MDK授权的问题有什么解决方案吗?重新下载了MDK,ARM显示发送lic了,但是授权码的邮件一直收不到。
    发表于 08-21 06:56

    请问MDK授权的问题有什么解决方案吗?

    请问MDK授权的问题有什么解决方案吗?重新下载了MDK,ARM显示发送lic了,但是授权码的邮件一直收不到。
    发表于 06-27 08:13

    纳微集成氮化镓电源解决方案和应用

    纳微集成氮化镓电源解决方案及应用
    发表于 06-19 11:10

    IoTify如何满足OEM物联网解决方案中对安全性和云集成的需求

    IoTify 是一个物联网云和移动应用程序框架,用于开发高度安全、可扩展且功能丰富的物联网解决方案。此外,在 AWS IoT 云平台上使用 IoTify 开发 IoT 解决方案变得容易,因为该平台
    发表于 06-12 09:15 147次阅读

    自动驾驶中camera方案(一)camera链路框架

    概述:本文重点讨论自动驾驶中camera主流方案,主控soc上mipi_csi2搭配max96712的camera完整链路软件框架和实现方案,主要讨论了GMSL1和GMSL2两种方案
    发表于 06-06 10:01 1次下载
    自动驾驶中camera<b class='flag-5'>方案</b>(一)camera链路<b class='flag-5'>框架</b>

    POL全光医院解决方案 光纤到病房解决方案 光纤到诊室解决方案(最新版)

    电子发烧友网站提供《POL全光医院解决方案 光纤到病房解决方案 光纤到诊室解决方案(最新版).pdf》资料免费下载
    发表于 05-05 22:14 1次下载

    POL全光校园解决方案 光纤到教室解决方案 光纤到宿舍解决方案(最新版)

    电子发烧友网站提供《POL全光校园解决方案 光纤到教室解决方案 光纤到宿舍解决方案(最新版).pdf》资料免费下载
    发表于 05-05 21:55 2次下载