0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Redis Enterprise自动分层技术:大数据集高性能解决方案

广州虹科电子 来源:广州虹科电子 作者:广州虹科电子 2023-10-19 10:49 次阅读

文章来源:虹科云科技

越来越多的应用程序依赖于庞大的数据集合,而这些应用程序必须快速响应。借助自动分层,Redis Enterprise 7.2 帮助开发人员轻松创建超快的应用程序。何乐而不为?

Redis将数据存储在内存中,因此应用程序能以最快的速度检索和处理数据。然而,随着应用程序需要处理的数据越多,存储数据集所需的内存越大,所耗费的成本则更高,Redis Enterprise自动分层技术能很好地化解这个两难的局面。

一、问题:内存有限且昂贵

当应用程序访问的数据量很大,例如达到TB级时,开发人员就面临着内存有限的问题,他们一般使用基于磁盘的解决方案来在幕后支持 Redis。这样一来,开发人员就不得不在应用程序中构建整个数据管理系统,这意味着他们要把时间花在不相干的任务上。

利用Redis Enterprise 的自动分层功能 ,开发人员可以使用固态硬盘(SSD)作为可用内存的一部分,将大容量数据库扩展到SSD中。Redis Enterprise 可以随时识别哪些数据应留在内存中,哪些数据应留在固态硬盘上,从而将吞吐量提高一倍,并将延迟减半。

因此,开发人员无需编写额外的代码或学习其他新技术。通过将动态RAM 与高速外部存储相结合,Redis Enterprise 可以轻松高效地使用系统资源,同时还能快速访问热数据。

二、自动分层的工作原理

自动分层可自动管理数据。它会将热数据转移到DRAM,并智能地将未使用的数据转移到 SSD。这为依赖大型数据集的应用带来了新的可能性。
image.png
通过将访问频率较低的冷数据转移到固态硬盘,开发人员可以优化内存使用,降低与大容量内存需求相关的成本。

实际上,这可以使数据量大的应用程序运行得更快,而无需开发人员额外付出。与仅使用DRAM 的部署相比,它还能节省高达 70% 的基础硬件设施成本。而且,由于自动分层可以高效地自动管理数据访问模式,因此您无需花费时间(计算或人工筛选)来识别热数据和冷数据。
image.png
为了增强这一功能,Redis 与创新的键值存储引擎 Speedb 建立了战略合作伙伴关系。我们将其技术整合为默认的自动分层引擎。

集成Speedb 后,Redis Enterprise 的性能显著提升,在访问相同资源的情况下,吞吐量翻倍,延迟减半。这大大拓宽了可利用自动分层优势的用例范围。在这一改进之后,Redis Enterprise 使用自动分层的数据库规模由每个内核 5k ops/秒增至10k ops/秒。
image.png
三、数据案例

我们来看一个案例。

下图展示了自动分层在实际工作负载场景中的性能演变示例。蓝色条代表使用以前的存储引擎(RocksDB)的 Redis Enterprise 6.4,红色条代表使用 Speedb 的 Redis Enterprise 7.2。在基础设施方面,我们使用 I4i.8xlarge AWS 实例在 10 个分片上托管 1TB 数据库,为实现高可用性,采用总共 20 个分片,为 1,024 个客户端提供服务。

为了模拟最标准的Redis 用例,我们在 20% DRAM 和 80% SSD 的配置上定义了两种不同的有效载荷(1KiB 和 10KiB),并提供了三种可能的使用模式:平衡读/写(1:1)、重读(1:4)和重写(4:1)。在这两种情况下,我们测量了以每秒操作数为单位的吞吐量和相应的延迟。以下图表显示了结果。
image.png
RAM/SSD数据占比2:8,单次操作1KB值

RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改进了:

· 85% 命中率时:每秒操作次数增加 1.4 倍至 1.6 倍,同时延迟降低高达 2.4 倍

· 50% 命中率时:每秒操作次数增加 1.9 倍至 2.3 倍,同时延迟降低高达 3.8 倍
image.png
RAM/SSD数据占比2:8,单次操作10KB值

与RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改进了:

· 85% 命中率时:每秒操作次数增加 2.3 倍至 3.0 倍,同时延迟降低高达 3.0 倍

· 50% 命中率时:每秒操作次数增加 2.1 倍至 3.5 倍,同时延迟降低高达 3.5 倍

在所有情况下,带有Speedb 的 Redis Enterprise 7.2 都具有更好的吞吐量,这意味着维持这种性能水平所需的应用程序速度更快,基础设施更少。

四、应用场景

自动分层尤其适用于将数据分为热数据和冷数据的情况。

1.移动银行

让我们来看看移动银行应用的例子。

如今,每个人的移动设备上都有银行应用程序。 用户登录应用程序,获取余额,查看最后一笔交易,并获取其他相对较小和集中的信息 每个人都希望这一过程流畅、简单、即时。这些数据就是我们的热数据,存放在Redis Enterprise 数据库的 DRAM 中。

用户希望获得更多信息的情况并不常见,例如旧交易记录--也许是两年前的税务数据。用户需要访问这些数据,但数据访问速度并不那么重要。这种数据集是我们的冷数据,可以保存在高速外部存储如固态硬盘中。

2.游戏行业

速度在游戏行业也很重要。例如, 游戏应用对延迟有严格要求 。另外,从本质上讲,游戏是一种潮流。随着时间的推移,游戏公司会积累越来越多的用户数据,并将其存储在用户资料数据库中,但并非所有用户都是活跃用户。通过自动分层,活跃用户的资料数据可以存储在DRAM 中,而其他用户的数据则存储在 SSD 中。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • SSD
    SSD
    +关注

    关注

    20

    文章

    2689

    浏览量

    115493
  • 数据存储
    +关注

    关注

    5

    文章

    895

    浏览量

    50584
  • 大数据
    +关注

    关注

    64

    文章

    8649

    浏览量

    136587
  • Redis
    +关注

    关注

    0

    文章

    362

    浏览量

    10492
收藏 人收藏

    评论

    相关推荐

    开放式高实时高性能PLC控制器解决方案-基于米尔电子STM32MP135

    实时高性能需求尤其突出。面对以上挑战,合作伙伴翌控科技基于米尔STM32MP135开发板发布开放式高实时高性能PLC控制器解决方案,将高精准数据采集、预处理、存储、通信与高实时控制融为
    发表于 03-07 20:06

    欣旺达动力5大储能解决方案英国“亮相”

    在第9届英国储能峰会上,欣旺达动力展示了核心储能电芯技术成果和5大储能解决方案
    的头像 发表于 02-25 09:34 383次阅读

    康谋自动驾驶车载高性能解决方案

    在测试车辆中部署新功能需要强大的计算性能,康谋DATALynx ATX4搭载最新服务器CPU,采用高性能液冷架构,通过小型散热片实现最佳散热和最小化PCB振动暴露。
    发表于 01-16 18:15 166次阅读
    康谋<b class='flag-5'>自动</b>驾驶车载<b class='flag-5'>高性能解决方案</b>

    【昉·星光 2 高性能RISC-V单板计算机体验】Redis源码编译和性能测试以及与树莓派4B对比

    redis-server Redis服务程序,用于提供服务; redis-benchmark Redis基准测试程序,用于进行性能测试;
    发表于 12-10 21:27

    redis是关系型数据库吗

    Server)是一个开源的高性能键值对存储系统。它使用C语言编写,具有内存中数据存储和持久化到硬盘的功能。Redis支持多种数据结构,如字符串、哈希表、列表、集合和有序集合等,这使得
    的头像 发表于 12-05 10:32 602次阅读

    redis数据自动清除吗

    Redis数据不会自动清除,但它提供了一些机制来管理数据的过期和淘汰。在默认情况下,Redis只会在内存中存储
    的头像 发表于 12-05 10:13 976次阅读

    redis分布式锁可能出现的问题及解决方案

    Redis分布式锁是一种常见的解决分布式系统中并发问题的方案。虽然Redis分布式锁具有许多优点,但也存在一些潜在的问题需要注意。本文将详细介绍Redis分布式锁可能出现的问题,并提供
    的头像 发表于 12-04 11:29 422次阅读

    Redis Enterprise vs ElastiCache——如何选择缓存解决方案

    使用Redis或AmazonElastiCache来作为缓存加速已经是业界主流的解决方案,二者各有什么优势?又有哪些区别呢?文况速览:Redis是什么?RedisEnterprise
    的头像 发表于 11-26 08:06 183次阅读
    <b class='flag-5'>Redis</b> <b class='flag-5'>Enterprise</b> vs ElastiCache——如何选择缓存<b class='flag-5'>解决方案</b>?

    Oracle与Redis Enterprise协同,作为企业缓存解决方案

    单独使用Oracle作为企业缓存数据库时,会出现哪些问题呢?使用Redis Enterprise与Oracle共同用作企业级缓存或副本数据库,会出现哪些喜人的提升呢?Orcle配合使用
    的头像 发表于 11-22 10:00 289次阅读
    Oracle与<b class='flag-5'>Redis</b> <b class='flag-5'>Enterprise</b>协同,作为企业缓存<b class='flag-5'>解决方案</b>

    虹科干货 | Redis Enterprise 自动分层技术大数据高性能解决方案

    Redis数据存储在内存中,因此应用程序能以最快的速度检索和处理数据。然而,随着应用程序需要处理的数据越多,存储数据集所需的内存越大,
    的头像 发表于 10-19 11:19 233次阅读
    虹科干货 | <b class='flag-5'>Redis</b> <b class='flag-5'>Enterprise</b> <b class='flag-5'>自动</b><b class='flag-5'>分层</b><b class='flag-5'>技术</b>:<b class='flag-5'>大数据</b>集<b class='flag-5'>高性能解决方案</b>

    电机控制应用中的人工智能解决方案

    在STM32上简单轻松地实现机器学习• 直接在STM32内部运行的智能解决方案• 无需云连接• 对于异常检测无需训练数据• 无监督的自主学习• 解决异常检测和分类问题
    发表于 09-08 06:18

    CLOUD4Y加速云存储LSI的高性能解决方案

    电子发烧友网站提供《CLOUD4Y加速云存储LSI的高性能解决方案.pdf》资料免费下载
    发表于 08-23 10:35 0次下载
    CLOUD4Y加速云存储LSI的<b class='flag-5'>高性能解决方案</b>

    如何从0到1构建一个稳定、高性能Redis集群?

    这个架构非常简单,你的业务应用可以把 Redis 当做缓存来使用,从 MySQL 中查询数据,然后写入到 Redis 中,之后业务应用再从 Redis 中读取这些
    的头像 发表于 07-19 15:19 408次阅读
    如何从0到1构建一个稳定、<b class='flag-5'>高性能</b>的<b class='flag-5'>Redis</b>集群?

    Redis数据同步解决方案—NineData

    NineData(https://www.ninedata.cloud/)在Redis的同步上,提供了稳定和高效的解决方案,并且性能上也领先其他同步工具,特别是在同步的动态限流、数据
    的头像 发表于 06-05 15:31 545次阅读
    <b class='flag-5'>Redis</b><b class='flag-5'>数据</b>同步<b class='flag-5'>解决方案</b>—NineData

    罗姆携高性能解决方案亮相2023 PCIM欧洲展会

    用于电动汽车领域及更多领域的高性能解决方案(展位号:Booth 310, Hall 9)。 半导体和电子元件是罗姆的核心产品,其重要性正在增加,特别是在实现脱碳社会方面,这是为后代保障未来的紧迫问题。在此次PCIM欧洲展会上,围绕着节能、小型化、功能安全、
    的头像 发表于 05-09 14:25 409次阅读