0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

虹科干货 | Redis Enterprise 自动分层技术:大数据集高性能解决方案

广州虹科电子 来源:虹科云科技 作者:虹科云科技 2023-10-19 11:19 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

文章来源:虹科云科技

越来越多的应用程序依赖于庞大的数据集合,而这些应用程序必须快速响应。借助自动分层,Redis Enterprise 7.2 帮助开发人员轻松创建超快的应用程序。何乐而不为?

Redis将数据存储在内存中,因此应用程序能以最快的速度检索和处理数据。然而,随着应用程序需要处理的数据越多,存储数据集所需的内存越大,所耗费的成本则更高,Redis Enterprise自动分层技术能很好地化解这个两难的局面。

一、问题:内存有限且昂贵

当应用程序访问的数据量很大,例如达到TB级时,开发人员就面临着内存有限的问题,他们一般使用基于磁盘的解决方案来在幕后支持 Redis。这样一来,开发人员就不得不在应用程序中构建整个数据管理系统,这意味着他们要把时间花在不相干的任务上。

利用Redis Enterprise 的自动分层功能 ,开发人员可以使用固态硬盘(SSD)作为可用内存的一部分,将大容量数据库扩展到SSD中。Redis Enterprise 可以随时识别哪些数据应留在内存中,哪些数据应留在固态硬盘上,从而将吞吐量提高一倍,并将延迟减半。

因此,开发人员无需编写额外的代码或学习其他新技术。通过将动态RAM 与高速外部存储相结合,Redis Enterprise 可以轻松高效地使用系统资源,同时还能快速访问热数据。

二、自动分层的工作原理
image.png

自动分层可自动管理数据。它会将热数据转移到DRAM,并智能地将未使用的数据转移到 SSD。这为依赖大型数据集的应用带来了新的可能性。

通过将访问频率较低的冷数据转移到固态硬盘,开发人员可以优化内存使用,降低与大容量内存需求相关的成本。

实际上,这可以使数据量大的应用程序运行得更快,而无需开发人员额外付出。与仅使用DRAM 的部署相比,它还能节省高达 70% 的基础硬件设施成本。而且,由于自动分层可以高效地自动管理数据访问模式,因此您无需花费时间(计算或人工筛选)来识别热数据和冷数据。

image.png

为了增强这一功能,Redis 与创新的键值存储引擎 Speedb 建立了战略合作伙伴关系。我们将其技术整合为默认的自动分层引擎。

集成Speedb 后,Redis Enterprise 的性能显著提升,在访问相同资源的情况下,吞吐量翻倍,延迟减半。这大大拓宽了可利用自动分层优势的用例范围。在这一改进之后,Redis Enterprise 使用自动分层的数据库规模由每个内核 5k ops/秒增至10k ops/秒。

image.png

三、数据案例

我们来看一个案例。

下图展示了自动分层在实际工作负载场景中的性能演变示例。蓝色条代表使用以前的存储引擎(RocksDB)的 Redis Enterprise 6.4,红色条代表使用 Speedb 的 Redis Enterprise 7.2。在基础设施方面,我们使用 I4i.8xlarge AWS 实例在 10 个分片上托管 1TB 数据库,为实现高可用性,采用总共 20 个分片,为 1,024 个客户端提供服务。

为了模拟最标准的Redis 用例,我们在 20% DRAM 和 80% SSD 的配置上定义了两种不同的有效载荷(1KiB 和 10KiB),并提供了三种可能的使用模式:平衡读/写(1:1)、重读(1:4)和重写(4:1)。在这两种情况下,我们测量了以每秒操作数为单位的吞吐量和相应的延迟。以下图表显示了结果。

image.png

RAM/SSD数据占比2:8,单次操作1KB值

RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改进了:

· 85% 命中率时:每秒操作次数增加 1.4 倍至 1.6 倍,同时延迟降低高达 2.4 倍

· 50% 命中率时:每秒操作次数增加 1.9 倍至 2.3 倍,同时延迟降低高达 3.8 倍image.png

RAM/SSD数据占比2:8,单次操作10KB值

与RS 6.4 (RocksDB) 相比,RS 7.2 (Speedb) 改进了:

· 85% 命中率时:每秒操作次数增加 2.3 倍至 3.0 倍,同时延迟降低高达 3.0 倍

· 50% 命中率时:每秒操作次数增加 2.1 倍至 3.5 倍,同时延迟降低高达 3.5 倍

在所有情况下,带有Speedb 的 Redis Enterprise 7.2 都具有更好的吞吐量,这意味着维持这种性能水平所需的应用程序速度更快,基础设施更少。

四、应用场景

自动分层尤其适用于将数据分为热数据和冷数据的情况。

1.移动银行

让我们来看看移动银行应用的例子。

如今,每个人的移动设备上都有银行应用程序。 用户登录应用程序,获取余额,查看最后一笔交易,并获取其他相对较小和集中的信息。 每个人都希望这一过程流畅、简单、即时。这些数据就是我们的热数据,存放在Redis Enterprise 数据库的 DRAM 中。

用户希望获得更多信息的情况并不常见,例如旧交易记录--也许是两年前的税务数据。用户需要访问这些数据,但数据访问速度并不那么重要。这种数据集是我们的冷数据,可以保存在高速外部存储如固态硬盘中。

2.游戏行业

速度在游戏行业也很重要。例如, 游戏应用对延迟有严格要求 。另外,从本质上讲,游戏是一种潮流。随着时间的推移,游戏公司会积累越来越多的用户数据,并将其存储在用户资料数据库中,但并非所有用户都是活跃用户。通过自动分层,活跃用户的资料数据可以存储在DRAM 中,而其他用户的数据则存储在 SSD 中。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 内存
    +关注

    关注

    9

    文章

    3262

    浏览量

    76610
  • 固态硬盘
    +关注

    关注

    12

    文章

    1661

    浏览量

    60797
  • 大数据
    +关注

    关注

    64

    文章

    9116

    浏览量

    144197
  • Redis
    +关注

    关注

    0

    文章

    397

    浏览量

    12293
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    动态 | 2026年4月精彩回顾

    2026年4月精彩速览——康谋亮相2026年Q1ASAM中国会员交流会;安宝特AR电力行业解决方案斩获「年度最具价值解决方案」奖;德思特携多场景测试
    的头像 发表于 04-30 18:04 462次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>动态 | 2026年4月精彩回顾

    onsemi FDMS86200 N沟道MOSFET:高性能解决方案

    onsemi FDMS86200 N沟道MOSFET:高性能解决方案 在电子工程师的日常设计工作中,MOSFET是常用的关键元件之一。今天我们来详细探讨onsemi公司的FDMS86200 N沟道
    的头像 发表于 04-15 16:35 162次阅读

    onsemi NVHL095N65S3HF MOSFET:高性能解决方案

    onsemi NVHL095N65S3HF MOSFET:高性能解决方案 在电子工程领域,MOSFET(金属 - 氧化物 - 半导体场效应晶体管)是至关重要的功率器件,广泛应用于各类电源系统中。今天
    的头像 发表于 03-31 15:35 194次阅读

    圆满收官!硬核方案亮相「北汽 - 盖世供应链技术共创交流日」

    技术需求,以一站式硬核解决方案赋能车企技术升级,收获现场专家与工程师的高度关注!本次走进北汽的交流活动聚焦汽车电子电气架构、智能驾驶研发测试等核心赛道,
    的头像 发表于 03-27 17:35 1386次阅读
    圆满收官!<b class='flag-5'>虹</b><b class='flag-5'>科</b>硬核<b class='flag-5'>方案</b>亮相「北汽 - 盖世供应链<b class='flag-5'>技术</b>共创交流日」

    解析ADuC7034:汽车电池监测的高性能解决方案

    解析ADuC7034:汽车电池监测的高性能解决方案 在汽车电子领域,对电池状态的精确监测和管理至关重要。ADuC7034作为一款专为12V汽车应用设计的集成精密电池传感器,为汽车电池监测提供了全面且
    的头像 发表于 03-24 11:40 333次阅读

    owa5X 无线嵌入式计算机 工业级边缘计算终端与车载网关优选

    从工业级边缘计算终端到车载高性能边缘计算网关,从工业级嵌入式计算机到边缘智能解决方案 owa5X 无线嵌入式计算机以高性能、高可靠、高
    的头像 发表于 02-10 17:08 350次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b> owa5X 无线嵌入式计算机 工业级边缘计算终端与车载网关优选

    分享 | SocTek IP Cores:FPGA高端网络与时间同步解决方案

    当现代工业自动化、航空航天和关键基础设施系统对通信可靠性的要求达到「零容忍」级别时,传统解决方案往往力不从心。系统需要确保数据包精确准时到达,不容许毫秒级的延迟或丢失。
    的头像 发表于 01-21 17:03 3690次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>分享 | SocTek IP Cores:FPGA高端网络与时间同步<b class='flag-5'>解决方案</b>

    国产高性能ONFI IP解决方案全解析

    )时代,数据存储的吞吐量瓶颈日益凸显,高性能的ONFI IP能够确保大规模数据的高效存取,是SSD及先进存储系统的核心技术基石。2. 奎芯科技 ONFI IP 的核心
    发表于 01-13 16:15

    PEAK解决方案

    PEAK解决方案
    发表于 12-19 14:45 1次下载

    车载以太网解决方案:全面赋能智能汽车与无人驾驶通信

    车载以太网解决方案高性能硬件、全栈测试工具与专业服务,成为车企实现无人驾驶、车队管理的理想选择。无论是高速物流还是矿山极端环境,
    的头像 发表于 12-19 09:51 619次阅读

    探索DLP4621-Q1:汽车外部照明的高性能解决方案

    探索DLP4621-Q1:汽车外部照明的高性能解决方案 在汽车电子领域,照明系统的性能和创新一直是关注的焦点。DLP4621-Q1作为一款适用于汽车外部照明的数字微镜器件,为汽车前照灯系统
    的头像 发表于 12-10 16:14 716次阅读
    探索DLP4621-Q1:汽车外部照明的<b class='flag-5'>高性能解决方案</b>

    方案 | 数据不缺位,监控不滞后:车辆信息远程监控系统

    不丢+解析直达」的设计,给出了落地级解决方案。01.系统内核全域捕获,云端无缝同步车辆信息远程监控系统旨在打破数据孤岛,提供从车辆边缘到云端的完整
    的头像 发表于 09-18 17:33 1129次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b><b class='flag-5'>方案</b> | <b class='flag-5'>数据</b>不缺位,监控不滞后:<b class='flag-5'>虹</b><b class='flag-5'>科</b>车辆信息远程监控系统

    直播回顾 | 硬核干货放送,CAN总线应用层直播助您告别低效联调,破解车载网络开发核心难题

    直播想要系统学习CAN总线知识,提升开发效率和项目交付质量?想要了解行业成功案例和高效工具链,帮助团队评估新技术方案、控制风险?欢迎关注
    的头像 发表于 09-17 17:39 1037次阅读
    直播回顾 | 硬核<b class='flag-5'>干货</b>放送,<b class='flag-5'>虹</b><b class='flag-5'>科</b>CAN总线应用层直播助您告别低效联调,破解车载网络开发核心难题

    品牌故事 | 宏科技:工业物联网和工业测量领域一站式解决方案提供商

    /测量等独立的业务板块,致力于为行业客户提供创新及前沿的产品和技术解决方案,为科技社会发展助力加码。无论是最初的工业物联网事业部,还是现在的宏
    的头像 发表于 08-08 18:24 820次阅读
    品牌故事 | 宏<b class='flag-5'>集</b>科技:工业物联网和工业测量领域一站式<b class='flag-5'>解决方案</b>提供商

    Redis集群部署与性能优化实战

    Redis作为高性能的内存数据库,在现代互联网架构中扮演着关键角色。作为运维工程师,掌握Redis的部署、配置和优化技能至关重要。本文将从实战角度出发,详细介绍
    的头像 发表于 07-08 17:56 1090次阅读