0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GaussDB(for Redis) 特性揭秘:大 key 治理

jf_94205927 来源:jf_94205927 作者:jf_94205927 2024-03-28 22:06 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

从 DBA 的视角看,大 Key 无疑是引起 Redis 线上问题的常见原因。为了解决大 Key 隐患,业务首先要遵守合理的开发规范,减少大 Key 的产生和访问依赖。但有时大 Key 是在程序运行过程中悄悄产生的,让人防不胜防。因此,一款可随时在线诊断,且能主动预警,防患于未然的 Redis 服务产品显得尤为重要。

作为由华为云精心打造的企业级 Redis,GaussDB(for Redis)提供了完备的大 Key 解决方案,支持大 Key 在线诊断、监控预警、承载力强等能力,让 DBA 如虎添翼。

GaussDB(for Redis)

支持大 Key 在线诊断

GaussDB(for Redis)采用计算、存储分离的高可靠架构,每个计算节点上都部署有后台任务。GaussDB(for Redis)通过后台任务持续检测分析存储池中的大 key 情况,用户执行命令时直接取结果,不会影响线上业务,跟业界阻塞式全量扫描方式相比,更安全。

wKgZomYFeOCAed07AAI8IiCcEsM153.png

用户执行 bigkeys 命令后,将直接从节点上获取“答案”,不用全库扫描引起不必要的性能影响。

wKgZomYFeOuASaplAARdBFoUhmE077.png

此外,GaussDB(for Redis)支持用户自定义大 key 标准,比如大于 1MB 的 string、大于 10000 个元素的 hash 类型等。该功能一经推出,收获了很多客户和 DBA 小伙伴的认可及点赞。

GaussDB(for Redis)

支持大 key 监控预警

分享两个真实案例:

1、业务周期性执行“lrange 0 -1”获取 list key 的所有元素。但由于程序 bug,业务也同时在长期、缓慢地向这个 key 中持续追加,导致 key 越来越长。直到线上业务出问题,几经波折,才发现了这个危险的大 Key。

2、业务长期稳定运行,有一天有新组件上线,线上业务开始不断超时。几经排查,发现新组件对 Redis 执行 hmset f1 v1 f2 v2……,一条写入命令携带了长达 2 万个参数,严重影响了生产业务。

从 DBA 的角度,这类问题需要一个“大 Key 侦探”时刻盯防,一旦有对大 Key 的高危操作,立刻主动预警。

GaussDB(for Redis)设计了 10+监控指标,提供“大 Key 侦探”的能力,例如:单个请求回包的最大元素个数(识别 lrange 0 -1 操作大 key 引起阻塞的场景)、单个请求携带的最大参数个数(识别 hmset 上万元素批导引起阻塞的场景)……DBA 只需要根据多年经验,将这类指标订阅告警,即可在第一时间“抓住大 Key 案发现场”,将风险扼杀于萌芽状态。

GaussDB(for Redis)

对大 Key 的承载能力更强

即使在大 Key 存在的一些业务场景,GaussDB(for Redis)的表现也是远优于开源 Redis 的。下面将介绍大 Key 经常引起的一些问题:

1、大 key 引发了 CPU 100%,阻塞生产业务

在开源 Redis 中,大 key 容易引起 CPU 占用 100%,使生产业务受损,引起线上问题。这是因为开源 Redis 本身就是单线程,尤其在这种比较脆弱的架构下使用大 key,更容易引起线程阻塞,从而影响整个实例。

GaussDB(for Redis)的多线程架构天然就对大 key 更友好,不会有这个问题困扰。即使单个线程被个别大 Key 影响,整个 GaussDB(for Redis)实例包含数十、上百个线程,整体业务基本都不会受到干扰。

2、大 key 因个别分片带宽高,被 Redis 频繁“流控”

目前市面上有一些开源 Redis 是基于一个大的容器混合部署很多租户的 Redis 进程,但在这种架构下,为了避免一个客户的 Redis 影响其他客户,往往会对客户的 Redis 进程进行流量控制,当某个客户业务中对大 key 有较为频繁的操作时,很容易触发给客户设定的该租户的带宽阈值并触发流控,从而导致线上业务受损。

相比之下,GaussDB(for Redis)的每个分片都是一个独立的容器,是客户的独享资源,更可靠,连接数、带宽等资源不设主动流控,尤其是节点带宽资源的“天花板”非常高。

3、大 key 导致倾斜,分片内存占用不均匀

开源 Redis 集群中,存储大 key 会导致内存空间不均匀、消耗不均衡,大 key 所在分片有 OOM 风险。

wKgaomYFePeAD17CAAK7QGdY_C0279.png

GaussDB(for Redis)采用高性能存储池,不会对某个节点分片造成数据量的倾斜,支持大 key 可靠存储,不会导致分片 OOM。

wKgaomYFeQOAY7nQAAQi8So7m3Q466.png

4、Redis 扩容时要搬迁数据,大 key 总引起问题

开源 Redis 扩容时,由于涉及数据跨片搬迁,扩容过程耗时久,存在访问阻塞的风险。如图所示,因此开源 Redis 在有大 key 的情况下,扩容必须谨慎!

wKgaomYFeSuAOiNMAAQlTIEv-MU291.png

GaussDB(for Redis)支持秒级无感扩容,不论扩容量,还是扩 CPU,都不需要搬迁数据,因此也不受大 Key 影响,运维体验极佳。

wKgZomYFeR2AANsSAATJrsXY5L0225.png

本文介绍了 GaussDB(for Redis)的大 Key 诊断、大 Key 预警特性,以及在大 Key 场景下如何解决开源 Redis 的稳定性痛点,为客户提供了高效可靠的大 Key 解决方案。未来,GaussDB(for Redis)将持续致力于开发更多好用的企业级特性,帮助客户轻松运维,高效开发。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    4031

    浏览量

    45568
  • DBA
    DBA
    +关注

    关注

    0

    文章

    19

    浏览量

    8127
  • Redis
    +关注

    关注

    0

    文章

    390

    浏览量

    12056
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Redis集群部署配置详解

    Redis集群是一种分布式Redis解决方案,通过数据分片和主从复制实现高可用性和横向扩展。集群将整个数据集分割成16384个哈希槽(hash slots),每个节点负责一部分槽位。
    的头像 发表于 07-17 11:04 588次阅读

    Redis集群部署与性能优化实战

    Redis作为高性能的内存数据库,在现代互联网架构中扮演着关键角色。作为运维工程师,掌握Redis的部署、配置和优化技能至关重要。本文将从实战角度出发,详细介绍Redis集群的搭建、性能优化以及监控运维的核心技术。
    的头像 发表于 07-08 17:56 625次阅读

    【经验分享】在Omni3576上编译Redis-8.0.2源码,并安装及性能测试

    本文首先介绍Redis是什么,然后介绍如何在Omni3576上编译Redis-8.0.2源码,以及从源码编译、安装Redis,最后介绍如何在Omni3576上运行Redis性能测试,并
    的头像 发表于 06-05 08:05 765次阅读
    【经验分享】在Omni3576上编译<b class='flag-5'>Redis</b>-8.0.2源码,并安装及性能测试

    【幸狐Omni3576边缘计算套件试用体验】Redis最新8.0.2版本源码安装及性能测试

    本文首先介绍Redis是什么,然后介绍如何在Omni3576上编译Redis-8.0.2源码,以及从源码编译、安装Redis,最后介绍如何在Omni3576上运行Redis性能测试,并
    发表于 06-03 01:28

    HarmonyOS5云服务技术分享--云缓存快速上手指南

    大家好,今天我们来聊聊如何快速上手华为AppGallery Connect(AGC)的云缓存服务。作为一款基于Serverless架构的Key-Value型缓存服务,它不仅能自动弹性伸缩,还能免去运
    发表于 05-22 18:37

    Redis 再次开源!

    “  Redis 现已采用 AGPLv3 开源许可证。  ” Redis CEO 的 Blog 以下是 Redis CEO Rowan Trollope 的 Blog: 像 AWS 和 GCP 这样
    的头像 发表于 05-06 18:26 681次阅读

    redis三种集群方案详解

    Redis中提供的集群方案总共有三种(一般一个redis节点不超过10G内存)。
    的头像 发表于 03-31 10:46 1272次阅读
    <b class='flag-5'>redis</b>三种集群方案详解

    openai api key获取的三种方案(有一种可以白嫖到 api key

    OpenAI API Key 全攻略:官方获取、费用详解与“白嫖”实战 引言: 想要体验 OpenAI 强大的 GPT 模型,却苦于没有 API Key?别担心,本文将为你提供一份详尽
    的头像 发表于 02-24 22:16 1.4w次阅读
    openai api <b class='flag-5'>key</b>获取的三种方案(有一种可以白嫖到 api <b class='flag-5'>key</b>)

    华为云GaussDB助力统计现代化改革

    2023年8月至2024年5月,华为云GaussDB助力国家统计局顺利完成第五次全国经济普查(简称“五经普”)单位清查和普查登记数据采集处理工作。在此期间,全国200多万名普查员通过手持终端设备
    的头像 发表于 02-12 10:59 683次阅读

    Redis实战笔记

    在目前的技术选型中,Redis 俨然已经成为了系统高性能缓存方案的事实标准,因此现在 Redis 也成为了后端开发的基本技能树之一。   基于上述情况,今天给大家分享一份 杰哥 亲笔撰写的内部
    的头像 发表于 02-09 09:12 628次阅读
    <b class='flag-5'>Redis</b>实战笔记

    华为云 Flexus X 加速 Redis 案例实践与详解

    Redis 加速镜像,更是为开发者提供了极大的便利。本文将详细介绍如何利用华为云 Flexus X 实例自带的 Redis 镜像,快速部署并配置 Redis,以及通过实际案例展示其便捷性和高效性。 一、华为云 Flexus
    的头像 发表于 01-23 17:52 601次阅读
    华为云 Flexus X 加速 <b class='flag-5'>Redis</b> 案例实践与详解

    Redis Cluster之故障转移

    1. Redis Cluster 简介 Redis Cluster 是 Redis 官方提供的 Redis 集群功能。 为什么要实现 Redis
    的头像 发表于 01-20 09:21 1255次阅读
    <b class='flag-5'>Redis</b> Cluster之故障转移

    基于javaPoet的缓存key优化实践

    数据库中的热数据缓存在redis/本地缓存中,代码如下:   @Cacheable(value = { "per" }, key="#person.getId
    的头像 发表于 01-14 15:18 1158次阅读
    基于javaPoet的缓存<b class='flag-5'>key</b>优化实践

    华为云Flexus X实例,Redis性能加速评测及对比

    随着云计算技术的飞速发展,Redis 作为一种高性能的内存数据库,在各种应用场景中发挥着越来越重要的作用。为了满足不同用户对 Redis 性能的高要求,华为云推出了 Flexus X 实例,并提供了
    的头像 发表于 12-29 15:47 830次阅读
    华为云Flexus X实例,<b class='flag-5'>Redis</b>性能加速评测及对比

    Redis缓存与Memcached的比较

    关键特性和差异: 1. 数据存储 Redis: Redis是一个开源的键值存储,支持多种数据结构,如字符串、列表、集合、有序集合、散列、位图、超日志和地理空间索引。 它支持持久化,可以将内存中的数据保存到磁盘,支持RDB(快照)
    的头像 发表于 12-18 09:33 916次阅读