0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

RocketMQ最佳实践之坑

jf_ro2CN3Fa 来源:yes的练级攻略 2023-06-02 14:13 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

前不久踩了个坑,而这个坑跟 RocketMQ 推荐的一个最佳实践有关。

看下我从官网的截图,官方推荐一个应用尽可能只用一个 topic,然后用 tags 来标识子类型。

9711106c-0103-11ee-90ce-dac502259ad0.png

从订单角度来看,可以用一个 Topic-Order,然后再用不同的 tag 来区分这是 3C 类的订单,还是母婴类的订单等,然后下游应用根据不同的需求过滤不同的 tag。

这样的实现方式从业务上来看关系更清晰(有点树状的感觉),但是在实践上有点问题。

问题和起因

一般而言,生产上同一个服务至少会部署两台机器,不仅仅是为了负载均衡,也是为了系统的可靠性,当一台机器意外挂了,另一台可以扛起大旗。

我们在发服务的时候,都是分批发布。

这是为了验证新功能的正确性,不让其一次性影响所有实例,我们会先发布一批,然后观察下日志,确保无误后继续发布后续几台机器。

而这个操作再结合 RocketMQ 一个 Topic 多 tag 就会出现订阅消息不一致的情况,导致丢消息。

原理分析

我们借用官网的图来分析一下。

一般我们都用集群模式,以下描述默认使用集群模式

从使用层来看,发送和消费消息给我们最直观的感受如下:

生产者往一个 Topic 发送消息,消费者订阅了这个 Topic 就能消费到这个消息。

974595bc-0103-11ee-90ce-dac502259ad0.png

而实际上在 RocketMQ 中有队列的概念:

97759410-0103-11ee-90ce-dac502259ad0.png

也就是生产者往一个 Topic 发送消息时,消息会被分到不同的队列中。

而属于同一个消费组的消费者们会平分消费这些队列,从上图可以看到 Topic A 分了三个队列,分别是 MessageQueue 0、1、2。

而消费组 ConsumerGroupA 中的 Consumer1 仅消费 MessageQueue0 和 MessageQueue1 这两个队列中的消息,而 Consumer2 仅消费 MessageQueue2。

这样划分后,Consumer1 是无法消费到 MessageQueue2 中的消息的。

看到可能有人会说,这跟 tag 有什么关系吗?没错,问题就在这个分割跟 tag 没关系!

在默认情况下生产者发送消息是以轮询队列的方式发送的。

比如现在 Producer A 要发送 TopicA-tag1、TopicA-tag2、TopicA-tag3 这三条数据,轮询发送后,MessageQueue 0、1、2 分别存储了这 3 条消息。

97a02c48-0103-11ee-90ce-dac502259ad0.png

假设同样订阅了 TopicA,但是 Consumer 1订阅的 tag 是 tag1和 tag3,而 Consumer 2 订阅的是 tag1、tag2,那么问题就来了。

97c1257e-0103-11ee-90ce-dac502259ad0.png

按轮询的顺序 Consumer 1 要消费的 tag3 被投递到 MessageQueue2 这个队列中,而 Consumer 1 又无法消费 MessageQueue2 中的消息,Consumer 2 能消费 MessageQueue2 中的消息,但偏偏它又不要 tag3 的消息。这样一来 tag3 的这条消息就丢了,问题就出现了。

所以,在实践中,我们要求同一个消费组的消费者的订阅关系要保持一致。

也就是 Conusmer1 和 Conusmer2 需要订阅一样的 Topic、一样的 tag,这样消息才不会丢失。

再回到问题

现在我们已经知道订阅关系一致的重要性,但是有时候不得已就会“明知故犯”。

假设我们订单服务线上一共部署了 5 台,这 5 台机器属于同一个消费组,因此它们负载均衡消费有关订单的消息,如 Topic-Order。

这 5 台机器部署的都是同一套代码,它们都订阅了 Topic-Order,且 tag 是 A、B、C 三个。

这次发版需要订单服务新增消费 Topic-Order 下的 tag D 消息,由于分批部署,所以先部署了 1 台机器观察。

而此时线上就出现了订阅关系不一致的情况!5台机器,有 1 台订阅了 Topic-Order tag A、B、C、D,而其他 4 台订阅了 Topic-Order tag A、B、C。

这段时间内就出现了上述所说的丢消息的情况,如果有 Topic-Order tagD 的消息产生,那么就有可能会丢了。

明知有错,不想犯,却犯了!

针对这个场景,我暂时没啥思路,不知道业界是否有什么方式可以优雅的处理这个问题?欢迎各位留言指导或探讨!

然后留个坑,如果一台机器订阅的是 tagA||tagB,而另一台订阅的是 tagB||tagA,这样算订阅消息一致吗?




审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    213

    文章

    30580

    浏览量

    219558
  • 过滤器
    +关注

    关注

    1

    文章

    442

    浏览量

    20835

原文标题:RocketMQ 最佳实践之坑

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    立讯精密荣获2025年上市公司可持续发展最佳实践案例

    11月18日,由中国上市公司协会(中上协)主办的2025上市公司可持续发展大会在北京隆重召开。会上,中上协发布了2025上市公司可持续发展最佳实践案例名单,从环境、社会和治理3个维度出发评优树典,立
    的头像 发表于 11-26 17:49 1469次阅读

    思瑞浦获评“2025年上市公司董事会最佳实践案例”

    喜讯11月18日,中国上市公司协会发布“2025年上市公司董事会最佳实践案例评选榜单”。思瑞浦凭借在董事会运作及董事会创新特色等方面的优秀表现,获评“2025年上市公司董事会最佳实践
    的头像 发表于 11-18 16:33 1016次阅读
    思瑞浦获评“2025年上市公司董事会<b class='flag-5'>最佳</b><b class='flag-5'>实践</b>案例”

    Air8000 LuatOS exgnss扩展库应用秘籍:定位开发避指南!

    在LuatOS exgnss扩展库的使用中,开发者常因坐标系误区或模式管理不当踩。本秘籍结合实战经验,针对Air8000平台,系统总结常见问题(如WGS-84与国内地图偏差)、解决方案及最佳实践
    的头像 发表于 11-14 15:26 1641次阅读
    Air8000 LuatOS exgnss扩展库应用秘籍:定位开发避<b class='flag-5'>坑</b>指南!

    爱芯元智荣获2025金辑奖最佳技术实践应用奖

    2025年盖世汽车第七届“金辑奖”揭晓,爱芯元智凭借全球化辅助驾驶芯片M57系列荣获“最佳技术实践应用奖”。
    的头像 发表于 11-02 09:17 489次阅读

    安波福荣获2025年度最佳实践产品领导力大奖

    近日,全球领先的增长咨询公司Frost & Sullivan在美国亚利桑那州举办2025年度最佳实践奖颁奖典礼。安波福PULSE雷达视觉一体感知系统凭借在全球汽车辅助泊车领域的卓越表现,荣获2025年度最佳
    的头像 发表于 10-30 15:02 1537次阅读

    达实智能荣获中国企业管理“十大最佳实践”奖

    10月17日,以“AI+管理:铸就新质生产力” 为主题的第十五届中国管理·全球论坛暨首届“中国企业管理最佳实践榜”发布盛典在山东青岛顺利举行。达实智能董事长刘磅作为中国管理模式50人+论坛核心成员
    的头像 发表于 10-20 17:53 1798次阅读

    生产环境中Kubernetes容器安全的最佳实践

    随着容器化技术的快速发展,Kubernetes已成为企业级容器编排的首选平台。然而,在享受Kubernetes带来的便利性和可扩展性的同时,安全问题也日益凸显。本文将从运维工程师的角度,深入探讨生产环境中Kubernetes容器安全的最佳实践
    的头像 发表于 07-14 11:09 489次阅读

    Linux网络管理的关键技术和最佳实践

    在大型互联网企业中,Linux网络管理是运维工程师的核心技能之一。面对海量服务器、复杂网络拓扑、高并发流量,运维人员需要掌握从基础网络配置到高级网络优化的全套技术栈。本文将结合大厂实际场景,深入解析Linux网络管理的关键技术和最佳实践
    的头像 发表于 07-09 09:53 674次阅读

    长安汽车与深演智能荣获2025爱分析DeepSeek最佳实践案例

    近日,深演智能与长安汽车联合打造的 《长安汽车基于大模型的线索清洗创新运营项目》 荣获 2025爱分析·DeepSeek最佳实践案例奖项。面对汽车市场竞争加剧、线索成本攀升的行业痛点,该项目通过AI技术重构营销全链路,为车企数智化升级提供标杆范式。
    的头像 发表于 06-28 15:59 2229次阅读

    鸿蒙5开发宝藏案例分享---折叠屏开发实践

    ?** 最佳实践案例大揭秘!开发者的隐藏宝藏手册** 大家好呀! 今天在翻鸿蒙文档时突然发现了一个惊天大宝藏——官方其实早就默默放出了 几十个超实用开发案例 ,覆盖折叠屏适配、性能优化、UI框架、跨
    发表于 06-12 11:44

    洲明科技荣膺“中国上市公司2024年度投资者关系管理最佳实践”奖项

    2025年5月,中国上市公司协会正式公布“中国上市公司2024年度投资者关系管理最佳实践”评选结果。洲明科技凭借专业表现与持续的沟通成效,从沪、深、北交所超5000家上市公司中脱颖而出,成功斩获该项
    的头像 发表于 05-23 16:37 941次阅读

    天马荣获新财富杂志“2024 ESG最佳实践奖”

    天马可持续发展•ESG表现再获认可,上榜2024年新财富杂志最佳上市公司评选“ESG最佳实践榜单”。
    的头像 发表于 05-21 14:43 725次阅读

    曙光存储入选2025年中国先进存力最佳应用实践

    近日,国际权威分析机构沙利文(Frost & Sullivan)联合头豹研究院发布《2025年中国先进存力最佳应用实践》,以闪存为标志的先进存力已在各行业落地,尤其是AI、金融、通信等行业,先进存力占比均超过30%。
    的头像 发表于 04-10 09:55 837次阅读

    BEM+Sass结合使用的最佳实践

    BEM(Block Element Modifier)与Sass的结合使用是前端开发中一种高效且规范的样式编写方式。以下是一些最佳实践,旨在帮助开发者更好地利用这两种工具来提高代码的可读性、可维护性
    的头像 发表于 02-12 16:50 954次阅读

    兆芯最佳实践应用场景解决方案发布

    《兆芯最佳实践应用场景解决方案》现已正式发布,扫描下方二维码或点击阅读原文即可获取下载。
    的头像 发表于 01-13 14:45 841次阅读