0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本

电子工程师 来源:科技社techpub 作者:科技社techpub 2021-05-31 09:58 次阅读

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本,使用Kafka内部的Quorum控制器来取代ZooKeeper,因此用户第一次可在完全不需要ZooKeeper的情况下执行Kafka,这不只节省运算资源,并且也使得Kafka效能更好,还可支持规模更大的集群。

过去Apache ZooKeeper是Kafka这类分布式系统的关键,ZooKeeper扮演协调代理的角色,所有代理服务器启动时,都会连接到Zookeeper进行注册,当代理状态发生变化时,Zookeeper也会储存这些数据,在过去,ZooKeeper是一个强大的工具,但是毕竟ZooKeeper是一个独立的软件,使得Kafka整个系统变得复杂,因此官方决定使用内部Quorum控制器来取代ZooKeeper。

这项工作从去年4月开始,而现在这项工作取得部分成果,用户将可以在2.8版本,在没有ZooKeeper的情况下执行Kafka,官方称这项功能为Kafka Raft元数据模式(KRaft)。在KRaft模式,过去由Kafka控制器和ZooKeeper所操作的元数据,将合并到这个新的Quorum控制器,并且在Kafka集群内部执行,当然,如果使用者有特殊使用情境,Quorum控制器也可以在专用的硬件上执行。

KRaft协定使用事件驱动机制来追踪整个集群的元数据,过去必须依赖RPC来处理的任务,现在受益于事件驱动以及实际的日志传输,这些改变所带来的好处,便是让Kafka仍够支持更多的分割。

过去Kafka因为带着ZooKeeper,因此被认为拥有笨重的基础设施,而在移除ZooKeeper之后,Kafka更轻巧更适用于小规模工作负载,轻量级单体程序适合用于边缘以及轻量级硬件解决方案。

值得注意的是,在抢先体验版中,有部分像是ACL、安全以及交易等功能都尚未支持,而且在KRaft模式下,也还不支持重新分配分割和JBOD,官方提到,这些功能会在今年稍晚的版本中提供,由于很多功能处于测试阶段,不建议大家将其用于生产环境中。

参考:https://www.confluent.io/blog/kafka-without-zookeeper-a-sneak-peek/https://www.ithome.com.tw/news/143569

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 控制器
    +关注

    关注

    112

    文章

    15200

    浏览量

    171107
  • RPC
    RPC
    +关注

    关注

    0

    文章

    102

    浏览量

    11421
  • ACL
    ACL
    +关注

    关注

    0

    文章

    59

    浏览量

    11874
  • zookeeper
    +关注

    关注

    0

    文章

    32

    浏览量

    3621

原文标题:Kafka 2.8独立运行,不再需要ZooKeeper

文章出处:【微信号:AndroidPush,微信公众号:Android编程精选】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    鸿蒙原生应用开发——分布式数据对象

    分布式数据对象保存 6、分布式数据对象订阅(数据变更,上下线) 7、分布式数据对象加入、退出分布式组网 03、前提准备 1、开发工具:De
    发表于 12-08 10:01

    分布式系统硬件资源池原理和接入实践

    把各个设备的硬件外设抽象为外设信息单元,外设信息在各个可信设备之间自动同步,如此,实现了外设信息的全局可见;结合分布式硬件虚拟化技术,实现任意设备之间的硬件外设能力跨设备调用;分布式硬件资源池作为系统
    发表于 12-06 10:02

    zookeeper和kafka的关系

    Zookeeper和Kafka是两个不同的开源软件,它们可以在分布式系统中发挥不同的作用。下面我将详细说明它们之间的关系以及它们在分布式系统
    的头像 发表于 12-03 16:39 893次阅读

    HarmonyOS分布式文件系统开发指导

    分布式文件系统概述 分布式文件系统(hmdfs,HarmonyOS Distributed File System)提供跨设备的文件访问能力,适用于如下场景: ● 两台设备组网,用户可
    发表于 11-14 17:14

    鸿蒙操作系统的前世今生

    。华为消费者业务CEO余承东在发布会上宣布鸿蒙将进行开源。 2020年9月10日,华为发布HarmonyOS 2.0。相较于HarmonyOS 1.0,此版本主要在3个方面做出重大提升:分布式
    发表于 10-08 19:55

    RabbitMQ中的发布订阅模型

    上一篇文章中,简单的介绍了一下RabbitMQ的work模型。这篇文章来学习一下RabbitMQ中的发布订阅模型。 发布订阅模型(Publish/Subscribe):简单的说就是队列
    的头像 发表于 09-25 14:30 320次阅读
    RabbitMQ中的<b class='flag-5'>发布</b><b class='flag-5'>订阅</b>模型

    基于ZigBee的分布式井盖监控系统

    随着我国现代经济发展水平的不断提高,城市井盖数目逐渐增加。由于较多井盖被盗,致使路面形成陷阱,危害到过往车辆和行人安全。本文提出了一种基于 ZigBee无线网络的智能安全监控系统,解决分布式布控困难
    发表于 09-18 08:46

    OpenHarmony 分布式硬件关键技术

    OpenHarmony技术峰会——生态与互联分论坛 ​ 正 文 内 容 OpenHarmony是一款面向未来万物互联场景的操作系统,其设计采用了分布式架构。那么OpenHarmony相比于传统操作系统
    发表于 08-24 17:25

    物通博联5G-kafka工业网关实现kafka协议对接到云平台

    Kafka协议是一种基于TCP层的网络协议,用于在分布式消息传递系统Apache Kafka中发送和接收消息。
    的头像 发表于 07-11 10:44 300次阅读

    润和软件发布openEuler分布式软总线最新贡献成果

    近日,江苏润和软件股份有限公司(以下简称“润和软件”)与openEuler社区共同提出并首次在openEuler 2203 LTS SP2 中实现分布式软总线及相关组件以独立中间件形态发布。 秉承
    的头像 发表于 07-11 09:20 831次阅读
    润和软件<b class='flag-5'>发布</b>openEuler<b class='flag-5'>分布式</b>软总线最新贡献成果

    #分布式数据

    分布式数据
    未来加油dz
    发布于 :2023年07月03日 22:58:32

    Kafka和Greenplum的集成 - 本章小结(2)#分布式数据

    分布式数据
    未来加油dz
    发布于 :2023年07月03日 22:47:36

    Kafka和Greenplum的集成 - 本章小结(1)#分布式数据

    分布式数据
    未来加油dz
    发布于 :2023年07月03日 22:47:13

    Apache Kafka简介(2)#分布式数据

    分布式数据
    未来加油dz
    发布于 :2023年07月03日 22:45:56

    Apache Kafka简介(1)#分布式数据

    分布式数据
    未来加油dz
    发布于 :2023年07月03日 22:45:31