0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本

电子工程师 来源:科技社techpub 作者:科技社techpub 2021-05-31 09:58 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本,使用Kafka内部的Quorum控制器来取代ZooKeeper,因此用户第一次可在完全不需要ZooKeeper的情况下执行Kafka,这不只节省运算资源,并且也使得Kafka效能更好,还可支持规模更大的集群。

过去Apache ZooKeeper是Kafka这类分布式系统的关键,ZooKeeper扮演协调代理的角色,所有代理服务器启动时,都会连接到Zookeeper进行注册,当代理状态发生变化时,Zookeeper也会储存这些数据,在过去,ZooKeeper是一个强大的工具,但是毕竟ZooKeeper是一个独立的软件,使得Kafka整个系统变得复杂,因此官方决定使用内部Quorum控制器来取代ZooKeeper。

这项工作从去年4月开始,而现在这项工作取得部分成果,用户将可以在2.8版本,在没有ZooKeeper的情况下执行Kafka,官方称这项功能为Kafka Raft元数据模式(KRaft)。在KRaft模式,过去由Kafka控制器和ZooKeeper所操作的元数据,将合并到这个新的Quorum控制器,并且在Kafka集群内部执行,当然,如果使用者有特殊使用情境,Quorum控制器也可以在专用的硬件上执行。

KRaft协定使用事件驱动机制来追踪整个集群的元数据,过去必须依赖RPC来处理的任务,现在受益于事件驱动以及实际的日志传输,这些改变所带来的好处,便是让Kafka仍够支持更多的分割。

过去Kafka因为带着ZooKeeper,因此被认为拥有笨重的基础设施,而在移除ZooKeeper之后,Kafka更轻巧更适用于小规模工作负载,轻量级单体程序适合用于边缘以及轻量级硬件解决方案。

值得注意的是,在抢先体验版中,有部分像是ACL、安全以及交易等功能都尚未支持,而且在KRaft模式下,也还不支持重新分配分割和JBOD,官方提到,这些功能会在今年稍晚的版本中提供,由于很多功能处于测试阶段,不建议大家将其用于生产环境中。

参考:https://www.confluent.io/blog/kafka-without-zookeeper-a-sneak-peek/https://www.ithome.com.tw/news/143569

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 控制器
    +关注

    关注

    114

    文章

    17939

    浏览量

    196122
  • RPC
    RPC
    +关注

    关注

    0

    文章

    114

    浏览量

    12330
  • ACL
    ACL
    +关注

    关注

    0

    文章

    61

    浏览量

    12903
  • zookeeper
    +关注

    关注

    0

    文章

    34

    浏览量

    4150

原文标题:Kafka 2.8独立运行,不再需要ZooKeeper

文章出处:【微信号:AndroidPush,微信公众号:Android编程精选】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    天数智芯DeepSpark开源社区正式发布百大应用开放平台26.03版本

    近日,天数智芯主导的DeepSpark开源社区,正式发布了百大应用开放平台26.03版本
    的头像 发表于 04-07 17:36 1793次阅读
    天数智芯DeepSpark开源社区正式<b class='flag-5'>发布</b>百大应用开放平台26.03<b class='flag-5'>版本</b>

    隆基分布式储能柜即将出货

    3月18日,隆基分布式首批储能柜供货合同正式签署,并即将启动出货。自2025年11月隆基宣布控股苏州精控能源,到此次分布式储能业务的首单落地,历时仅一百余天。自此,隆基分布式储能业务完
    的头像 发表于 03-19 17:16 1170次阅读

    发布元服务配置应用内资费类型和应用内商品

    服务中添加新类型的数字商品时(例如,元服务中原来只有消耗型商品,新版本中增加了自动续期订阅商品),则必须在发布版本时,添加新类型的商品一起提交审核。 配置操作如下: 登录AppGall
    发表于 11-19 10:18

    AppGallery Connect(HarmonyOS 5及以上) --公开测试创建并发布测试版本(一)

    “公开测试”,填写“版本描述”,点击“确定”。 5.系统自动进入版本信息配置页面,您可以开始配置版本基础信息。 6.配置发布国家或地区。
    发表于 09-26 17:24

    全新分布式智慧投屏终端开启智慧教学新时代!

    全新分布式智慧教室系统的核心设备是分布式智慧投屏终端,集无线投屏、白板书写、多机联动、信息发布于一体,为老师学生分组投屏、互动分享提供多屏协作解决方案。智能书写功能与方案中多屏互动相辅
    的头像 发表于 09-19 11:35 1053次阅读
    全新<b class='flag-5'>分布式</b>智慧投屏终端开启智慧教学新时代!

    创建并发布测试版本(一)

    版本号规范 测试版本的VersionGode必须高于发布过的全网版本的VersionGode。 测试版本的VersionCode不能低于
    发表于 09-16 15:21

    【节能学院】Acrel-1000DP分布式光伏监控系统在奉贤平高食品 4.4MW 分布式光伏中应用

    摘要:在“双碳”和新型电力系统建设背景下,分布式光伏接入比例不断提高,对配电网电压、调度运行及调峰等环节造成强烈冲击。本文设计包含平台层、设备层二层架构体系的分布式光伏管控平台,以及小容量工商业
    的头像 发表于 08-23 08:04 3776次阅读
    【节能学院】Acrel-1000DP<b class='flag-5'>分布式</b>光伏监控<b class='flag-5'>系统</b>在奉贤平高食品 4.4MW <b class='flag-5'>分布式</b>光伏中应用

    分布式光伏发电监测系统技术方案

    分布式光伏发电监测系统技术方案 柏峰【BF-GFQX】一、系统目标 :分布式光伏发电监测系统旨在通过智能化的监测手段,实现对
    的头像 发表于 08-22 10:51 3625次阅读
    <b class='flag-5'>分布式</b>光伏发电监测<b class='flag-5'>系统</b>技术方案

    开鸿Bot系列V5.0.1.10版本升级!

    开鸿Bot系列更新至V5.0.1.10版本,此次升级聚焦功能优化及系统稳定性提升,在分布式能力、文件分享、打印功能及界面显示等方面进行了多项改进,同时修复了多个已知问题,进一步提升了系统
    的头像 发表于 08-08 18:58 946次阅读
    开鸿Bot系列V5.0.1.10<b class='flag-5'>版本</b>升级!

    分布式光伏总出问题?安科瑞分布式光伏监控系统来“救场”

    一、分布式光伏的痛点大揭秘 在 “双碳” 目标的大力推动下,分布式光伏作为绿色能源领域的重要力量,正以前所未有的速度蓬勃发展,越来越多的企业和家庭选择安装分布式光伏系统。然而,随着
    的头像 发表于 07-16 16:50 1054次阅读
    <b class='flag-5'>分布式</b>光伏总出问题?安科瑞<b class='flag-5'>分布式</b>光伏监控<b class='flag-5'>系统</b>来“救场”

    Ceph分布式存储系统解析

    在当今数据爆炸的时代,企业对存储系统的需求日益增长,传统的集中式存储已经无法满足大规模数据处理的要求。分布式存储系统应运而生,而Ceph作为开源分布式存储
    的头像 发表于 07-14 11:15 1373次阅读

    Kafka生产环境应用方案

    Apache Kafka作为分布式流处理平台,在现代大数据架构中扮演着消息中间件的核心角色。本文将从运维工程师的角度,详细介绍Kafka在生产环境中的部署方案、配置优化、监控运维等关键
    的头像 发表于 07-09 09:56 741次阅读

    开源鸿蒙6.0Beta1版本发布!触觉智能将率先适配RK3566/RK3568/RK3576等芯片平台芯片

    开放原子开源鸿蒙(OpenAtomOpenHarmony,简称“开源鸿蒙”或“OpenHarmony”)6.0Beta1版本正式发布。相比5.1.0Release版本进一步增强ArkUI组件能力
    的头像 发表于 06-20 14:05 1862次阅读
    开源鸿蒙6.0Beta1<b class='flag-5'>版本</b><b class='flag-5'>发布</b>!触觉智能将率先适配RK3566/RK3568/RK3576等芯片平台芯片

    双电机分布式驱动汽车高速稳定性机电耦合控制

    摘要:为了利用所设计的双电机防滑差速驱动系统来提高分布式驱动汽车的动力学性能,在前期同轴耦合驱动控制理论研究的基础上,开展该车的高速稳定性机电耦合控制研究。建立并验证包含所设计驱动系统在内的
    发表于 06-18 16:37

    润和软件发布StackRUNS异构分布式推理框架

    当下,AI模型规模持续膨胀、多模态应用场景日益复杂,企业正面临异构算力资源碎片化带来的严峻挑战。为应对行业痛点,江苏润和软件股份有限公司(以下简称“润和软件”)正式发布自主研发的StackRUNS异构分布式推理框架,高效融合异构算力,精细化配置算力资源,释放算力效能。
    的头像 发表于 06-13 09:10 1705次阅读
    润和软件<b class='flag-5'>发布</b>StackRUNS异构<b class='flag-5'>分布式</b>推理框架