如果leader崩溃,Kafka怎样重新选举?

leader对于消息的写入以及读取是非常关键的,此时有两个疑问:

1. Kafka如何确定某个partition是leader、哪个partition是follower呢?

2. 某个leader崩溃了,如何快速确定另外一个leader呢?因为Kafka的吞吐量很高、延迟很低,所以选举leader必须非常快。

如果leader崩溃,Kafka会如何?

使用Kafka Eagle找到某个partition的leader,再找到leader所在的broker。在Linux中强制杀掉该Kafka的进程,然后观察leader的情况。

如果leader崩溃,Kafka怎样重新选举?

通过观察,我们发现,leader在崩溃后,Kafka又从其他的follower中快速选举出来了leader。

Controller介绍

l Kafka启动时,会在所有的broker中选择一个controller

l 前面leader和follower是针对partition,而controller是针对broker的

l 创建topic、或者添加分区、修改副本数量之类的管理任务都是由controller完成的

l Kafka分区leader的选举,也是由controller决定的

Controller的选举

l 在Kafka集群启动的时候,每个broker都会尝试去ZooKeeper上注册成为Controller(ZK临时节点)

l 但只有一个竞争成功,其他的broker会注册该节点的监视器

l 一点该临时节点状态发生变化,就可以进行相应的处理

l Controller也是高可用的,一旦某个broker崩溃,其他的broker会重新注册为Controller

找到当前Kafka集群的controller

1. 点击Kafka Tools的「Tools」菜单,找到「ZooKeeper Brower…」

2. 点击左侧树形结构的controller节点,就可以查看到哪个broker是controller了。

如果leader崩溃,Kafka怎样重新选举?

测试controller选举

通过kafka tools找到controller所在的broker对应的kafka进程,杀掉该进程,重新打开ZooKeeper brower,观察kafka是否能够选举出来新的Controller。

如果leader崩溃,Kafka怎样重新选举?

Controller选举partition leader

l 所有Partition的leader选举都由controller决定

l controller会将leader的改变直接通过RPC的方式通知需为此作出响应的Broker

l controller读取到当前分区的ISR,只要有一个Replica还幸存,就选择其中一个作为leader否则,则任意选这个一个Replica作为leader

l 如果该partition的所有Replica都已经宕机,则新的leader为-1

为什么不能通过ZK的方式来选举partition的leader?

l Kafka集群如果业务很多的情况下,会有很多的partition

l 假设某个broker宕机,就会出现很多的partiton都需要重新选举leader

l 如果使用zookeeper选举leader,会给zookeeper带来巨大的压力。所以,kafka中leader的选举不能使用ZK来实现。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:如果leader崩溃,Kafka怎样重新选举? https://www.dachanpin.com/a/cyfx/10866.html

(0)
上一篇 2023-05-12 02:25:57
下一篇 2023-05-12 02:27:09

相关推荐

  • 水滴筹、水滴互助沈鹏创业一年反思:打铁必须自身硬

    11月30日-12月2日,2017创业邦100未来领袖峰会暨创业邦年会在国家会议中心举行。在此次峰会上,创业邦发布了2017创业邦100榜单。水滴筹、水滴互助的母公司作为金融科技领域最领先的健康保障平台荣获“2017中国年度创新成长企业100强”荣誉称号,同时获奖的还有闪送、VIPKID、街电、摩拜单车、优信二手车、ETCP、一下科技、斗鱼直播、爱回收等。 …

    创业分享 2023-05-20
    130
  • 青岛实施就业创业政策"一本通" 运用大数据思维

      青岛市人社部门坚持问题导向、效果导向,在政策聚合、流程再造上下功夫,将就业创业政策纳入一个综合性文件之中,形成了青岛市就业创业政策“一本通”,既推动了政策供给的优化完善,又支撑了服务供给的改进提升。今年1—8月,有17.9万人享受就业创业政策。     相关报道   依托新改造的青岛市就业“三化”(标准化、信息化、一体化)信…

    创业分享 2023-05-12
    146
  • 汇智聚能的盛会 青春圆梦的舞台 青企峰会再掀创新创业创造风潮

    汇智聚能的盛会 青春圆梦的舞台 ——青年企业家创新发展国际峰会2019再掀创新创业创造风潮 □记者 刘一颖 报道  9月10日,青年企业家创新发展国际峰会2019东营行恳谈会举行。 汇聚海内外青年才俊、专家学者、商界翘楚,聚焦“科技赋能产业 创新引领未来”主题,青年企业家创新发展国际峰会2019开启了一场青春与激情的碰撞、创新与发展的盛会。 6个市进行专场推…

    创业分享 2023-05-12
    223
  • 北纬网(雅安新闻网)

      创业者资金周转有问题,怎么办?实体店铺位置不佳导致生意冷清,怎样破局?企业想扩大规模,应该从哪些方面入手?5月5日,这些困扰汉源县创业者的难题,有了答案。   实地巡诊 指导更深入   信息汇总 准备更充分   得知此次活动的开展时间后,汉源县人社局提前一周就开始进行准备工作。根据日常工作中掌握的创业者信息,工作人员一一与创业者联系沟通,邀请他们参加活动…

    2023-05-20
    129
  • 创业板指震荡收跌0.72% 国企改革概念股逆势上涨

    创业板指震荡收跌0.72% 国企改革概念股逆势上涨 分享到 关注中金在线: 扫描二维码 关注√ 中金在线微信 在线咨询: 扫描或点击关注中金在线客服   周五(7月27日)沪深股指纷纷低开后震荡下行。盘中,钢铁、国企改革等板块快速上涨,石油板块走势分化,沪指围绕5日线反复震荡;软件股持续走弱,创业板指失守1600点。至今日收盘,两市股指纷纷收跌,两市成交额较…

    2023-05-16
    120

发表回复

登录后才能评论

联系我们

在线咨询: QQ交谈

邮件:362039258@qq.com

工作时间:周一至周五,9:30-16:30,节假日休息