如果leader崩溃,Kafka怎样重新选举?

leader对于消息的写入以及读取是非常关键的,此时有两个疑问:

1. Kafka如何确定某个partition是leader、哪个partition是follower呢?

2. 某个leader崩溃了,如何快速确定另外一个leader呢?因为Kafka的吞吐量很高、延迟很低,所以选举leader必须非常快。

如果leader崩溃,Kafka会如何?

使用Kafka Eagle找到某个partition的leader,再找到leader所在的broker。在Linux中强制杀掉该Kafka的进程,然后观察leader的情况。

如果leader崩溃,Kafka怎样重新选举?

通过观察,我们发现,leader在崩溃后,Kafka又从其他的follower中快速选举出来了leader。

Controller介绍

l Kafka启动时,会在所有的broker中选择一个controller

l 前面leader和follower是针对partition,而controller是针对broker的

l 创建topic、或者添加分区、修改副本数量之类的管理任务都是由controller完成的

l Kafka分区leader的选举,也是由controller决定的

Controller的选举

l 在Kafka集群启动的时候,每个broker都会尝试去ZooKeeper上注册成为Controller(ZK临时节点)

l 但只有一个竞争成功,其他的broker会注册该节点的监视器

l 一点该临时节点状态发生变化,就可以进行相应的处理

l Controller也是高可用的,一旦某个broker崩溃,其他的broker会重新注册为Controller

找到当前Kafka集群的controller

1. 点击Kafka Tools的「Tools」菜单,找到「ZooKeeper Brower…」

2. 点击左侧树形结构的controller节点,就可以查看到哪个broker是controller了。

如果leader崩溃,Kafka怎样重新选举?

测试controller选举

通过kafka tools找到controller所在的broker对应的kafka进程,杀掉该进程,重新打开ZooKeeper brower,观察kafka是否能够选举出来新的Controller。

如果leader崩溃,Kafka怎样重新选举?

Controller选举partition leader

l 所有Partition的leader选举都由controller决定

l controller会将leader的改变直接通过RPC的方式通知需为此作出响应的Broker

l controller读取到当前分区的ISR,只要有一个Replica还幸存,就选择其中一个作为leader否则,则任意选这个一个Replica作为leader

l 如果该partition的所有Replica都已经宕机,则新的leader为-1

为什么不能通过ZK的方式来选举partition的leader?

l Kafka集群如果业务很多的情况下,会有很多的partition

l 假设某个broker宕机,就会出现很多的partiton都需要重新选举leader

l 如果使用zookeeper选举leader,会给zookeeper带来巨大的压力。所以,kafka中leader的选举不能使用ZK来实现。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:如果leader崩溃,Kafka怎样重新选举? https://www.dachanpin.com/a/cyfx/10866.html

(0)
消费者分区分配策略:Stricky、Range、RoundRobin
上一篇 2023-05-12 02:25:57
怎样使用requests模块抓取网页?
下一篇 2023-05-12 02:27:09

相关推荐

  • 创业邦2018女性创业者榜单发布-心上创始人兼CEO董博文上榜

    3月22日,“创业邦2018女性创业者榜单”颁奖仪式于北京举办,心上创始人兼CEO董博文上榜,并于当天接受了《人生效率手册》作者、LEAD立德领导力创始人张萌的采访对话。今年是创业邦连续第6年推出最值得关注的女性创业者评选活动,旨在寻找女性商业力量的代表。中国创业类第一媒体集团创业邦以“创业者影响力、企业成长能力、融资能力”为三大核心评估标准,最终评选出了包…

    创业分享 2023-05-19
  • 浙江绍兴:首届海外高层次人才创新创业大赛总决赛举行

      中国经济网绍兴3月6日讯(记者黄全斌、徐燕飞)3月3日,首届海外高层次人才创新创业大赛总决赛在浙江绍兴举行。经过角逐,最终由英国帝国理工学院郭留成博士及其参赛项目“触灵——基于单一灵活的触摸材料的产业化”获得一等奖。   本次大赛历时5个月,立足美国辐射世界各地,共征集到来自美国、德国、英国等全球顶尖高校的博士、硕士高层次人才团队的173个项目,覆盖生命…

    创业分享 2023-05-25
  • 沈抚新城邀请著名投资人讲“双创” 为大学生创业提出好建议

    5月14日,沈抚新城在抚顺职业技术学院举办了以“创业和发展”为主题的高层讲座,创新工场合伙人、2015年中国天使投资人十强之一的郎春晖女士应邀做《创新改变中国兼论资本市场》专题演讲,与沈抚新城管委会干部群众、抚顺职业技术学院的师生们,分享在互联网、创新创业和中国资本市场方面积累的丰厚经验和最新理念。 著名投资人郎春晖。首席记者 张薇 摄 “创业和发展”高层讲…

    创业分享 2023-06-01
  • 青岛滨海学院获评全省创新创业典型经验高校

      日前,山东省人力资源和社会保障厅下发《关于公布2019年度全省创新创业典型经验高校名单的通知》,青岛滨海学院入选获评为“全省创新创业典型经验高校”。   据了解,根据教育部《关于开展2019年度全国高校创新创业总结宣传工作的通知》要求,为深入贯彻落实全国教育大会和全省高校毕业生创业就业工作推进会会议精神,全面推进大学生创新创业创造工作,山东省人力资源和社…

    创业分享 2023-05-13
  • 单创ABM顺应互联网趋势,助推大众创业形势转型

    这些在澳洲本土拥有领先地位的品牌和行业专家与ABM单创强强联合,充分满足中国消费者对这三大品类产品日渐上升的需求。个人创业者在寻求创业机会时,选择有实力、有优质产品的平台,那对创业者而言,在创业初期便已占尽了先机。ABM单创汇聚行业力量,与消费新宠品牌代表,为创业者带来实力产品,共同探索未来创业机会。 ABM作为中澳首个新型跨境经销体系管理平台,中国是ABM…

    2023-05-11

发表回复

登录后才能评论

联系我们

在线咨询: QQ交谈

邮件:362039258@qq.com

工作时间:周一至周五,9:30-16:30,节假日休息