如果leader崩溃,Kafka怎样重新选举?

leader对于消息的写入以及读取是非常关键的,此时有两个疑问:

1. Kafka如何确定某个partition是leader、哪个partition是follower呢?

2. 某个leader崩溃了,如何快速确定另外一个leader呢?因为Kafka的吞吐量很高、延迟很低,所以选举leader必须非常快。

如果leader崩溃,Kafka会如何?

使用Kafka Eagle找到某个partition的leader,再找到leader所在的broker。在Linux中强制杀掉该Kafka的进程,然后观察leader的情况。

如果leader崩溃,Kafka怎样重新选举?

通过观察,我们发现,leader在崩溃后,Kafka又从其他的follower中快速选举出来了leader。

Controller介绍

l Kafka启动时,会在所有的broker中选择一个controller

l 前面leader和follower是针对partition,而controller是针对broker的

l 创建topic、或者添加分区、修改副本数量之类的管理任务都是由controller完成的

l Kafka分区leader的选举,也是由controller决定的

Controller的选举

l 在Kafka集群启动的时候,每个broker都会尝试去ZooKeeper上注册成为Controller(ZK临时节点)

l 但只有一个竞争成功,其他的broker会注册该节点的监视器

l 一点该临时节点状态发生变化,就可以进行相应的处理

l Controller也是高可用的,一旦某个broker崩溃,其他的broker会重新注册为Controller

找到当前Kafka集群的controller

1. 点击Kafka Tools的「Tools」菜单,找到「ZooKeeper Brower…」

2. 点击左侧树形结构的controller节点,就可以查看到哪个broker是controller了。

如果leader崩溃,Kafka怎样重新选举?

测试controller选举

通过kafka tools找到controller所在的broker对应的kafka进程,杀掉该进程,重新打开ZooKeeper brower,观察kafka是否能够选举出来新的Controller。

如果leader崩溃,Kafka怎样重新选举?

Controller选举partition leader

l 所有Partition的leader选举都由controller决定

l controller会将leader的改变直接通过RPC的方式通知需为此作出响应的Broker

l controller读取到当前分区的ISR,只要有一个Replica还幸存,就选择其中一个作为leader否则,则任意选这个一个Replica作为leader

l 如果该partition的所有Replica都已经宕机,则新的leader为-1

为什么不能通过ZK的方式来选举partition的leader?

l Kafka集群如果业务很多的情况下,会有很多的partition

l 假设某个broker宕机,就会出现很多的partiton都需要重新选举leader

l 如果使用zookeeper选举leader,会给zookeeper带来巨大的压力。所以,kafka中leader的选举不能使用ZK来实现。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:如果leader崩溃,Kafka怎样重新选举? https://www.dachanpin.com/a/cyfx/10866.html

(0)
上一篇 2023-05-12 02:25:57
下一篇 2023-05-12 02:27:09

相关推荐

  • 云南省教育厅专家组来西南林业大学开展全省高校创新创业总结宣传

    西南林业大学地处四时花开不断的春城昆明,是我国西部地区唯一独立设置的林业本科院校,拥有70多年林业高等教育的办学经历和30余年的独立办学历史。西南林业大学起源于1939年云南大学森林系和1958年成立的昆明农林学院林学系。1973年昆明农林学院林学系与南迁昆明的北京林学院合并办学,成立学校的前身云南林业学院,1978年北京林学院迁回北京办学后,经教育部批准,…

    创业分享 2023-05-24
    6900
  • 小马嘟嘟童装加盟 提供难得创业机会

      小马嘟嘟童装加盟项目应该是现在非常受欢迎的一个童装加盟品牌了。为什么小马嘟嘟童装加盟项目可以在不少人的心中有这么大的地位呢?因为无论是父母还是孩子心中,小马嘟嘟的地位都是非常重要的,许多家长朋友就是只认小马嘟嘟的童装,其他品牌的童装都是不会买的。主要还是因为小马嘟嘟的童装的款式和造型都是非常新颖的,可以吸引到不少爱美的家长朋友的喜爱,许多妈妈都是喜欢给自…

    创业分享 2023-05-22
    6300
  • 反思:一个90后连续创业者是如何失败的

      90后大学生创业者在中国今天浮躁的创业环境中数见不鲜。创业失败后不甘寂寞卷土重来者不在少数,以致于形成了这样一个词:连续创业(失败)者。   真正能在创业失败后拥有自知之明,选择不再创业,加入大公司,沉下心来,反思自我的年轻人在今天反而成为了一种可贵的稀缺。   罗勇林,94年生,黑龙江工程学院计算机专业的大三学生。上次与他联系时还是7月下旬,那时他还在…

    2023-05-17
    6100
  • 投资者提问:董秘您好!请问公司是如何开展创业投资业务的?目前

    投资者提问: 董秘您好!请问公司是如何开展创业投资业务的?目前主要是在哪些行业领域进行对外投资?感谢您的耐心细致答疑。 董秘回答(恒基达鑫SZ002492): 您好!公司目前参与的基金投资主要分布在大健康和智能装备领域;公司对外投资情况在公司的定期报告中有详细的披露。谢谢您的关注! 查看更多董秘问答>> 免责声明:本信息由新浪财经从公开信息中摘录…

    创业分享 2023-05-12
    13400
  • 全员996你怎么看?姚劲波直播谈创业遭员工刷屏吐槽

    其实,996工作制并不是一件新鲜事,很多创业公司在创业初期为了加快成长都实行996。除此之外,还有很多大型互联网公司在某些特定时期也会实行996。 有网友认为,这年头互联网瞬息万变,不实行996,不够狠怎么能成功。 姚劲波直播谈创业遭员工刷屏吐槽全员996 关于996工作制你怎么看? 也有网友认为,996让人变成一个工作机器,失去了生活的乐趣。  …

    创业分享 2023-05-29
    8800

发表回复

登录后才能评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信