ZooKeeper在kafka集群中有何作用
Zookeeper 存储的 Kafka 信息
(1)启动 Zookeeper 客户端。
bin/zkCli.sh
(2)通过 ls 命令可以查看 kafka 相关信息。
[zk: localhost:2181(CONNECTED) 2] ls /kafka
zk中有一个节点 consumers 这个里面,老版本0.9版本之前,存放的是消费者的偏移量(offset,这次消费者消费到哪个地方了,下次从这个地方继续消费),新版本的根本没放在zk中,直接放在集群中了。
可以借助一个工具:漂亮的zoo,通过图形化界面查看zk中的消息。
1. 集群协调
ZooKeeper 为 Kafka 集群中的多个 Broker 提供了领导选举机制。当集群中的主节点(Leader Broker)因故障下线时,ZooKeeper 负责协调选举新的 Leader。这保证了 Kafka 集群的高可用性。
2. 配置管理
ZooKeeper 存储了 Kafka 集群的关键元数据,如主题配置信息、分区信息等。当这些配置需要更新时,ZooKeeper 保证了所有 Broker 都可以获取到最新的配置信息。
3. 同步
ZooKeeper 在 Kafka 的分布式环境中保证数据的一致性。它管理 Kafka 集群中的所有 Broker,确保它们的状态同步。
4. 节点管理
ZooKeeper 跟踪 Kafka 集群中每个节点的状态和信息。这包括节点加入或离开集群的情况,以及节点的健康状况。