河曲智叟 发表于 2024-8-29 03:56:35

一文带你学会zookeeper(了解、安装、集群、使用)

概述:
        1、zookeeper是一个开源的分布式的服务协调框架(Apache项目)
        2、zookeeper从设计模式的角度来理解:是一个基于观察者模式的分布式服务管理框架,他负责存储和管理大家都关心的数据,然后接收观察者的注册,一旦这些数据发生变革,zookeeper就将负责通知已经在zookeeper是哪个注册的那些观察者做出相应的反应。
https://img-blog.csdnimg.cn/img_convert/18952e608dd71023b65ad22ca47518b8.png

特点
        1、zookeeper为一个领导者(Leader),多个跟随者(Follower)构成的集群 。
        2、集群中只要有半数以上节点存活,zookeeper集群就能正常服务,所以zookeeper适合安装奇数台服务器。
        3、全局数据一致:每个Server(服务节点)保存一份相同的数据副本,Client无论连接到哪个server,数据都是一致的。
        4、更新请求次序实行,比如来自同一个客户端的多个请求,更新实行次序按照其发送的前后次序依次实行。
        5、数据更新原子性,依次数据要么更新成功,要么失败。
        6、实时性,在一定时间范围内,Client能读到最新的数据。

https://img-blog.csdnimg.cn/img_convert/167db9243e9aa1599cbff70dd2f4c01f.png

数据结构:
        zookeeper数据模型的结构与Unix文件体系很类似,团体上可以看作是一颗树,每个节点称为一个ZNode,每一个ZNode默认能够存储1MB(配置信息)的数据,每个ZNode都可以通过其路径唯一标识。

https://img-blog.csdnimg.cn/img_convert/10648d3b26c0f0a6af4a7fbecbd07368.png


应用场景:
统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等等。
统一配置管理:
        ① 一般要求一个集群中,所有节点的配置信息是一致的,比如kafuka集群。
        ② 对配置文件修改后盼望能够快速同步到各个节点上。
        ③ 可将配置信息写入zookeeper上的ZNode。
        ④ 各个客户端服务器监听这个ZNode
        ⑤ 一但ZNode中的数据被修改,zookeeper将通知各个客户端服务器。
统一集群管理:
        ① 分布式环境中,实时把握每个节点的状态是须要的、可以根据节点实时状态做出调整
        ② zookeeper可将节点信息写入zookeeper上的一个ZNode。
        ③ 监听这个ZNode可获取它的实时状态变革。
服务器节点动态上下线:
        ① 如果某台服务节点下线,能随时洞察到变革,并举行通知

https://img-blog.csdnimg.cn/img_convert/0e9be0b8796e1b3ebde8da4cbf2c90aa.png

软负载均衡:
        ①在zookeeper中记载每台服务器的访问数,让访问数据最少的服务器去处理最新的客户端请求

https://img-blog.csdnimg.cn/img_convert/5a582def608297b706ec9b5ff6214d5e.png
Zookeeper安装

        zookeeper下载地点:Index of /dist/zookeeper
        正式生产环境比较稳固的版本:3.5.7


安装:(需要提前安装Java环境,这里自行百度,很简单)
        1.将apache-zookeeper-3.5.7-bin.tar.gz包使用 xftp工具上传到Linux中的/opt/software目次下

https://img-blog.csdnimg.cn/img_convert/911be9fe7f9358c1d6a7aacb54cef31b.png

        2.使用命令:
# 指定将zookeeper解压安装到/opt/module目录下
tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz -C /opt/module/
        3.修改文件名,一般zookeeper的文件名太长我们手动修改一下
# 修改文件名称
# mv apache-zookeeper-3.5.7-bin/ zookeeper-3.5.7
# 查看修改后的名称
# ll
总用量 0
drwxr-xr-x. 6 root root 134 9月19 23:56 zookeeper-3.5.7
        4.修改 /opt/module/zookeeper-3.5.7/conf,也就是zookeeper安装目次下conf目次中的配置文件名称
# 原文件名称
-rw-r--r--. 1 502 games922 2月   7 2020 zoo_sample.cfg


# 使用mv命令修改
# mv zoo_sample.cfgzoo.cfg
# ll
总用量 12
-rw-r--r--. 1 502 games535 5月   4 2018 configuration.xsl
-rw-r--r--. 1 502 games 2712 2月   7 2020 log4j.properties
# 修改后的文件名称
-rw-r--r--. 1 502 games922 2月   7 2020 zoo.cfg

        5.使用vim编辑zoo.cfg配置文件,这里重要先修改zookeeper快照目次,目次中存在的/tmp/**目次只是官方的示例,需要我们本身创建目次存放

https://img-blog.csdnimg.cn/img_convert/d1300f06eadccb87e495709693786c58.png

        5.1创建存储目次(我放在zookeeper的安装目次下 /opt/module/zookeeper-3.5.7):
# 创建‘zkData’目录
# mkdir zkData

# 进入目录后,查看当前创建目录所在位置
# pwd
/opt/module/zookeeper-3.5.7/zkData


# 查看目录下所有文件
# ll
总用量 32
drwxr-xr-x. 2502 games   232 2月10 2020 bin
drwxr-xr-x. 2502 games    70 9月20 00:18 conf
...
drwxr-xr-x. 2 root root      6 9月20 00:18 zkData

        5.2将创建的目次所在位置配置到zoo.cfg文件中

https://img-blog.csdnimg.cn/img_convert/b5824483f607d8aabd840cf6110fe188.png

启动zookeeper服务端:
# 1.进入zookeeper安装目录的bin目录中
# cd ../bin


# 2.查看服务对应的可执行文件
# ls
README.txt    zkCli.cmdzkEnv.cmdzkServer.cmd            zkServer.sh          zkTxnLogToolkit.sh
zkCleanup.shzkCli.sh   zkEnv.sh   zkServer-initialize.shzkTxnLogToolkit.cmd



# 3.使用./文件名 start 命令启动zookeeper服务
# ./zkServer.sh start
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

# 4.查看zookeeper启动服务的进程
# jps -l
8743 sun.tools.jps.Jps
8728 org.apache.zookeeper.server.quorum.QuorumPeerMain
#

# 5.查看zookeeper状态
# ./zkServer.sh status
/usr/bin/java
ZooKeeper JMX enabled by default
# 6.启动服务使用的配置文件位置
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost.
# 本地模式
Mode: standalone
启动zookeeper客户端:
# 1.查看zookeeper 中的bin目录
# ls
README.txt    zkCli.cmdzkEnv.cmdzkServer.cmd            zkServer.sh          zkTxnLogToolkit.sh
zkCleanup.shzkCli.sh   zkEnv.sh   zkServer-initialize.shzkTxnLogToolkit.cmd

# 2.启动zookeeper客户端,注意不需要start命令,直接启动即可
# ./zkCli.sh
/usr/bin/java
Connecting to localhost:2181
2023-09-20 00:31:47,347 - INFO - Client environment:zookeeper.version=3.5.7-f0fdd52973d373ffd9c86b81d99842dc2c7f660e, built on 02/10/2020 11:30 GMT
2023-09-20 00:31:47,349 - INFO - Client environment:host.name=node1-zookeep
2023-09-20 00:31:47,349 - INFO - Client environment:java.version=1.8.0_382
2023-09-20 00:31:47,351 - INFO - Client environment:java.vendor=Red Hat, Inc.
2023-09-20 00:31:47,351 - INFO - Client environment:java.home=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.382.b05-1.el7_9.x86_64/jre
...

退出zookeeper客户端:
# 退出客户端 quit 命令
quit

WATCHER::

WatchedEvent state:Closed type:None path:null
2023-09-20 00:36:28,568 - INFO - Session: 0x1000028a4700001 closed
2023-09-20 00:36:28,568 - INFO - EventThread shut down for session: 0x1000028a4700001

停止zookeeper服务:
# 1.停止zookeeper
# ./zkServer.sh stop
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED
# 2.再次查看进程,zookeeper已经不存在了
# jps -l
8953 sun.tools.jps.Jps
zoo.cfg文件配置参数:
# The number of milliseconds of each tick
# 通信心跳时间,zookeeper服务器与客户端心跳时间,单位:毫秒
tickTime=2000


# The number of ticks that the initial
# synchronization phase can take
# Leader与Follower初始通信时限(第一次两者建立通信的时候能容忍的最多的心跳次数 tickTime的数量)
initLimit=10


# The number of ticks that can pass between
# sending a request and getting an acknowledgement
# Leader与Follower同步通信时限,两者之间时间如果超过 syncLimit * tickTime
# Leader 认为 Follower 已经挂掉,从服务器列表中删除Follwer
syncLimit=5


# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
# 保存zookeeper中的数据。
# 注意:默认的tmp目录,容易被Linux系统定期删除,所以一般不使用默认的tmp目录
dataDir=/opt/module/zookeeper-3.5.7/zkData


# the port at which the clients will connect
# 客户端连接端口,通常不做修改
clientPort=2181

# the maximum number of client connections.
# increase this if you need to handle more clients
# 客户端最大连接数
#maxClientCnxns=60
zookeeper集群

        实现集群的高可用。实际生产环境的集群搭建,需要我们使用Zookeeper的协调服务(如心跳机制)来保证集群节点的高可用,并实现故障节点自动切换、数据自动迁徙。
        当前演示的为在三台服务器(192.168.188.135(节点一),192.168.188.136(节点二),192.168.188.137(节点三))上安装摆设zookeeper(每台安装步调同上)

1.配置服务器编号
        ①在创建好的 /opt/module/zookeeper-3.5.7/zkData 目次下创建一个myid的文件
添加myid文件时,一定要在Linux里面创建,在notepad或者使用xftp用文本编辑创建很可能会导致乱码
# 使用vi 命令创建myid文件,并且在文件中添加与server对应的编号
# 注意上下不要有空行,左右不要有空格!
# vi myid
# cat myid
1

        ②拷贝安装配置好的zookeeper目次到其他服务器上,这里有两种方式,
- 方式一:直接拷贝zookeeper的安装目次或者按照上面单点的安装方式在多太服务器上举行安装。(比较繁琐)
- 方式二:使用xsync 集群分发脚本(或者使用scp -r 目次名 目标IP地点 目标目次的方式依次分发也可以)如果知道怎么使用xsync,请看这里集群分发脚本xsync简单使用-CSDN博客
# 拷贝zookeeper安装到多太服务器
# xsync zookeeper-3.5.7
③ 完成之后将每台服务器上的myid文件设置对应唯一标识
# 节点一的myid文件改为为1
# vim zkData/myid
# catzkData/myid
1

# 节点二的myid文件改为为2
# vim zkData/myid
# cat zkData/myid
2

# 节点三的myid文件改为为3
# vim zkData/myid
# cat zkData/myid
3
2.添加配置
增补:配置IP映射名(可以不配置,但是建议照旧配置好,配置 IP 映射名可以提高集群的可维护性和可扩展性。它使得节点更易于辨认和引用,而且在节点的 IP 地点发生变革时也能保持一致。)
配置IP映射的方式:


[*]打开每个zookeeper服务器节点的主机文件,一般在位置在: /etc/hosts
[*]在每个节点的主机文件最后,添加以下条目:
# IP地址   主机名(自己定义)

[*]将 IP地点 更换为节点的实际 IP 地点,将 主机名 更换为您盼望使用的节点主机名。确保在每个节点上都添加了相同的条目,并将每个节点的 IP 地点和主机名逐一对应。
#例如,假设您有三个节点,节点1 的 IP 地址为 192.168.0.1,节点2 的 IP 地址为 192.168.0.2,节点3 的 IP 地址为 192.168.0.3,您可以在每个节点的主机文件中添加以下条目:

192.168.0.1   node1_zookeeper
192.168.0.2   node2_zookeeper
192.168.0.3   node3_zookeeper

# 保存并关闭每个节点的主机文件。
在 ZooKeeper 配置文件 zoo.cfg 中的 server.X 配置项中,使用相应的主机名更换 IP 地点,以便引用节点。
这样配置后,ZooKeeper 节点将使用主机名来通信和交流,而不是直接使用 IP 地点。
        ①在每一个节点服务器上的zookeeper配置文件(../conf/zoo.cfg)中增加如下配置
# 如果配置IP的映射就使用hostname
server.1=node1_zookeeper:2888:3888
server.2=node2_zookeeper:2888:3888
server.3=node3_zookeeper:2888:3888

# 如果没有配置,就直接使用服务的IP即可
server.1=192.168.188.135:2888:3888
server.2=192.168.188.136:2888:3888
server.3=192.168.188.137:2888:3888
        ②# 配置详解 server.A=B:C:D
                A:是一个数字,表示这是第几号服务器,就是myid中写的唯一标识,集群模式下配置一个文件myid,这个文件在zkData目次下,这个文件里面有一个数据就是A的值,zookeeper启动时读取该文件,拿到里面的数据与zoo.cfg里面的配置信息做对你,从而判断是哪个server
                B:每个节点服务器的地点,如果修改了hostname(/etc/hostname),那么使用配置好的hostname,如果没有修改,那么就直接使用IP
                C:是这个Follower服务器与集群中的Leader服务器互换信息的端口;
                D:万一集群中的Leader服务器挂了,需要一个端口来重新选举,选出一个新的Leader,而这个端口就是用来实行选举时服务器相互通信的端口

        ③ 然后在各个服务器节点上配置环境变量(不配置也可以,对集群环境没有影响,不外这样就无法全局访问了,本身根据需求选择)

# vim 命令编辑profile文件
# vim /etc/profile

#在profile文件最末尾添加如下配置:
# zookeeper envionment variables
export ZOOKEEPER_HOME=/opt/module/zookeeper-3.5.7
export PATH=$ZOOKEEPER_HOME/bin:$PATH


# 激活环境变量 source /etc/profile
# source /etc/profile
④开放防火墙端口,如果关闭防火墙或者开放端口,可能会导致节点之间连接失败导致启动失败。


[*]启动Firewalld服务:sudo systemctl start firewalld
[*]停止Firewalld服务:sudo systemctl stop firewalld
[*]设置开机启动:sudo systemctl enable firewalld
[*]停止开机启动:sudo systemctl disable firewalld
[*]查看状态:sudo firewall-cmd --state
[*]查看所有开放端口:sudo firewall-cmd --list-ports
[*]开放端口:sudo firewall-cmd --add-port=端口号/协议 --permanent(永久开放)

[*]例如:sudo firewall-cmd --add-port=80/tcp --permanent(永久开放)

[*]移除开放端口:sudo firewall-cmd --remove-port=端口号/协议 --permanent(例如:sudo firewall-cmd --remove-port=80/tcp --permanent)
[*]重新加载配置:sudo firewall-cmd --reload
# 开放指定端口
# sudo firewall-cmd --add-port=2888/tcp
success
# sudo firewall-cmd --add-port=3888/tcp
success
# sudo firewall-cmd --add-port=2181/tcp
success 或
# 直接关闭防火墙(正式环境不建议)
# sudo systemctl stop firewalld
success
3.启动服务
1.如果是配置了环境的启动方式,三个节点全部启动zkServer
# 使用zkServer.sh start 即可
# zkServer.sh start
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

# 补充:
# 停止命令:zkServer.sh stop
# 重启命令zkServer.sh restart
2.没有配置环境的启动方式,三个节点全部启动zkServer
# 进入zookeeper的安装目录
# cd /opt/module/zookeeper-3.5.7/bin
# 查看可执行文件
# ls
README.txt    zkCli.cmdzkEnv.cmdzkServer.cmd            zkServer.sh          zkTxnLogToolkit.sh
zkCleanup.shzkCli.sh   zkEnv.sh   zkServer-initialize.shzkTxnLogToolkit.cmd
# 使用‘./要执行的文件 start’
# ./zkServer.sh start

# 补充
# 停止命令: ./zkServer.sh stop
# 重启命令: ./zkServer.sh restart
3.查看集群各节点状态
# 查看集群节点状态
# zkServer.sh status
#一个节点输出如下:
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2182. Client address: localhost.
Mode: leader

#另外两个节点输出如下:
# zkServer.sh status
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2182. Client address: localhost.
Mode: follower
有一台服务器的zk Mode为leader ,另外两台服务器的zk Mode为follower,如果配置了observer节点,则会有一台服务器的zk Mode为observer。

4.查看日志
zookeeper选举机制

https://img-blog.csdnimg.cn/img_convert/743e34fb53ee86be25ffab4bb9f4bb50.png

投票会优先投给myid比本身大的服务器节点,直到出现leader
服务器1启动:
                投票效果:服务器1 :1票
                不够半数以上(3票),选举无法完成,服务器1状态保持为LOOKING.
服务器2 启动:
                投票效果:服务器1 :0票,服务器2 :2票
                不够半数以上(3票),选举无法完成,服务器1和2状态保持为LOOKING.
服务器3 启动:
                投票效果:服务器1 :0票,服务器2 :0票,服务器3 :3票
                此时有服务器票数凌驾半数(3票),选举服务器3为Leader,服务器1和2状态保持为Following ,服务器三为Leading.
服务器4 启动:
                投票效果:服务器1和2 :0票,服务器2 :0票,服务器3 :3票,服务器4:1票
                此时服务器1,2,3已经不是LOOKING状态,leader已经产生,即使服务器4的myid更大,也不会更改选票。
服务器5启动:
                同服务器4一样。



[*]SID:服务器ID,用来标识一胎zookeeper几圈中的机器,每台机器的SID不能重复,和myid一致。
[*]ZXID:事务id,zxid是一个事务id,用来标识一次服务器状态的变更,在某一时刻集群中的每台机器的zxid值不一定完全一致,这和zookeeper服务器对于客户端更新请求的处理逻辑有关。
[*]Epoch:每个Leader的任期代号,如果没有Leader时同一轮投票过程中的逻辑时钟值是相同的。每投完一次票这个数据就会增加
1.当zookeeper集群各种的一胎服务器出现两种环境之一,就会开始进入Leader选举:


[*]服务器初始化启动。
[*]服务器运行期间无法和Leader保持连接
2.当一台机器进入Leader选举流程时,机器试图去选举Leader时,当前集群就会处于以下两种环境:

[*]集群中原来就存在一个Leader: 但是某台节点服务器由于连接不上而试图去选举Leader时,会被告知当前服务器的Leader信息,对于该机器来说,仅仅需要和Leader机器创建连接,并举行状态同步即可
[*]集群中确实不存在Leader:如果LEader不测挂掉,因此就会从新开始选举,此时选举的规则为:

[*]EPOCH(任期代号)大的直接选举为Leader
[*]EPOCH(任期代号)相同,事务ID大的选举为Leader
[*]如果任期代号、事务ID照旧没有选举出来的话,服务器ID大的选举为Leader

zookeeper启动停止脚本


1.创建一个文件(我放在/usr/local/bin,一般会在/home/bin目次下,自行选择)
# 查看当前所在目录
# pwd
/usr/local/bin
# 创建zk.sh文件
# vim zk.sh         zookeeper实行脚本编写(zk.sh文件) 
#!/bin/bash
# 传入的命令
case $1 in
"start"){
    # 循环集群中所有节点
        for i in node1-zookeeper node2-zookeeper node3-zookeeper
    do
                   # 输出信息
         echo "------------------$i start ----------------------"
         # 通过ssh 执行,ssh $i "zookeeper安装目录下的执行文件"
         ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh start"
    done   
};;
"stop"){
        for i in node1-zookeeper node2-zookeeper node3-zookeeper
    do
         echo "------------------$i stop ----------------------"
         ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh stop"
    done   
};;
"status"){
        for i in node1-zookeeper node2-zookeeper node3-zookeeper
    do
         echo "------------------$i status ----------------------"
         ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh status"
    done   
};;
esac
2.增加脚本的实行权限(直接给最大权限所有用户能访问,有限制不同用户需求本身研究Linux权限)
# 添加前
# ll
-rw-r--r--. 1 root root 822 9月21 05:21 zookeeper.sh

# 添加执行权限
# chmod 777 zookeeper.sh

# 添加后
# ll
-rwxrwxrwx. 1 root root 822 9月21 05:21 zookeeper.sh
3.实行集群脚本


[*]zookeeper集群实行停止脚本
# zookeeper.shstop
------------------node1-zookeeper stop ----------------------
root@node1-zookeeper's password:
# 这里我没有配置免密,如果提示就输入自己的登录密码就好
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED
------------------node2-zookeeper stop ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED
------------------node3-zookeeper stop ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED

[*]zookeeper集群实行启动脚本
# zookeeper.shstart
------------------node1-zookeeper start ----------------------
root@node1-zookeeper's password:
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
------------------node2-zookeeper start ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
------------------node3-zookeeper start ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED


[*]启动状态下,实行zookeeper集群状态(status)脚本 

root@node1-zookeep bin]# zookeeper.shstatus
------------------node1-zookeeper status ----------------------
root@node1-zookeeper's password:
# 这里我没有配置免密,如果提示就输入自己的登录密码就好
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2182. Client address: localhost.
Mode: follower
------------------node2-zookeeper status ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2182. Client address: localhost.
Error contacting service. It is probably not running.
------------------node3-zookeeper status ----------------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Client port found: 2182. Client address: localhost.
Mode: leader
zookeeper客户端命令行
1.连接客户端
# 查看可执行文件
# ls
README.txt    zkCli.cmdzkEnv.cmdzkServer.cmd            zkServer.sh          zkTxnLogToolkit.sh
zkCleanup.shzkCli.sh   zkEnv.sh   zkServer-initialize.shzkTxnLogToolkit.cmd
# 启动本地客户端的命令
# zkCli.sh
/usr/bin/java
Connecting to localhost:2181
2023-09-21 08:12:06,571 - INFO - Client environment:zookeeper.version=3.5.7-f0fdd52973d373ffd9c86b81d99842dc2c7f660e, built
...    启动远程客户端(其他节点)
# 这里我们以启动节点2做演示
# zkCli.sh -server node2_zookeeper:2181
/usr/bin/java
Connecting to node2_zookeeper:2181
2023-09-21 08:18:06,417 - INFO - Client environment:zookeeper.version=3.5.7-f0fdd52973d373ffd9c86b81d99842dc2c7f660e, built on 02/10/2020 11:30 GMT
...
2.节点类型

https://img-blog.csdnimg.cn/img_convert/0cb461151cff54f8026c5cdb96d0d60d.png

创建长期节点:                                                                   


[*]如果是正常创建长期节点,使用create 节点名称 内容 即可,如: create /test01 "this is test node"
[*]如果是创建携带编号的长期节点,则添加[ -s ]参数即可: create -s /test01 "this is test node"

# 创建一个节点名为test01,内容是this is test node
create/test01 "this is test node"
Created /test01
# 使用ls 查看所有节点
ls /


# 也可以创建有多个层级的节点
# 如:在test01中再次创建一个demo01节点,内容是this is second level
create /test01/demo01 "this is second level"
Created /test01/demo01
# 查看所有节点
ls /

# 查看test01中demo01
ls /test01

# 获取到test01中的信息
get -s /test01
this is test node
cZxid = 0xa00000006 #创建节点时的事务ID
ctime = Thu Sep 21 09:46:24 CST 2023 #创建时间
mZxid = 0xa00000006 #最后一次创建的事务ID
mtime = Thu Sep 21 09:46:24 CST 2023 #后一次事务的时间
pZxid = 0xa00000007 #子节点的事务ID
cversion = 1 #版本号
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0 #零时节点
dataLength = 17 # 数据长度
numChildren = 1 #对应的子节点个数:一个demo01子节点 创建零时节点:

# 创建零时节点,需要携带参数[-e]
create -e /test03 "...点"
Created /test03
# 创建携带编号的零时节点,需要携带参数[-e]和[-s]
create -e -s/test02 "临时节点"
Created /test020000000002

#查看创建的节点
ls /


#获取带参数的零时节点和不带参数的零时节点的内容
get /test020000000002
临时节点
get /test03
临时节点

# 或添加[-s]参数查看不带参数的零时节点的完整信息
get -s /test03
临时节点
cZxid = 0xa00000008
ctime = Thu Sep 21 10:06:00 CST 2023
mZxid = 0xa00000008
mtime = Thu Sep 21 10:06:00 CST 2023
pZxid = 0xa00000008
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x20003eee5910000
dataLength = 12
numChildren = 0

# 退出客户端
quit

WATCHER::

WatchedEvent state:Closed type:None path:null
2023-09-21 10:15:57,436 - INFO[main...

# 再次连接
# zkCli.sh -server node2-zookeeper:2181
/usr/bin/java
Connecting to node2-zookeeper:2181
2023-09-21 10:16:06,267 - INFO - Client environment:zookeeper.version=3.5.7-f0fdd52973d373ffd9c86b81d99842dc2c7f660e, built on 02/10/2020 11:30 GMT
2023-09-21 10:16:06,268 - INFO - Client environment:host.name=node1-zookeeper
2023-09-21 10:16:06,269 - INFO...
# 查看节点
ls /

# 发现创建的test03和test020000000002零时节点不在了

[*]一旦zookeeper客户端断开再次连接,零时节点就不存在了
修改节点的值
# 查看所有节点
ls /

# 获取test01的值
get /test01
this is test node
# 修改test01节点的值为 "这是一个节点",有时候输入中文是显示为“...”
set /test01 "这是一个节点"
# 再次获取
get /test01
这是一个节点
3.监听器


[*]首先有一个main()线程,在main线程中创建zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信(connnet),一个负责监听(listener)。
[*]通过connect线程将注册的监听事件发送给zookeeper。
[*]在zookeeper的注册监听器列表中奖注册的监听事件添加到列表中。
[*]zookeeper监听到有数据或路径变革,就会将这个消息发送给listener
[*]listener线程内部调用了process()方法。

https://img-blog.csdnimg.cn/img_convert/eb4c93fbc2f8ec619959384de6f27a8e.png

注意:每次设置监听时,无论是监听数据照旧监听节点变革,注册一次监听只会有一次收效,如果需要再次监听,需要再次注册
① 监听数据的变革
#在node3_zookeeper中创建var_watch节点
create /var_watch "...听"
Created /var_watch
#查看创建好的var_watch节点
get -s /var_watch
测试监听


# 查看所有节点
ls /

# 使用get -w [被监听的节点] 命令进行监听
get -w /var_watch
测试监听

...

#在node2_zookeeper中修改该var_watch的值
set /var_watch "............了"

#此时在node3_zookeeper中有消息提示:

WATCHER::

WatchedEvent state:SyncConnected type:NodeDataChanged path:/var_watch

②监听节点数量增减的变革
# 在node3_zookeeper中:
# 因为我们在上面刚创建了var_watch节点,里面只有一条数据,并没有子节点
# 所以我们直接使用 ls -w [被监听的节点] 命令来监听节点的变化
ls -w /var_watch

# 我们在node2_zookeeper中给var_watch新增一个子节点,
create /var_watch/watch01
Created /var_watch/watch01

#此时在node3_zookeeper中有消息提示:

WATCHER::

WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/var_watch

③节点删除与查看
# 查看当前所有节点
ls /


# 节点一中存在一个子节点
ls /test01


# 直接删除,会提示该节点不是空的,需要先将子节点删除
delete /test01
Node not empty: /test01

# 删除test01的子节点
delete /test01/demo01

# 删除后
ls /test01
[]
④递归删除:删除当前节点及所有子节点
# 查看var_watch节点,也存在一个子节点
ls /var_watch


# 使用deleteall 删除该节点和其子节点
deleteall /var_watch
ls /

zookeeper客户端API(Java)
1.创建一个java的Maven工程,在POM文件中添加与本身的zookeeper版本一致的依靠
<dependency>
            <groupId>org.apache.zookeeper</groupId>
            <artifactId>zookeeper</artifactId>
            <version>3.5.7</version>
</dependency>
2.使用
/**
* 客户端API测试
*/
public class zkClient {
    /**
   * 1.如果配置了主机映射名则使用映射名,如果没有就使用IP地址
   * 2.如果是单点,则直接写对应的映射名或IP和端口号,如果是集群,
   *   那么把对应集群中需要连接节点的映射名或IP、端口写上,注意不能有任何空格
   *
   */
    private String connectString = "node1-zookeeper:2181,node1-zookeeper:2181,node1-zookeeper:2181";

    /**
   * 连接超时时间
   *
   */
    private int sessionTimeOut = 40000;

    private ZooKeeper zooKeeper;

    @Before
    public void init() throws IOException {
         zooKeeper = new ZooKeeper(connectString, sessionTimeOut, new Watcher() {
            @Override
            public void process(WatchedEvent watchedEvent) {
            }
      });
    }

    @Test
    public void test01() throws InterruptedException, KeeperException {
       zooKeeper.create("/java_Client_test",//创建的路径
               "使用Java操作的".getBytes(),//数据
               ZooDefs.Ids.OPEN_ACL_UNSAFE,//完全开放的ACL
               CreateMode.PERSISTENT//不带编号的持久节点
               );
    }
}
3.可能出现
org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /java_Client_test
原因及办理方式:

[*]connectString错误,IP或者IP映射名、端口错误
[*]sessionTimeOut的超时时间太短,可以适当延长
[*]zookeeper服务没有启动,这是最low的错误
[*]centOS防火墙没关闭(或者是没有开放端口)
[*]没有配置Windows的hosts文件,默认位置在 C:\Windows\System32\drivers\etc,找到hosts文件,在里面添加(根据本身的IP和映射名): # VMware_CentOS7_zookeeper
192.168.188.135 node1-zookeeper
192.168.188.136 node2-zookeeper
192.168.188.137 node3-zookeeper
案例:服务器动态上下线


https://img-blog.csdnimg.cn/img_convert/fccaa6d56818250735c470409f97164b.png

①:客户端
package com.moyuwanjia.study_zookeeper.demo01.case1;

import com.sun.org.apache.xpath.internal.SourceTree;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;

import java.io.IOException;
import java.util.ArrayList;
import java.util.List;

/**
* 服务器动态上下线注册:client
*/
public class DistributeClient {

    private String connectString = "node1-zookeeper:2181,node1-zookeeper:2181,node1-zookeeper:2181";

    private Integer sessionTimeOut = 4000;

    private ZooKeeper zooKeeper;

    public static void main(String[] args) throws IOException, InterruptedException, KeeperException {
      DistributeClient distributeClient = new DistributeClient();
      // 1.建立连接
      distributeClient.Build();
      // 2.获取存在的服务节点名称
      distributeClient.getServers();
      // 3.模拟程序服务一直在运行
      distributeClient.bussiness();

    }

    private void bussiness() throws InterruptedException {
      Thread.sleep(Long.MAX_VALUE);
    }

    private void Build() throws IOException {
      zooKeeper = new ZooKeeper(connectString, sessionTimeOut, event -> {
            try {
                getServers();
            } catch (InterruptedException e) {
                throw new RuntimeException(e);
            } catch (KeeperException e) {
                throw new RuntimeException(e);
            }
      });
    }

    public void getServers() throws InterruptedException, KeeperException {
      List<String> children = zooKeeper.getChildren("/servers", true);
      ArrayList<String> servers = new ArrayList<>();
      for (String child : children) {
            byte[] data = zooKeeper.getData("/servers/" + child, false, null);
            servers.add(new String(data));
      }
      System.out.println(servers);

    }

}

② 服务端
package com.moyuwanjia.study_zookeeper.demo01.case1;

import org.apache.zookeeper.*;

import java.io.IOException;

/**
* 服务器动态上下线注册:server
*
*/
public class DistributeServer {

    private String connectString = "node1-zookeeper:2181,node1-zookeeper:2181,node1-zookeeper:2181";
    private Integer sessionTimeOut = 4000;

    private ZooKeeper zooKeeper;

    public static void main(String[] args) throws IOException, InterruptedException, KeeperException {
      DistributeServer distributeServer = new DistributeServer();
      // 1.获取连接
      distributeServer.Build();
      // 2.创建服务名
      distributeServer.createNodeServer(args);
      // 模拟程序服务一直在运行
      distributeServer.bussiness();
    }

    private void bussiness() throws InterruptedException {
      Thread.sleep(Long.MAX_VALUE);
    }

    private void Build() throws IOException {
         zooKeeper = new ZooKeeper(connectString, sessionTimeOut, new Watcher() {
            @Override
            public void process(WatchedEvent event) {

            }
      });
    }

    /**
   * 创建一个携带编号的临时节点
   * @param serverName
   * @throws InterruptedException
   * @throws KeeperException
   */
    private void createNodeServer(String serverName) throws InterruptedException, KeeperException {
      String s = zooKeeper.create("/servers/" + serverName, serverName.getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
      System.out.println(serverName + "is online");
    }


}
④ 启动客户端,再启动服务端,在启动服务端的时间,我们需要传递一个参数模拟服务节点名称:点击编辑配置 -> 选择运行服务端的主程序->填入参数(Program arguments)-> 点击Apply -> ok

https://img-blog.csdnimg.cn/img_convert/c4c1a10cbcbdae4af478f1af39d3f895.png


https://img-blog.csdnimg.cn/img_convert/295bfc50120d79756c12333cdf1ad954.png
⑤演示效果:
1.客户端启动

https://img-blog.csdnimg.cn/img_convert/5722d8c26fefde97a049cbe60161223d.png

2.服务端node02启动

https://img-blog.csdnimg.cn/img_convert/ff2a3ee499edd1e37935f052bb7ff4b0.png

此时的客户端就监听到node02已经上线

https://img-blog.csdnimg.cn/img_convert/50c683797c16cc26316fca3754fe7a1f.png

3.把服务端传递的参数node2改为node3,然后再重启服务端

https://img-blog.csdnimg.cn/img_convert/e42b8b1c5330e438a2551a5bbb03250e.png

服务端:

https://img-blog.csdnimg.cn/img_convert/8c4ea3520c8c2927da90cac75261552b.png

此时的客户端已经监听到node2已下线,node3已上线

https://img-blog.csdnimg.cn/img_convert/d305487e342959a2188630ff181d017e.png

案例:zookeeper分布式锁

package com.moyuwanjia.study_zookeeper.demo01.case2;

import org.apache.zookeeper.*;
import org.apache.zookeeper.data.Stat;

import java.io.IOException;
import java.util.Collections;
import java.util.List;
import java.util.concurrent.CountDownLatch;

/**
* 测试案列: zk分布式锁
*/
public class DistributedLock {


    private String connectString = "node1-zookeeper:2181,node1-zookeeper:2181,node1-zookeeper:2181";
    private Integer sessionTimeOut = 4000;
    private ZooKeeper zooKeeper;
    private CountDownLatch connectLatch = new CountDownLatch(1);
    private CountDownLatch waitLatch = new CountDownLatch(1);

    // 记录前一个节点的路径
    private String waitPath;
    // 记录当前节点
    private String currentMod;


    public DistributedLock() throws IOException, InterruptedException, KeeperException {
      // 获取连接
      zooKeeper = new ZooKeeper(connectString, sessionTimeOut, new Watcher() {
            @Override
            public void process(WatchedEvent watchedEvent) {
                // connectLatch 如果连接上zookeeper就释放
                if (watchedEvent.getState() == Event.KeeperState.SyncConnected) {
                  connectLatch.countDown();
                }

                // waitLatch 需要释放
                if (Event.EventType.NodeDeleted == watchedEvent.getType() && watchedEvent.getPath().equals(waitPath)) {
                  waitLatch.countDown();
                }
            }
      });
      // 等待zk获取到连接,再往下执行(阻塞等待)
      connectLatch.await();
      // 判断根节点是否存咋,不存在则创建
      Stat exists = zooKeeper.exists("/locks", false);
      if (exists == null) {
            // 创建根节点
            zooKeeper.create("/locks", "locks".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
      }

    }

    /**
   * 添加锁的方法
   */
    public void Lock() throws InterruptedException, KeeperException {
      //创建带序号的零时节点
      currentMod = zooKeeper.create("/locks/" + "seq-", null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
      // 判断创建的节点是否是最小的序号节点,如果是则获取到锁,如果不是,监听他的前一个序号比他小的节点
      List<String> children = zooKeeper.getChildren("/locks", false);
      //判断是否只存在一个节点
      if (children.size() == 1) {
            return;
      } else {
            //存在多个节点,先将其进行排序
            Collections.sort(children);
            //查找当前创建的节点的所在位置
            String thisNodeName = currentMod.substring("/locks/".length());
            //通过节点名获取节点位置
            int index = children.indexOf(thisNodeName);
            if (-1 == index) {
                System.out.println("数据错误");
            } else if (index == 0) {
                // 如果当前创建的节点位置在第一个,则直接获取锁即可
                return;
            } else {
                // 监听前一个节点
                waitPath = "/locks/" + children.get(index - 1);
                zooKeeper.getData(waitPath, true, null);
                // 等待监听
                waitLatch.await();
                return;
            }
      }
    }

    /**
   * 释放锁的方法
   */
    public void unLock() throws InterruptedException, KeeperException {
      zooKeeper.delete(currentMod, -1);
      System.out.println("释放锁");
    }


}

/**
* 测试锁:
*同时有三个线程获取锁,看看是否能同时获取到?
*通过结果我们看到,三个线程同时获取锁,一旦被某个线程获取到锁,就会被抢占,其他线程无法获取,只有等待其他线程将其释放掉,才能再次被获取!!
*
*/
class DistributedLockTest {

    public static void main(String[] args) throws IOException, InterruptedException, KeeperException {
      final DistributedLock lock1 = new DistributedLock();
      final DistributedLock lock2 = new DistributedLock();
      final DistributedLock lock3 = new DistributedLock();

      new Thread(() -> {
            try {
            lock1.Lock();
            System.out.println("线程1启动,获取到锁");
            // 等待之后释放锁
            Thread.sleep(5* 1000);
            lock1.unLock();
            } catch (InterruptedException | KeeperException e) {
                throw new RuntimeException(e);
            }
      }).start();

      new Thread(() -> {
            try {
                lock2.Lock();
                System.out.println("线程2启动,获取到锁");
                // 等待之后释放锁
                Thread.sleep(5* 1000);
                lock2.unLock();
            } catch (InterruptedException | KeeperException e) {
                throw new RuntimeException(e);
            }
      }).start();

      new Thread(() -> {
            try {
                lock3.Lock();
                System.out.println("线程3启动,获取到锁");
                // 等待之后释放锁
                Thread.sleep(5*1000);
                lock3.unLock();
            } catch (InterruptedException | KeeperException e) {
                throw new RuntimeException(e);
            }
      }).start();
    }

} Curator 框架实现分布式锁
使用原生的java API 开发存在的问题


[*]会话连接时异步的,需要本身去处理。比如使用CountDownLatch
[*]Watch 需要重复的注册,否则不会收效
[*]开发的复杂性比较高
[*]不支持多借点的删除和创建。需要本身递归等等
Curator是一个专门办理分布式锁的框架,办理了原生Java API开发分布式遇到的问题。


[*]使用 <dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-framework</artifactId>
    <version>4.3.0</version>
</dependency>
    <dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-recipes</artifactId>
    <version>4.3.0</version>
</dependency>
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-client</artifactId>
    <version>4.3.0</version>
</dependency>
演示
package com.moyuwanjia.study_zookeeper.demo01.case3;

import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.framework.recipes.locks.InterProcessMutex;
import org.apache.curator.retry.ExponentialBackoffRetry;

/**
* 使用Curator 实现分布式锁
*/
public class CuratorLockTest {
    public static void main(String[] args) {
    // 创建分布式锁1
      InterProcessMutex locks1 = new InterProcessMutex(getCuratorFramework(), "/locks");
      InterProcessMutex locks2 = new InterProcessMutex(getCuratorFramework(), "/locks");
      InterProcessMutex locks3 = new InterProcessMutex(getCuratorFramework(), "/locks");

      new Thread(() ->{
            try {
                locks1.acquire();
                System.out.println(Thread.currentThread() + "获取到锁");
                locks1.acquire();
                System.out.println(Thread.currentThread() + "再次获取到锁");
                Thread.sleep(5*1000);

                // 可重入锁
                locks1.release();
                System.out.println(Thread.currentThread() + "释放锁");
                locks1.release();
                System.out.println(Thread.currentThread() + "再次获释放锁");
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
      }).start();

      new Thread(() ->{
            try {
                locks2.acquire();
                System.out.println(Thread.currentThread() + "获取到锁");
                locks2.acquire();
                System.out.println(Thread.currentThread() + "再次获取到锁");

                Thread.sleep(5*1000);

                locks2.release();
                System.out.println(Thread.currentThread() + "释放锁");
                locks2.release();
                System.out.println(Thread.currentThread() + "再次获释放锁");
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
      }).start();

      new Thread(() ->{
            try {
                locks3.acquire();
                System.out.println(Thread.currentThread() + "获取到锁");
                locks3.acquire();
                System.out.println(Thread.currentThread() + "再次获取到锁");

                Thread.sleep(5*1000);

                locks3.release();
                System.out.println(Thread.currentThread() + "释放锁");
                locks3.release();
                System.out.println(Thread.currentThread() + "再次获释放锁");
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
      }).start();

    }
    public static CuratorFramework getCuratorFramework(){
      // 重试策略(重试时长、重试次数)
      ExponentialBackoffRetry exponentialBackoffRetry = new ExponentialBackoffRetry(3000, 3);
      CuratorFramework client = CuratorFrameworkFactory.builder().connectString("node1-zookeeper:2181,node1-zookeeper:2181,node1-zookeeper:2181")
                .connectionTimeoutMs(2000)
                .sessionTimeoutMs(2000)
                .retryPolicy(exponentialBackoffRetry).build();
      client.start();
      System.out.println("---------------------------zookeeper 启动成功-------------------------");
      return client;
    }

} 常见问题:

https://img-blog.csdnimg.cn/img_convert/8e64b1f2a2ae6ce70a8f2f20bfabfe55.png

https://img-blog.csdnimg.cn/img_convert/bfda865e6cd9b3ddd92047e6b599c31b.png

如有劳绩,就点个赞吧

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页: [1]
查看完整版本: 一文带你学会zookeeper(了解、安装、集群、使用)