当前位置: 首页 > article >正文

zookeeper实战全面讲解(一)

zookeeper实战全面讲解(一)

这里没有太多的分析,只是做为一些简单配置及安装记录,生怕自己忘记了。

zk是什么?

ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop的重要组件,CDH版本中更是使用它进行Namenode的协调控制。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、名字服务、分布式同步、组服务等。ZooKeeper的目标就是封装好复杂易出错的关键服务,提供简单易用的接口和性能高效、功能稳定的系统提供给用户。分布式应用程序可以基于它实现同步服务,配置维护和命名服务等

分布式协调技术主要用来解决分布式环境当中多个进程之间的同步控制,让他们有序的去访问某种临界资源,防止造成"脏数据"的后果。

zk的角色

  1. Leader:领导者负责进行投票的发起与决议,更新系统状态,写数据,查看数据
  2. follower:用于接收客户端请求并向客户端返回结果,在选举过程中参与投票。
  3. observer:可以接收客户端连接,将写请求转发给leader节点,但observer不参与投票过程,只同步leader的状态。observer的目的是为了扩展系统,提高读写速度。

系统模型图

客户端请求处理器(requestprocessor),构成ZooKeeper服务的每个服务器都有一个备份。复制的数据库(replicateddatabase)是一个内存数据库,包含整个数据树。为了可恢复,更新会被log到磁盘,并且在更新这个内存数据库之前,先序列化到磁盘。

每个ZooKeeper都为客户端提供服务。客户端只连接到一个服务器,并提交请求。读请求直接由本地的复制数据库提供数据。对服务状态进行修改的请求、写请求通过一个约定的协议进行通讯。

作为这个协议的一部分,所有的写请求都被传送到一个叫“首领(leader)”的服务器,而其他的服务器,叫做“(随从)followers”,follower从leader接收信息修改的提议,并同意进行。当leader发生故障时,协议的信息层(messaginglayer)关注leader的替换,并同步到所有的follower。

ZooKeeper采用一个自定义的信息原子操作协议zab,由于信息层的操作是原子性的,ZooKeeper能保证本地的复制数据库不会产生不一致。当leader接收到一个写请求,它计算出写之后系统的状态,把它变成一个事务(二次提交协议)

zk的特点

  1. 最终一致性:client不论连接到哪个Server,展示给它都是同一个视图,这是zookeeper最重要的性能。
  2. 可靠性:具有简单、健壮、良好的性能,如果消息m被到一台服务器接受,那么它将被所有的服务器接受。
  3. 实时性:Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息,或者服务器失效的信息。但由于网络延时等原因,Zookeeper不能保证两个客户端能同时得到刚更新的数据,如果需要最新数据,应该在读数据之前调用sync()接口。
  4. 等待无关(wait-free):慢的或者失效的client不得干预快速的client的请求,使得每个client都能有效的等待。
  5. 原子性:更新只能成功或者失败,没有中间状态。
  6. 顺序性:包括全局有序和偏序两种:全局有序是指如果在一台服务器上消息a在消息b前发布,则在所有Server上消息a都将在消息b前被发布;偏序是指如果一个消息b在消息a后被同一个发送者发布,a必将排在b前面。
ZooKeeper的读写机制

Zookeeper是一个由多个server组成的集群一个leader,多个follower

  • 每个server保存一份数据副本
  • 全局数据一致
  • 分布式读写
  • 更新请求转发,由leader实施

zk的工作原理

Zookeeper的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式,它们分别是恢复模式(选主)和广播模式(同步)。当服务启动或者在领导者崩溃后,Zab就进入了恢复模式,当领导者被选举出来,且大多数Server完成了和leader的状态同步以后,恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

为了保证事务的顺序一致性,zookeeper采用了递增的事务id号(zxid)来标识事务。所有的提议(proposal)都在被提出的时候加上了zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一个新的epoch,标识当前属于那个leader的统治时期。低32位用于递增计数。

选主流程

当leader崩溃或者leader失去大多数的follower,这时候zk进入恢复模式,恢复模式需要重新选举出一个新的leader,让所有的Server都恢复到一个正确的状态。Zk的选举算法有两种:一种是基于basic paxos实现的,另外一种是基于fast paxos算法实现的。系统默认的选举算法为fast paxos。先介绍basic paxos流程:

  1. 选举线程由当前Server发起选举的线程担任,其主要功能是对投票结果进行统计,并选出推荐的Server;
  2. 选举线程首先向所有Server发起一次询问(包括自己);
  3. 选举线程收到回复后,验证是否是自己发起的询问(验证zxid是否一致),然后获取对方的id(myid),并存储到当前询问对象列表中,最后获取对方提议的leader相关信息(id,zxid),并将这些信息存储到当次选举的投票记录表中;
  4. 收到所有Server回复以后,就计算出zxid最大的那个Server,并将这个Server相关信息设置成下一次要投票的Server;
  5. 线程将当前zxid最大的Server设置为当前Server要推荐的Leader,如果此时获胜的Server获得n/2 + 1的Server票数, 设置当前推荐的leader为获胜的Server,将根据获胜的Server相关信息设置自己的状态,否则,继续这个过程,直到leader被选举出来。

通过流程分析我们可以得出:要使Leader获得多数Server的支持,则Server总数必须是奇数2n+1,且存活的Server的数目不得少于n+1.

每个Server启动后都会重复以上流程。在恢复模式下,如果是刚从崩溃状态恢复的或者刚启动的server还会从磁盘快照中恢复数据和会

http://www.lryc.cn/news/2414474.html

相关文章:

  • 6、ExtJs——Ext基础架构--认识Ext.js和Ext-more.js
  • Java高级编程——多线程
  • MySQL产品(DBMS)学习总结
  • 使用Python抓取并渲染包含JavaScript的网页(PhantomJS)
  • JAVA高频216道面试题+答案!!面试必备
  • 顶刊复现:机器学习解释利器—SHAP实战【免费获取】
  • 【Windows】Windows11查看文件的md5值
  • js 文件下载的代码
  • Mybatis源码解析--Mapper代理对象
  • 【D触发器】从底层重新认识 D 触发器、建立时间和保持时间
  • apple iMac一体机 装双系统 实战! (Apple +Win 7 64bit)Good
  • EJB3.0介绍
  • axure注册码
  • matlab2015的marker,matlab中markersize什么意思
  • SQL sever 笔记
  • surfacecreated啥时被调用_JavaScript当中的this究竟是个啥?
  • 第一节:1. 美国域名中心US Domain Center是什么,为什么选择它作为建站平台
  • 城市筛选检索
  • MySQL修改表(ALTER TABLE语句)
  • ORA-01008: 并非所有变量都已关联
  • 设计超炫的3D窗体旋转特效(windows7中所没有的特性)
  • 分享到QQ、QZone方法,无需登录
  • VMware Workstation 虚拟机 安装CentOS 8
  • CSMA/CA协议 80211
  • 多线程基础之二:mutex和semaphore使用方法
  • 移位寄存器及其应用
  • 赛门铁克端点防护(英語:)是由博通公司开发的安全软件套件,包括杀毒软件、入侵检测系统和防火墙,适用于服务器和台式电脑,在端点安全产品中拥有最大的市场份额。
  • 详细的图文Windows电脑设置自动关机/计划关机
  • WDM驱动模型简介
  • Flex4中文字幕教学视频(翻译自Adobe开发者中心)+ 离线下载播放器