【分布式与云计算期末复习】比斯兔考试版

打印 上一主题 下一主题

主题 1002|帖子 1002|积分 3006

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
仅自己的期末复习笔记,有些零星,但大部门包罗了往年例题的考点,来自于书本和其他博客。觉得我写的乱的也可以根据这些考点自己去百度和csdn其他大佬的博客自己填充~
目次
故障 故障检测 故障屏蔽 故障解决方法
 心跳检测
Lease租约机制
数据分布方式 副本
数据副本
 云服务
cap 
异常 
 远程调用 RMI
 RPC
RMI
​编辑
 进程间通信 Socket
TCP、UDP、Socket、远程过程调用RPC、远程方法调用RMI的明确,并阐述关联
故障处理
Raft共识算法
​编辑 互斥
​编辑 ​编辑缓存CDN
解耦
系统框架 
 ​编辑
 分布式文件系统
向量时钟 
Lamport
间接通信
 网络分区


故障 故障检测 故障屏蔽 故障解决方法



 心跳检测


总控节点每隔一段时间向work节点发送一个心跳包,如果一切正常,work节点就会回复总控节点的心跳包,同时心跳包中会含有work节点的呆板的运行情况(如load值, cpu和IO的利用情况)。否则总控节点尝试一定次数后仍收不到回包则以为work节点出现了故障。
心跳检测机制检测效果并不一定可靠。
比如可能网络问题(网络中断、 网络拥塞造成的所谓“瞬断” )或者work节点繁忙未应答,总控节点以为work节点失效,但其实work节点仍在正常提供服务。在分布式系统中,这个是存在一定业务风险的。他的问题主要在于它是片面判定节点失效。比如,总控节点以为work节点失效,所以为服务重新选取了新的主服务节点,而判定失效的节点可能正在继续正常工作,导致"双主"问题。
Lease租约机制


Lease就是由颁发者在某一有效期内的承诺。颁发者一旦发布lease给被颁发者不论状态如何是否收到都会被颁发者是为正常状态,只要lease不外期,颁发者就会严守承诺;接收方在lease的有效期内可以利用承诺,但一旦lease逾期,被颁发者一定不能用lease。在授权限期内颁发者默认被颁发者为正常状态,超出这个限期则以为他是异常的。纵然期间发生了异常,也要等限期到了再回收lease。
比方:A、B、C节点向Q节点发送“心跳”陈诉自身状态,Q节点收到后向A、B、C发送lease表示知道A、B、C节点正常,允许该节点在lease有效期内工作;Q会给primary节点一个特殊的lease。
Lease机制牺牲了A,获得了完全的C和很好的P。

确定节点状态
利用Lease机制设计分布式Cache系统,基本原理:
中心节点在向各节点发送数据的同时发送一个Lease,Lease具有一个有效时长,一旦凌驾该时长,Lease失效。
假设系统全局时钟一致,在发出Lease后的有效时长内,中心节点保证不对相应的数据进行修改。
节点在收到数据与Lease之后,将数据置于当地Cache,当对应Lease超时,删除相应Cache数据。
当中心节点需要修改数据时,先壅闭所有的读请求,并等待之前为该数据发出的Lease超时,然后对数据进行修改。
具体的服务器器与客户端节点⼀一个基本流程如下:
流程 2.3.1:基于 lease 的 cache,客户端节点读取元数据
1. 判定元数据是否已经处于当地 cache 且 lease 处于有效期内
1.1 是:直接返回 cache 中的元数据
1.2 否:向中⼼心折务器器节点请求读取元数据信息 26
1.2.1 服务器器收到读取请求后,返回元数据及⼀一个对应的 lease
1.2.2 客户端是否成功收到服务器器返回的数据
1.2.2.1 失败或超时:退出流程,读取失败,可重试
1.2.2.2 成功:将元数据与该元数据的 lease 记载到内存中,返回元数据
流程 2.3.2:基于 lease 的 cache,客户端节点修改元数据流程
1. 节点向服务器器发起修改元数据请求。
2. 服务器器收到修改请求后,壅闭所有新的读数据请求,即接收读请求,但不不返回数据。
3. 服务器器等待所有与该元数据相干的 lease 超时。
4. 服务器器修改元数据并向客户端节点返回修改成功。
数据分布方式 副本



数据副本




基本流程:
1:primary节点进行协调数据更新
2:外部节点向primary节点发送更新利用
3:primary节点对更新利用进行并发控制(即分列利用的先后顺序)
4:将更新利用发送给secondary节点
5:primary根据secondary节点的完成情况决定更新是否成功,返回外部节点。
 云服务


cap 


异常 


数据丢失问题:
1.生产者存放消息的过程中丢失消息
解决方案:



确认机制。每次生产者发送的消息都会分配一个唯一的id,如果写到了消息队列中,则broker会回传一个ack消息,分析消息接收获功。否则采用回调机制,让生产者重发消息。

2.消息队列丢失消息
解决方案:



broker在消息刷盘之后再给生产者响应。假设消息写入缓存中就返回响应,那么呆板突然断电这消息就没了,而生产者以为已经发送成功了。
如果broker是集群部署,有多副本机制,则消息不仅要写入当前broker,还需要写入副本机中。配置成至少写入两台机子后再给生产者响应,这样基本就能保证存储的可靠了。

3.消耗者丢失消息
解决方案:



消耗者处理完消息,自动ack.
消息乱序问题:
生产者向消息队列按照顺序发送了 2 条消息,消息1:增长数据 A,消息2:删除数据 A。
渴望效果:数据 A 被删除。
但是如果有两个消耗者,消耗顺序是:消息2、消息 1。则末了效果是增长了数据 A。



解决方案:
1.全局有序
只能有一个生产者往topic发送消息,而且一个topic内部只能有一个队列。消耗者也必须单线程消耗这个队列。



2.部门有序

将topic内部拆分,创建多个内存queue,消息1和消息2进入同一个queue。

创建多个消耗者,每个消耗者对应一个queue。




解决消息积存问题:
消息队列中很多消息来不及消耗,场景如下:

消耗者都挂了

消耗者消耗的速度太慢了

解决方案:




修复代码层面消耗者的问题。

停掉现有的消耗者。

临时创建好原先5倍的Queue数量

临时创建好原先5倍的消耗者。

将堆积消息全部转入临时的Queue

解决消息逾期失效
解决方案:

预备好批量重导的步伐

手动将消息闲时批量重导


解决重复消耗问题
插入数据库场景:

每次插入数据时,先检查数据库中是否有这条数据的主键id,如果没有,则进行更新利用。

写redis场景:

redis的set利用自然幂等性

其他场景:

生产者发送每条数据时,增长一个全局唯一id,每次消耗时,去redis中检查是否有这个id,如果没有,则进行正常消息处理。若有,则分析之前消耗过,制止重复消耗。

异步复制数据导致数据丢失
主节点异步同步数据给从节点过程中,主节点宕机了,导致部门数据未同步到从节点,而该从节点又被选举为主节点,这个时间就有部门数据丢失了。引起呆板宕机的原因可能是停电、内存错误等。发生呆板宕机时,节点无法进入可用状态,呆板需要重启,但是内存会被清空。
解决方法:
一些节点需要读取当地储存装备当中的信息或其他节点的信息来恢复内存信息,还有一些“无状态”节点无需读取任何信息即可进入可用状态。
 远程调用 RMI


 RPC


 


(1) 客户端(client)以当地调用方式(即以接口的方式)调用服务;

(2) 客户端存根(client stub)接收到调用后,负责将方法、参数等组装成能够进行网络传输的消息体(将消息体对象序列化为二进制);

(3) 客户端通过sockets将消息发送到服务端;

(4) 服务端存根( server stub)收到消息后进行解码(将消息对象反序列化);

(5) 服务端存根( server stub)根据解码效果调用当地的服务;

(6) 当地服务执行并将效果返回给服务端存根( server stub);

(7) 服务端存根( server stub)将返回效果打包成消息(将效果消息对象序列化);

(8) 服务端(server)通过sockets将消息发送到客户端;

(9) 客户端存根(client stub)接收到效果消息,并进行解码(将效果消息发序列化);

(10) 客户端(client)得到终极效果。

RMI


 

 



 

 

 进程间通信 Socket


 Socket种别打电话:区号相当于网络地址,一个交换机相当于一个主机;用户的手机相当于一个socket,电话号码相当于socket号;要想拨打电话双方都要有手机和手机号,所以要想进行服务就创建在双方都有socket端口和socket号的前提下;拨打电话相当于发送毗连请求;对方处于空闲相当于对方主机开机并可以担当毗连请求;接通电话相当于毗连成功,挂电话相当于关闭socket并撤销毗连。
TCP、UDP、Socket、远程过程调用RPC、远程方法调用RMI的明确,并阐述关联

TCP:面向毗连,可靠性好,基于字节流
UDP:非面向毗连,可靠性差,基于数据报
Socket:独立于具体协议的网络编程接口,对TCP/IP的封装,编程人员可以通过Socket控制数据在客户端与服务器之间业务的逻辑交互,类似汽车的发动机
RPC:是一种远程调用方法,基于http协议,通过C/S模式,向服务器发送请求并等待返回效果。
RMI:是java独有的,基于差异网路节点上的java捏造机与Java对象之间的相互调用,利用TCP/IP传输java对象,利用RMI传输需要将对象实例化,由于差异java捏造机的java对象无法共享,所以采用序列化进行对象间的数据交互。RMI是面向对象方式的javaRPC。
故障处理




  • 客户端不能找到服务器
e.g. 服务端挂掉/ 服务端更新而客户端还用的老版本

解决方案:利用 返回值(-1)、exception、signal等代表异常



  • 客户端到服务端的请求信息丢失
客户端设置一个timer,超时重发



  • 服务端到客户端的回复信息丢失
客户端设置一个timer,超时则重发;对于不幂等的请求,为请求分配序号,服务器区别差异的请求



  • 服务端在收到请求后崩溃

  • 等待服务器重启然后重发,保证RPC至少被执行一次(至少执行一次语义)
  • 立刻放弃并报告错误,保证RPC最多执行一次
  • 什么也不做,语义由客户端自己保证


  • 客户端在发送请求后挂掉
问题:计算在服务端进行却没有接收计算效果的一端(孤儿),浪费了计算资源,而且可能在计算时还会锁定数据;还可能导致混淆,由于客户端重启后重新调用RPC可能收到上一个RPC的效果。

解决方案:1)extermination:在客户端存根发送RPC前,将利用记载在安全存储的 log entry上,重启后,查看 log entry 然后将 孤儿终止(为每个RPC写 log entry 代价较高,如果网络切分了也无法终止孤儿)2)reincarnation:给时间划分差异的时期,当客户端重启时,开始一个新的时期,并将这个消息广播出去,服务器收到这个消息时,就终止使命的计算。3)expiration: 给rpc执行一个标准的时间段,未完成使命需显式申请附加配额。

Raft共识算法


 互斥


 


 
缓存CDN




解耦


系统框架 

 



负载可以提高整个架构的抗压和流量的负载能力,将用户请求均匀分配到应用服务器,有效的解决了单点失效的问题,通过应用服务器要交互的是数据层,也就是我们所说的MySql或者Oracle,一样平常在大型分布式站点中面对的都是一群数据库服务器,也是为了有效的防止数据库单点失效的问题,或者在大型应用中的高并发问题,以及和数据库交互的缓存服务器,还有各种类型的文件资源,差异的类型的资源放在差异的服务器,从编程的角度来说这是解耦,其实从现实上来说也就是解耦。

 分布式文件系统

上传文件 下载文件流程图 


向量时钟 



Lamport

每个变乱对应一个Lamport时间戳,初始值为0


  • 如果变乱在节点内发生,当地进程中的时间戳+1
  • 如果变乱属于发送变乱,当地进程中的时间戳+1,并在消息中带上该时间戳
  • 如果时间属于担当变乱,当地进程中的时间戳 = Max (当地时间戳,消息中的变乱戳)+ 1
间接通信


 网络分区


网络分区就是其中的一种故障类型。
通常情况下,网络分区指的是在分布式集群中,节点之间由于网络不通,导致集群中节点形成差异的子集,子会合节点间的网络相通,而子集和子集间网络不通。网络分区是子集与子集之间在网络上相互隔离了。
如何判定是否发生了网络分区?
在分布式集群中,差异的集群架构网络分区的形态略有差异。要判定是否发生了网络分区,需要弄清楚差异的分布式集群架构,即会合式架构和非会合式架构中的网络分区形态是什么样的。
会合式架构的网络分区形态
会合式架构中,Master 节点通常以一主多备的形式部署,Slave 节点与 Master 节点相毗连,Master 节点的主和备之间会通过心跳相互通信。
以 Master 节点主备部署为例,如下图所示,会合式架构中的网络分区主要是主节点与备节点之间网络不通,且一部门 Slave 节点只能与主 Master 节点连通,另一部门只能与备 Master 节点连通。


非会合式架构中的网络分区形态
如下图所示,非会合式架构中,节点是对称的,因此网络分区的形态是形成差异子集,子集内节点间可互相通信,而子集之间的节点不可通信。比如,子集群 1 中 Node1、Node2 和 Node4 可以相互通信,子集群 2 中 Node3 和 Node5 也可以相互通信,但子集群 1 和 子集群 2 之间网络不通。


从会合式和非会合式这两种分布式集群架构的网络分区形态可以看出,要判定是否形成网络分区,最质朴的方法就是判定节点之间心跳是否超时,然后将心跳可达的节点归属到一个子会合。
解决方案
由于非会合式系统中,每个节点都是对等的、提供的服务类似,所以当多个子集群之间不可达,或部门节点出现故障后,只管提供的服务质量(SLA)可能会下降,但并不影响这些剩余节点或子集群对外提供服务。所以,重点是会合式系统的网络分区问题。
分布式锁是实现多个进程有序、制止冲突地访问共享资源的一种方式。
基于共享资源处理网络分区的焦点,类似于分布式锁的机制。哪个子集群获得共享资源的锁,就保留该子集群。获得锁的集群提供服务,只有当该集群释放锁之后,其他集群才可以获取锁。
这种方式的问题是,如果获取锁的节点发生故障,但未释放锁,会导致其他子集群不可用。 因此,这种方式适用于获取锁的节点可靠性有一定保证的场景。
基于仲裁和共享资源的网络分区处理方法,都是依赖一个三方的节点或组件,借助这个第三方来保证系统中同时只有一个活动分区。所以,这两种处理方法适用于有一个稳固可靠的三方节点或组件的场景。





免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

正序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

忿忿的泥巴坨

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表