[[429536]]

本文转载自微信公众号「高性能架构探索」，作家雨乐 。转载本文请相干高性能架构探索公众号。

全球好，我是雨乐。

发轫告诉全球一件事，在十一国庆时代，引擎的机器又又。。。又扛不住了流量。

迷水商城

经过监控分析，发现某个管事的一个实例场所的造谣机扛不住了，是以遴选临时顺次流量旁边之后，问题顾问了，但照旧酿成了不小的亏损。

迷水商城

经过这次故障，以及分析故障的历程中对负载平衡又有了新的愈加真切的意志，是以将这部分写出来，算是作念个故障转头吧图片。

迷水商城

1.写在前边

写本文的办法：

对负载平衡的壮健星星落落，不成体系。

阅读这篇著述需要的条目：

对OSI模子有多少了解 有耐烦。本文触及多量的学问点，且只可用翰墨才智讲清爽，是以翰墨比较多。

得益：

读完此篇著述，从宏不雅的角度壮健了负载平衡的旨趣以及达成机制。加深对分散式架构的了解

主要内容：

本文发轫从办法脱手，栽植什么是负载平衡，以及负载平衡在分散式系统中所承担的脚色以及提供的功能。 栽植负载平衡的分类。鉴识从 软硬件角度、地域范围角度 以及 OSI模子角度 进行分类栽植负载平衡的达成决议。 从负载平衡的战术角度来分析面前业界的负载平衡算法以过甚优过失 好了，准备好了么，让咱们脱手这次心仪之旅。 2.小引

发轫 撇开对线上的影响，如果线上突发来了流量，后端管事扛不住，咱们会若何作念呢?无非两种花式：

升迁机器竖立(CPU、内存、硬盘、带宽等) 加机器

上头两种花式，咱们称之为纵向彭胀和横向彭胀。

纵向彭胀，是从单机的角度通过加多硬件处理才略，比如CPU处理才略，内存容量，磁盘等方面，达成管事器处理才略的升迁，弗成得志大型分散式系统(网站)，大流量，高并发，海量数据的问题。

迷水商城

横向彭胀，通过添加机器来得志大型网站管事的处理才略。比如：一台机器弗成得志，则加多两台或者多台机器，共同承担拜谒压力。

3.办法

负载平衡，英文称呼为Load Balance，其含义就是指将负载(职责任务或者网罗苦求)进行平衡，分担到多个操作单元(管事器或者组件)上进走时行。办法是尽量将网罗流量 平均 发送到多个管事器上，以保证总计这个词业务系统的高可用。

负载平衡

在互联网的早期，网罗还不是很发达，流量相对较小，业务也比较绵薄，单台管事器或者实例就有可能得志拜谒需要。但如今在互联网发达的今天，流量苦求动辄百亿、甚而上千亿，单台管事器或者实例已彻底弗成得志需求，这就有了集群。无论是为了达成高可用照旧高性能，王人需要用到多台机器来彭胀管事才略，用户的苦求不管推敲到哪台管事器，王人能得到换取的相应处理。

另一方面，如何构建和协调管事集群这事情，又必须对用户一侧保持弥散的透明，即使苦求背后是由一千台、一万台机器来共同响应的，也绝非用户所关注的事情，用户需记着的唯有一个域名地址汉典。协调后方的多台机器，以挽回的接口对外提供管事，承担此职责的时期组件被称为 负载平衡。

负载平衡主要有以下作用：

高并发。通过遴选一定的算法战术，将流量尽可能的均匀发送给后端的实例，以此提高集群的并发处理才略。 伸缩性。字据网罗流量的大小，加多或者减少后端管事器实例，由负载平衡开导进行旁边，这么使得集群具有伸缩性。 高可用。负载平衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者额外时，减少其流量苦求或者平直跳过该实例，将苦求发送个其他可用实例，这使得集群具有高可用的特点。

安全看管。有些负载平衡器提供了安全看管功能。如：曲直名单处理、防火墙等。

4.分类 字据载体类型分类

从撑持负载平衡的载体来看，不错将负载平衡分为两类：

硬件负载平衡

软件负载平衡

硬件负载平衡

硬件负载平衡器是一种硬件开导，具有专门的操作系统。硬件负载平衡器位于传入流量和里面管事器之间，推行上充任“流量巡警”。当用户拜谒网站或者使用app某个功能时，它们发轫被发送到负载平衡器，然后负载平衡器字据一定的战术，将流量转发到后端不同的管事器。为确保最好性能，硬件负载平衡器字据自界说章程分拨流量，以免后端实例不胜重担。

迷水商城

传统上，硬件负载平衡器和应用管事器部署在腹地数据中心，负载平衡器的数目取决于预期的峰值流量。负载平衡器时时成对部署，以防其中一个失败。

面前业界发轫的两款硬件负载平衡器：F5和A10

硬件负载平衡

优点：

功能庞杂：撑持全局负载平衡并提供较全面的、复杂的负载平衡算法。

性能强悍：硬件负载平衡由于是在专用处理器上运行，因此朦拢量大，可撑持单机百万以上的并发。

安全性高：频频具备防火墙，防 DDos 抨击等安全功能。

迷水商城

过失

资本不菲：购买和珍视硬件负载平衡的资本王人很高(：F5价钱在15w~55w不等，A10价钱在55w-100w不等)。

彭胀性差：当拜谒量突增时，卓越适度弗成动态扩容。

软件负载平衡

软件负载平衡指的是在管事器的操作系统上装配负载平衡软件，从此管事器发出的苦求经软件负载平衡算法路由到后端集群的某一台机器上。

常见负载平衡软件有：LVS、Nginx、Haproxy。

软件负载平衡

优点

彭胀性好：稳妥动态变化，不错通过添加软件负载平衡实例，动态彭胀到超出开动容量的才略。

资本便宜：软件负载平衡不错在职何法式物理开导上运行，裁汰了购买和运维的资本。

过失

性能略差：比拟于硬件负载平衡，软件负载平衡的性能要略低一些。

软硬件负载平衡器的区别

硬件负载平衡器与软件负载平衡器之间最昭彰的区别在于，硬件负载平衡器需要特有的机架堆叠硬件开导，而软件负载平衡器只需装配在法式 x86 管事器或造谣机上。网罗负载平衡器硬件时时是过度竖立的——换句话说，它们的大小大概处理偶尔的岑岭流量负载。此外，每个硬件开导王人必须与一个额外的开导配对以得到高可用性，以防其他负载平衡器出现故障。 硬件和软件负载平衡器之间的另一个要害区别在于彭胀才略。跟着网罗流量的增长，数据中心必须提供弥散的负载平衡器以得志峰值需求。关于许多企业来说，这意味着大多数负载平衡器在岑岭流量时分(例如玄色星期五)之前一直处于喜跃状态。 如果流量不测超出容量，最终用户体验会受到光显影响。另一方面，软件负载平衡器大概弹性彭胀以得志需求。无论网罗流量是低照旧高，软件负载平衡器王人不错绵薄地及时自动彭胀，摒除过度竖立资本和对不测流量激增的担忧。 此外，硬件负载平衡器竖立可能很复杂。基于软件界说原则构建的软件负载平衡器跨多个数据中心和混杂/多云环境。事实上，硬件开导与云环境不兼容，而软件负载平衡器与裸机、造谣、容器和云平台兼容。 字据地域范围分类

负载平衡从其应用的地舆结构上分为腹地负载平衡(Local Load Balance)和全局负载平衡(Global Load Balance，也叫地域负载平衡)。

迷水商城

地域负载平衡

腹地负载平衡

腹地负载平衡是指对腹地的管事器群作念负载平衡。

腹地负载平衡针对腹地范围的管事器群作念负载平衡，腹地负载平衡不需要阔绰高额资本购置高性能管事器，只需利用现存开导资源，就可灵验幸免管事器单点故障酿成数据流量的亏损，时时用来顾问数据流量过大、网罗负荷过重的问题。同期它领有模样万般的平衡战术把数据流量合理平衡的分拨到各台管事器。如果需要在面前管事器飞腾级推行，不需改造现存网罗结构、住手现存管事，仅需要在管事群中绵薄地添加一台新管事器。

腹地负载平衡能灵验地顾问数据流量过大、网罗负荷过重的问题，况兼不需阔绰不菲开支购置性能超卓的管事器，充分利用现存开导，幸免管事器单点故障酿成数据流量的亏损。

其有纯真万般的平衡战术把数据流量合理地分拨给管事器群内的管事器共同包袱。即使是再给现存管事器推行升级，也只是绵薄地加多一个新的管事器到管事群中，而不需改造现存网罗结构、住手现存的管事。

全局负载平衡

全局负载平衡是指对鉴识舍弃在不同的地舆位置、有不同网罗结构的管事器群间作负载平衡。

全局负载平衡主要用于在一个多区域领有我方管事器的站点，为了使全球用户只以一个IP地址或域名就能拜谒到离我方最近的管事器，从而得到最快的拜谒速率，也可用于子公司分散站点分散广的大公司通过Intranet(企业里面互联网)来达到资源挽回合理分拨的办法。

全局负载平衡，面前达成花式有以下几种：

通过运营商清爽协调：这个主如果指国内，由于特殊原因国内不同运营商互联互通存在很大问题，比如联通用户拜谒电信机房管事器蔓延很大，甚而有可能无法拜谒的情况。假如您的业务部署在不同运营商机房，不错通过运营商清爽默契来达成协调，联通清爽用户域名默契到联通机房IP，电信清爽用户域名默契电信机房IP，这么保证不同用户拜谒最好的管事器。 通过地域清爽协调： 咱们王人知谈，网站管事器越近，拜谒速率越快，比如天津用户拜谒北京管事器会比广州管事器快好多。假如您的业务部署在华北，华南两个Region，不错通过地域清爽默契，缔造华北，东北，西北，华顶用户拜谒域名默契到北京管事器IP，华东，华南，西南用户拜谒域名默契到广州管事器IP，这么用户拜谒离我方最近的管事器不错升迁拜谒体验。 假如您的业务是面向全球的，国里面署有业务，国外也部署有业务，不错遴荐中国用户拜谒域名默契到国内管事器，国外用户拜谒域名默契到国外管事器。虽然国外的还不错细分，比如遴荐亚太--新加坡的用户等，不错具体到洲，国度。 权重轮询：比如一个域名默契到多个IP，不错字据不同IP管事器的竖立，业务情况缔造默契比重，比如2:1或者1:1等等。 健康查抄，故障转动：不错创建监控任求及时监控后端管事器IP的健康状态，如果发现后端管事器额外，不错把默契流量切换到其他平日的管事器或者备用管事器，保证业务不会中断。

CDN的全称是Content Delivery Network，即内容分发网罗。其就是给与的全局负载平衡。假如咱们将图片存储在CDN上，且该CDN场所厂家在北京、杭州均有管事器。那么：

今日津的用户需要下载该图片的时候，会自动将流量苦求转发至距离其最近的CDN管事器，也就是北京 当安徽的用户需要下载图片的时候，就会将流量苦求转发至杭州。 字据OSI网罗模子分类

OSI是一个怒放性的通讯系统互连参考模子，如上图所示。在OSI参考模子中，鉴识有：

应用层 暗示层 会话层 传输层 网罗层 数据链路层 物理层

从上图不错看出：

TELNET、HTTP、FTP、NFS、SMTP、DNS等属于第七层应用层的办法。

TCP、UDP、SPX等属于第四层传输层的办法。

IP、IPX等属于第三层网罗层的办法。

ATM、FDDI等属于第二层数据链路层的办法。

字据负载平衡时期达成在OSI七层模子的不同档次，咱们给负载平衡分类：

七层负载平衡：职责在应用层的负载平衡称 四层负载平衡：职责在传输层的负载平衡称 三层负载平衡：职责在网罗层的负载平衡， 二层负载平衡：职责在数据链路层的负载平衡。

迷水商城

其中最常用的是四层和七层负载平衡。

底下咱们将从OSI模子从下往上的纪律，来详备栽植上述几种负载平衡。

二层负载平衡

职责在数据链路层的负载平衡称之为二层负载平衡(又称为数据链路层负载平衡)，通过在通讯契约的数据链路层修改mac地址进行负载平衡。

二层负载平衡是基于数据链路层的负载平衡，即让负载平衡管事器和业务管事器绑定统一个造谣IP(即VIP)，客户端平直通过这个VIP进行苦求集群。集群中不同的机器给与换取IP地址，然则机器的MAC地址不一样。当负载平衡管事器接管到苦求之后，通过改写报文的方针MAC地址的花式将苦求转发到方针机器达成负载平衡。

数据链路层负载平衡所作念的职责，是修改苦求的数据帧中的 MAC 方针地址，让用户原来是发送给负载平衡器的苦求的数据帧，被二层交换机字据新的 MAC 方针地址转发到管事器集群中对应的管事器(真实管事器)的网卡上，这么真实管事器就得到了一个原来方针并不是发送给它的数据帧。

为了便于壮健，咱们假定负载平衡器场所的ip地址为192.168.1.1，后端服求实例的mac地址鉴识为52:54:00:A1:CB:F7，61:52:00:A2:BD， 71:63:52:A3:CA。如下图所示：

二层负载平衡

在上图中，用户的苦求发轫到达ip为192.168.1.1的二层负载平衡器，然后二层负载平衡器通过遴选一定的战术，选中了mac地址为71:63:52:A3:CA，然后将流量转发至该服求实例。

需要贯注的是，上述唯有苦求经过负载平衡器，而管事的响应无用从负载平衡器原路复返的职责模式，总计这个词苦求、转发、响应的链路形成一个“三角关系”，是以这种负载平衡模式也常被很形象地称为“三角传输模式”，也有叫“单臂模式”或者“平直路由”。

二层负载平衡器平直改写方针 MAC 地址的职责旨趣决定了它与真实的管事器的通讯必须是二层可达的，凡俗地说就是必须位于统一个子网当中，无法跨 VLAN。上风(效力高)和残障(弗成跨子网)共同决定了数据链路层负载平衡最恰当用来作念数据中心的第一级平衡开导，用来推敲其他的下级负载平衡器。

三层负载平衡

三层负载平衡是基于网罗层的负载平衡，因此又叫网罗层负载平衡。凡俗的说就是按照不同机器不同IP地址进行转发苦求到不同的机器上。

字据 OSI 七层模子，在第三层网罗层传输的单元是分组数据包，这是一种在分组交换网罗中传输的结构化数据单元。以IP契约为例，一个IP 数据包由 Headers 和 Payload 两部分构成， Headers 长度最大为60Bytes，其中包括了20Bytes的固定数据和最长不卓越40Bytes 的可选的额外缔造构成。

三层负载平衡管事器对外已经提供一个VIP(虚IP)，然则集群中不同的机器给与不同的IP地址。当负载平衡管事器接管到苦求之后，字据不同的负载平衡算法，通过IP将苦求转发至不同的真实管事器。

学过盘算机网罗的王人知谈，在IP分组的数据报header中有 源IP 和 方针IP。源IP和方针IP代表分组交换中数据是从哪台机器到哪台机器的，那么，咱们不错给与跟修改二层负载平衡中MAC地址的花式一样，平直修改方针IP，男用催情香水有用吗以达到数据转发的办法。

修改方针IP的花式有两种：1、原有的数据包保持不变，生成一个新的数据包，原数据包的Header和Payload当作新数据包的Payload，在这个新数据包的 Headers 中写入真实管事器的 IP 当作方针地址，然后把它发送出去。

真实管事器收到数据包后，必须在接收进口处联想一个针对性的拆包机制，把由负载平衡器自动添加的那层 Headers 扔掉，规复出原来的数据包来进讹诈用。这么，真实管事器就相似拿到了一个原来不是发给它(方针 IP 不是它)的数据包，达到了流量转发的办法。这种数据传输花式叫作念 IP简略 传输。

尽管因为要封装新的数据包，IP 简略的转发模式比起平直路由模式效力会有所下落，但由于并莫得修改原稀有据包中的任何信息，是以 IP 简略的转发模式仍然具备三角传输的特点，即负载平衡器转发来的苦求，不错由真实管事器去平直搪塞，无用在经过平衡器原路复返。而且由于 IP 简略职责在网罗层，是以不错进步 VLAN，因此解脱了平直路由模式中网罗侧的旁边。

此模式从苦求到响应如下图所示：

IP简略模式负载平衡

优点：

不错进步 VLAN 过失： 要求真实管事器必须撑持IP简略契约，也就是说管事器需要我方会拆包 必须通过专门的竖立，必须保证总计的真实管事器与平衡器有着换取的造谣 IP 地址，因为复兴该数据包时，需要使用这个造谣 IP 当作响应数据包的源地址，这么客户端收到这个数据包时才智正确默契。

基于以上原因，就有了第二种修改花式。2、改造方针数据包。

平直把数据包 Headers 中的方针地址改为真实管事器地址，修改后原来由用户发给平衡器的数据包，也会被三层交换机转发送到真实管事器的网卡上，而且因为莫得经过 IP 简略的额外包装，也就无用再拆包了。

因为这种模式是通过修改方针 IP 地址才到达真实管事器的，如真实实管事器平直将搪塞包复返客户端的话，这个搪塞数据包的源 IP 是真实管事器的 IP，也即平衡器修改以后的 IP 地址，客户端不可能意志该 IP，当然就无法再平日处理这个搪塞了。因此，只可让搪塞流量接续回到负载平衡，由负载平衡把搪塞包的源 IP 改回我方的 IP，再发给客户端，这么才智保证客户端与真实管事器之间的平日通讯。

这种修改方针IP的花式叫NAT模式，这种通过修改方针IP的花式达到负载平衡办法的花式叫作念NAT负载平衡。如下图所示：

NAT模式负载平衡

四层负载平衡

所谓四层负载平衡，也就是主要通过报文中的方针地址和端口，再加上负载平衡开导缔造的管事器遴荐花式，决定最终遴荐的里面管事器。

由于四层负载平衡是作用在传输层，因此，咱们就以常见的TCP进行例如。

负载平衡开导在接收到第一个来自客户端的SYN 苦求时，即通过上述花式遴荐一个最好的管事器，并对报文中方针IP地址进行修改(改为后端管事器IP)，平直转发给该管事器。TCP的推敲缔造，即三次持手是客户端和管事器平直缔造的，负载平衡开导只是起到一个雷同路由器的转发动作。在某些部署情况下，为保证管事器回包不错正确复返给负载平衡开导，在转发报文的同期可能还会对报文原来的源地址进行修改。

四层负载平衡

四层负载平衡主如果基于tcp契约报文，不错作念任何基于tcp/ip契约的软件的负载平衡，比如Haproxy、LVS等。

七层负载平衡

所谓七层负载平衡，也称为“内容交换”，也就是主要通过报文中的委果特地想的应用层内容，再加上负载平衡开导缔造的管事器遴荐花式，决定最终遴荐的里面管事器。

应用层契约较多，常用http、radius、dns等。七层负载就不错基于这些契约来负载。

咱们仍然以TCP为例。负载平衡开导如果要字据委果的应用层内容再遴荐管事器，只可先代理最终的管事器和客户端缔造推敲(三次持手)后，才可能接管到客户端发送的委果应用层内容的报文，然后再字据该报文中的特定字段，再加上负载平衡开导缔造的管事器遴荐花式，决定最终遴荐的里面管事器。负载平衡开导在这种情况下，更雷同于一个代理管事器。负载平衡和前端的客户端以及后端的管事器会鉴识缔造TCP推敲。是以从这个时期旨趣上来看，七层负载平衡昭彰的对负载平衡开导的要求更高，处理七层的才略也势必会低于四层模式的部署花式。

七层负载平衡器会与客户端 以及 后端的服求实例鉴识缔造推敲。

七层负载平衡

七层负载平衡基本王人是基于http契约的，适用于web管事器的负载平衡，比如Nginx等。

迷水商城 对比(四层和七层) 智能性 七层负载平衡由于具备OIS七层的总计功能，是以在处理用户需求上能愈加纯真，从表面上讲，七层模子能对用户的总计跟管事端的苦求进行修改。例如对文献header添加信息，字据不同的文献类型进行分类转发。 四层模子仅撑持基于网罗层的需求转发，弗成修改用户苦求的内容。 安全性 七层负载平衡由于具有OSI模子的沿途功能，能更容易抵御来自网罗的抨击 四层模子从旨趣上讲，会平直将用户的苦求转发给后端节点，无法平直抵御网罗抨击。 复杂度 四层模子一般比较绵薄的架构，容易顾问，容易定位问题 七层模子架构比较复杂，时时也需要筹商团结四层模子的混用情况，出现问题定位比较复杂。 效力比 四层模子基于更底层的缔造，时时效力更高，但应用范围有限 七层模子需要更多的资源损耗，在表面上讲比四层模子有更强的功能，面前的达成更多是基于http应用。 6.算法与达成

常用的负载平衡算法分为以下两类：

静态负载平衡 动态负载平衡

常见的静态平衡算法：轮询法、随即法、源地址哈希法、一致性哈希法、加权轮询法、加权随即法。

常见的动态负载平衡算法：最小推敲数法、最快响应速率法。

随即法(Random)

将苦求随即分拨到各个节点。由概率统计表面得知，跟着客户端调用管事端的次数增多，其推行成果越来越接近于平平分拨，也就是轮询的扫尾。

随即战术会导致竖立较低的机器Down机，从而可能引起雪崩，一般给与随即算法时提议后端集群机器竖立最好同等的，随即战术的性能取决于随即算法的性能。

优点：绵薄高效，易于水平彭胀，每个节点得志字面真谛上的平衡; 过失：莫得筹商机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的管事器影响。

随即法

达成：

std::string Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      return ips[random() % size]; } 

轮询法(Round Robin)

每一次来自网罗的苦求挨次分拨给里面中的管事器，从1至N然后从头脱手。此种平衡算法恰当于管事器组中的总计管事器王人有换取的软硬件竖立况兼平均管事苦求相对平衡的情况。

迷水商城

假定10台机器，从0-9，苦求驾临时从0号机器脱手，后续每来一次苦求对编号加1，这么一直轮回，上头的随即战术其实临了就变成轮询了，这两种战术王人不关注机器的负载和运行情况，而且对变量操作会引入锁操作，性能也会下会下落。

优点：绵薄高效，易于水平彭胀，每个节点得志字面真谛上的平衡; 过失：莫得筹商机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的管事器影响。

迷水商城

轮询法

代码达成：

迷水商城

static int idx = 0; std::string Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      if (idx == ips.size()) {     idx = 0;   }      return ips[idx++]; } 

加权轮询法(Weighted Round Robin)

不同的后端管事器可能机器的竖立和面前系统的负载并不换取，因此它们的抗压才略也不换取。给竖立高、负载低的机器竖立更高的权重，让其处理更多的苦求;而竖立低、负载高的机器，给其分拨较低的权重，裁汰其系统负载，加权轮询能很好地处理这一问题，并将苦求纪律且按照权重分拨到后端。

假定后端有3台管事器，鉴识为a b c，面前在负载平衡器中竖立a管事器的权重为7，b管事的权重为2，c管事的权重为1。当来了10次苦求的时候，其中有7次苦求a，2次苦求b，1次苦求c。即最终扫尾是

aaaaaaabbc 

优点：不错将不同机器的性能问题纳入到考量范围，集群性能最优最大化;

迷水商城

过失：分娩环境复杂多变，管事器抗压才略也无法精准估算，静态算法导致无法及时动态协调节点权重，只可省略优化。

加权轮询

加权随即法(Weighted Random)

与加权轮询法一样，加权随即法也字据管事器的竖立，系统的负载分拨不同的权重。不同的是，它是按照权重随即苦求后端管事器，而非纪律。

在之前的著述权重随即分拨器咱们有详备讲过万般达成决议，此处咱们不再赘述，从里面纲目了一种达成决议当作本决议的达成。

迷水商城

加权随即

优点：不错将不同机器的性能问题纳入到考量范围，集群性能最优最大化; 过失：分娩环境复杂多变，管事器抗压才略也无法精准估算，静态算法导致无法及时动态协调节点权重，只可省略优化。

代码达成

srtuct Item {   std::string ip;   int weight; }; std::string select(const std::vector<Item> &items) {   int sum = 0;   for (auto elem : items) {     sum += elem.weight;   }      int rd = rand() % sum;   int s = 0;   std::string res;   for (auto elem : items) {     s += elem.weight;     if (s >= rd) {       res = elem.ip;       break;     }   }   return res; } 

最快响应速率法(Response Time)

字据苦求的响适时分，来动态协调每个节点的权重，将响应速率快的管事节点分拨更多的苦求，响应速率慢的管事节点分拨更少的苦求

负载平衡开导对里面各管事器发出一个探伤苦求(例如Ping)，然后字据里面中各管事器对探伤苦求的最快响适时分来决定哪一台管事器来响应客户端的管事苦求。此种平衡算法能较好的反应管事器确面前运事业态，但这最快响适时分只是指的是负载平衡开导与管事器间的最快响适时分，而不是客户端与管事器间的最快响适时分。

优点：动态，及时变化，旁边的粒度更细，更聪敏; 过失：复杂度更高，每次需要盘算苦求的响应速率;

最快响应速率

迷烟真实体验 最少推敲数法(Least Connections) 将苦求分发到推敲数/苦求数最少的候选管事器，已达到负载平衡的办法

客户端的每一次苦求管事在管事器停留的时分可能会有较大的互异，跟着职责时分加长，如果给与绵薄的轮循或随即平衡算法，每一台管事器上的推敲程度可能会产生极大的不同，并莫得达到委果的负载平衡。最少推敲数平衡算法对里面中需负载的每一台管事器王人有一个数据记载，记载面前该管事器正在处理的推敲数目，当有新的管事推敲苦求时，将把面前苦求分拨给推敲数最少的管事器，使平衡愈加相宜推行情况，负载愈加平衡。此种平衡算法恰当万古处理的苦求管事，如FTP。

优点：动态，字据节点气象及时变化 过失：提高了复杂度，每次推敲断开需要进行计数

最少推敲数

源地址哈希法(Source Hashing)

字据苦求源 IP，通过哈希盘算得到一个数值，用该数值在候选管事器列表的进行取模运算，得到的扫尾就是选中的管事器。

大概让统一客户端的苦求或者统一用户的苦求老是苦求在后端统一台机器上，这种算法字据客户端IP求出Hash值然后对端集群总和求余得到值就是管事器集中的下标，一般这种算法用于缓存掷中，或者统一会话苦求等，但这种算法也有一定的过失，某一用户拜谒量(黑产)荒芜高时可能酿成管事端压力过大或者后端管事Down掉，那么客户端就会无法拜谒，是以也需要一定的左迁战术。

优点：翌日自统一IP地址的苦求，统一会话期内，转发到换取的管事器;达成会话粘滞 过失：方针管事器宕机后，会话会丢失

源地址哈希

一致性哈希(Consistency hash)

一些场景但愿相似的苦求尽量落到一台机器上，比如拜谒缓存集群时，咱们频频但愿统一种苦求能落到统一个后端上，以充分利用其上已有的缓存，不同的机器承载不同的褂讪苦求量(也不错壮健为固定批用户的苦求)。而不是随即地洒落到总计机器上，那样的话会迫使总计机器缓存总计的内容，最终由于存不下形成轰动而确认厄运。咱们王人知谈hash能得志这个要求，比如当有n台管事器时，输入x老是会发送到第hash(x) % n台管事器上。但当管事器变为m台时，hash(x) % n和hash(x) % m很可能王人不相等，这会使得险些总计苦求的发送办法地王人发生变化，如果办法地是缓存管事，总计缓存将失效，继而对原来被缓存壅塞的数据库或盘算管事酿成苦求风暴，触发雪崩。一致性哈希是一种特殊的哈希算法，在加多管事器时，发向每个老节点的苦求中只会有一部分转向新节点，从而达成平滑的转移。

一致性哈希

优点：

平衡性: 每个节点被选到的概率是O(1/n)。 单调性: 当新节点加入时， 不会有苦求在老节点间转移， 只会从老节点转移到新节点。当有节点被删除时，也不会影响落在别的节点上的苦求。 分散性: 当上游的机器看到不同的卑鄙列表时(在上线时及不褂讪的网罗中比较常见)， 统一个苦求尽量映射到少许的节点中。 负载: 当上游的机器看到不同的卑鄙列表的时候， 保证每台卑鄙分到的苦求数目尽量一致。

过失：

在机器数目较少的时候，区间大小会抵抗衡。 当一台机器故障的时候，它的压力会彻底转动到另外一台机器， 可能无法承载。 7.结语

负载平衡并不是委果确保网罗流量大概"均匀"的分拨到后端服求实例。它只是抱着小心外情况发生时候，也能保证用户体验。精致的架构联想和弹性扩容，大概使得负载平衡的功能 一本万利。

 

---