[[429536]]管理系统开发公司

本文转载自微信公众号「高性能架构探索」，作家雨乐 。转载本文请联系高性能架构探索公众号。

各人好，我是雨乐。

首先告诉各人一件事，在十一国庆期间，引擎的机器又又。。。又扛不住了流量。

经过监控分析，发现某个做事的一个实例方位的造谣机扛不住了，是以选定临时措施流量贬抑之后，问题科罚了，但如故形成了不小的赔本。

经过这次故障，以及分析故障的经过中对负载平衡又有了新的愈加长远的意志，是以将这部分写出来，算是作念个故障归来吧图片。

1.写在前边

写本文的主义：

对负载平衡的透露星星落落，不成体系。

阅读这篇著作需要的要求：

对OSI模子有多少了解 有耐性。本文触及无数的常识点，且只可用笔墨才能讲了了，是以笔墨比较多。

收货：

读完此篇著作，从宏不雅的角度透露了负载平衡的旨趣以及扫尾机制。加深对分散式架构的了解

主要内容：

本文首先从见解入手，种植什么是负载平衡，以及负载平衡在分散式系统中所承担的变装以及提供的功能。 种植负载平衡的分类。差异从 软硬件角度、地域限制角度 以及 OSI模子角度 进行分类种植负载平衡的扫尾决议。 从负载平衡的战术角度来分析面前业界的负载平衡算法以过头优纰谬 好了，准备好了么，让咱们入手这次骄傲之旅。 2.小引

首先 撇开对线上的影响，如果线上突发来了流量,后端做事扛不住，咱们会若何作念呢?无非两种边幅：

擢升机器配置(CPU、内存、硬盘、带宽等) 加机器

上头两种边幅，咱们称之为纵向扩展和横向扩展。

纵向扩展，是从单机的角度通过加多硬件处理技艺，比如CPU处理技艺，内存容量，磁盘等方面，扫尾做事器处理技艺的擢升，弗成欢喜大型分散式系统(网站)，大流量，高并发，海量数据的问题。

横向扩展，通过添加机器来欢喜大型网站做事的处理技艺。比如：一台机器弗成欢喜，则加多两台或者多台机器，共同承担走访压力。

3.见解

负载平衡，英文称号为Load Balance，其含义就是指将负载(责任任务或者网罗申请)进行平衡，分管到多个操作单元(做事器或者组件)上进走运行。主义是尽量将网罗流量 平均 发送到多个做事器上，以保证统统这个词业务系统的高可用。

负载平衡

在互联网的早期，网罗还不是很发达，流量相对较小，业务也比较陋劣，单台做事器或者实例就有可能欢喜走访需要。但如今在互联网发达的今天，流量申请动辄百亿、以致上千亿，单台做事器或者实例已统统弗成欢喜需求，这就有了集群。无论是为了扫尾高可用如故高性能，都需要用到多台机器来扩展做事技艺，用户的申请不管流畅到哪台做事器，都能得到疏浚的相应处理。

另一方面，若何构建和调整做事集群这事情，又必须对用户一侧保持实足的透明，即使申请背后是由一千台、一万台机器来共同响应的，也绝非用户所顾问的事情，用户需记取的只好一个域名地址长途。调整后方的多台机器，以斡旋的接口对外提供做事，承担此职责的时期组件被称为 负载平衡。

负载平衡主要有以下作用：

高并发。通过选定一定的算法战术，将流量尽可能的均匀发送给后端的实例，以此提高集群的并发处理技艺。 伸缩性。字据网罗流量的大小，加多或者减少后端做事器实例，由负载平衡开发进行贬抑，这么使得集群具有伸缩性。 高可用。负载平衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者非常时，减少其流量申请或者径直跳过该实例，将申请发送个其他可用实例，这使得集群具有高可用的特质。

安全驻扎。有些负载平衡器提供了安全驻扎功能。如：曲直名单处理、防火墙等。

4.分类 字据载体类型分类

从复旧负载平衡的载体来看，不错将负载平衡分为两类：

硬件负载平衡

软件负载平衡

硬件负载平衡

硬件负载平衡器是一种硬件开发，具有专门的操作系统。硬件负载平衡器位于传入流量和里面做事器之间，现实上充任“流量考察”。当用户走访网站或者使用app某个功能时，它们首先被发送到负载平衡器，然后负载平衡器字据一定的战术，将流量转发到后端不同的做事器。为确保最好性能，硬件负载平衡器字据自界说轨则分拨流量，以免后端实例不胜重任。

传统上，硬件负载平衡器和应用做事器部署在腹地数据中心，负载平衡器的数目取决于预期的峰值流量。负载平衡器频繁成对部署，以防其中一个失败。

面前业界最初的两款硬件负载平衡器：F5和A10

硬件负载平衡

优点：

功能精深：复旧全局负载平衡并提供较全面的、复杂的负载平衡算法。

性能强悍：硬件负载平衡由于是在专用处理器上运行，因此模糊量大，可复旧单机百万以上的并发。

安全性高：每每具备防火墙，防 DDos 袭击等安全功能。

纰谬

资本不菲：购买和悭吝硬件负载平衡的资本都很高(：F5价钱在15w~55w不等，A10价钱在55w-100w不等)。

扩展性差：当走访量突增时，非常贬抑弗成动态扩容。

软件负载平衡

软件负载平衡指的是在做事器的操作系统上装配负载平衡软件，从此做事器发出的申请经软件负载平衡算法路由到后端集群的某一台机器上。

常见负载平衡软件有：LVS、Nginx、Haproxy。

软件负载平衡

优点

扩展性好：稳妥动态变化，不错通过添加软件负载平衡实例，动态扩展到超出入手容量的技艺。

资本便宜：软件负载平衡不错在职何行径物理开发上运行，缩短了购买和运维的资本。

纰谬

性能略差：比拟于硬件负载平衡，软件负载平衡的性能要略低一些。

软硬件负载平衡器的区别

硬件负载平衡器与软件负载平衡器之间最较着的区别在于，硬件负载平衡器需要独到的机架堆叠硬件开发，而软件负载平衡器只需装配在行径 x86 做事器或造谣机上。网罗负载平衡器硬件频繁是过度配置的——换句话说，它们的大小大要处理偶尔的岑岭流量负载。此外，每个硬件开发都必须与一个额外的开流配对以取得高可用性，以防其他负载平衡器出现故障。 硬件和软件负载平衡器之间的另一个关节区别在于扩展技艺。跟着网罗流量的增长，数据中心必须提供实足的负载平衡器以欢喜峰值需求。关于许多企业来说，这意味着大多数负载平衡器在岑岭流量时期(例如玄色星期五)之前一直处于优游状态。 如果流量未必超出容量，最终用户体验会受到昭着影响。另一方面，软件负载平衡器大要弹性扩展以欢喜需求。不管网罗流量是低如故高，软件负载平衡器都不错陋劣地及时自动扩展，摒除过度配置资本和对未必流量激增的担忧。 此外，硬件负载平衡器配置可能很复杂。基于软件界说原则构建的软件负载平衡器跨多个数据中心和夹杂/多云环境。事实上，硬件开发与云环境不兼容，而软件负载平衡器与裸机、造谣、容器和云平台兼容。 字据地域限制分类

负载平衡从其应用的地舆结构上分为腹地负载平衡(Local Load Balance)和全局负载平衡(Global Load Balance，也叫地域负载平衡)。

地域负载平衡

腹地负载平衡

腹地负载平衡是指对腹地的做事器群作念负载平衡。

腹地负载平衡针对腹地限制的做事器群作念负载平衡，腹地负载平衡不需要破耗高额资本购置高性能做事器，只需利用现存开发资源,就可灵验幸免做事器单点故障形成数据流量的赔本，频繁用来科罚数据流量过大、网罗负荷过重的问题。同期它领有体式万般的平衡战术把数据流量合理平衡的分拨到各台做事器。如果需要在当今做事器上涨级膨大，不需改变现存网罗结构、住手现存做事，仅需要在做事群中陋劣地添加一台新做事器。

腹地负载平衡能灵验地科罚数据流量过大、网罗负荷过重的问题，况且不需破耗不菲开支购置性能超卓的做事器，充分利用现存开发，幸免做事器单点故障形成数据流量的赔本。

其有活泼万般的平衡战术把数据流量合理地分拨给做事器群内的做事器共同包袱。即使是再给现存做事器膨大升级，也只是陋劣地加多一个新的做事器到做事群中，而不需改变现存网罗结构、住手现存的做事。

全局负载平衡

全局负载平衡是指对差异抛弃在不同的地舆位置、有不同网罗结构的做事器群间作负载平衡。

全局负载平衡主要用于在一个多区域领有我方做事器的站点，为了使全球用户只以一个IP地址或域名就能走访到离我方最近的做事器，从而取得最快的走访速率，也可用于子公司分散站点分散广的大公司通过Intranet(企业里面互联网)来达到资源斡旋合理分拨的主义。

全局负载平衡，面前扫尾边幅有以下几种：

通过运营商清亮调整：这个主淌若指国内，由于特殊原因国内不同运营商互联互通存在很大问题，比如联通用户走访电信机房做事器延长很大，以致有可能无法走访的情况。假如您的业务部署在不同运营商机房，不错通过运营商清亮领会来扫尾调整，联通清亮用户域名领会到联通机房IP，电信清亮用户域名领会电信机房IP，这么保证不同用户走访最好的做事器。 通过地域清亮调整： 咱们都知说念，网站做事器越近，走访速率越快，比如天津用户走访北京做事器会比广州做事器快好多。假如您的业务部署在华北，华南两个Region，不错通过地域清亮领会，竖立华北，东北，西北，华顶用户走访域名领会到北京做事器IP，华东，华南，西南用户走访域名领会到广州做事器IP，这么用户走访离我方最近的做事器不错擢升走访体验。 假如您的业务是面向全球的，国里面署有业务，国外也部署有业务，不错选拔中国用户走访域名领会到国内做事器，国外用户走访域名领会到国外做事器。固然国外的还不错细分，比如选拔亚太--新加坡的用户等，不错具体到洲，国度。 权重轮询：比如一个域名领会到多个IP，不错字据不同IP做事器的配置，业务情况竖立领会比重，比如2:1或者1:1等等。 健康查验，故障改造：不错创建监控任求及时监控后端做事器IP的健康状态，如果发现后端做事器非常，不错把领会流量切换到其他宽泛的做事器或者备用做事器，保证业务不会中断。

CDN的全称是Content Delivery Network，即内容分发网罗。其就是选定的全局负载平衡。假如咱们将图片存储在CDN上，且该CDN方位厂家在北京、杭州均有做事器。那么：

本日津的用户需要下载该图片的时候，会自动将流量申请转发至距离其最近的CDN做事器，也就是北京 当安徽的用户需要下载图片的时候，就会将流量申请转发至杭州。 字据OSI网罗模子分类

OSI是一个盛开性的通讯系统互连参考模子，如上图所示。在OSI参考模子中，差异有：

应用层 示意层 会话层 传输层 网罗层 数据链路层 物理层

从上图不错看出：

TELNET、HTTP、FTP、NFS、SMTP、DNS等属于第七层应用层的见解。

TCP、UDP、SPX等属于第四层传输层的见解。

IP、IPX等属于第三层网罗层的见解。

ATM、FDDI等属于第二层数据链路层的见解。

字据负载平衡时期扫尾在OSI七层模子的不同档次，咱们给负载平衡分类：

七层负载平衡：责任在应用层的负载平衡称 四层负载平衡：责任在传输层的负载平衡称 三层负载平衡：责任在网罗层的负载平衡， 二层负载平衡：责任在数据链路层的负载平衡。

其中最常用的是四层和七层负载平衡。

底下咱们将从OSI模子从下往上的规矩，来详确种植上述几种负载平衡。

二层负载平衡

责任在数据链路层的负载平衡称之为二层负载平衡(又称为数据链路层负载平衡)，通过在通讯合同的数据链路层修改mac地址进行负载平衡。

二层负载平衡是基于数据链路层的负载平衡，即让负载平衡做事器和业务做事器绑定并吞个造谣IP(即VIP)，客户端径直通过这个VIP进行申请集群。集群中不同的机器选定疏浚IP地址，然则机器的MAC地址不一样。当负载平衡做事器剿袭到申请之后，通过改写报文的指标MAC地址的边幅将申请转发到指标机器扫尾负载平衡。

数据链路层负载平衡所作念的责任，是修改申请的数据帧中的 MAC 指标地址，让用户正本是发送给负载平衡器的申请的数据帧，被二层交换机字据新的 MAC 指标地址转发到做事器集群中对应的做事器(真实做事器)的网卡上，这么真实做事器就取得了一个正本指标并不是发送给它的数据帧。

为了便于透露，咱们假定负载平衡器方位的ip地址为192.168.1.1，后端服求实例的mac地址差异为52:54:00:A1:CB:F7，61:52:00:A2:BD, 71:63:52:A3:CA。如下图所示：

二层负载平衡

在上图中，用户的申请首先到达ip为192.168.1.1的二层负载平衡器，然后二层负载平衡器通过选定一定的战术，选中了mac地址为71:63:52:A3:CA，然后将流量转发至该服求实例。

需要明慧的是,上述只好申请经过负载平衡器，而做事的响应毋庸从负载平衡器原路复返的责任口头，统统这个词申请、转发、响应的链路形成一个“三角关系”，是以这种负载平衡口头也常被很形象地称为“三角传输口头”，也有叫“单臂口头”或者“径直路由”。

二层负载平衡器径直改写指标 MAC 地址的责任旨趣决定了它与真实的做事器的通讯必须是二层可达的，平凡地说就是必须位于并吞个子网当中，无法跨 VLAN。上风(着力高)和弱势(弗成跨子网)共同决定了数据链路层负载平衡最允洽用来作念数据中心的第一级平衡开发，用来流畅其他的下级负载平衡器。

三层负载平衡

三层负载平衡是基于网罗层的负载平衡，因此又叫网罗层负载平衡。平凡的说就是按照不同机器不同IP地址进行转发申请到不同的机器上。

字据 OSI 七层模子，在第三层网罗层传输的单元是分组数据包，这是一种在分组交换网罗中传输的结构化数据单元。以IP合同为例，一个IP 数据包由 Headers 和 Payload 两部分构成， Headers 长度最大为60Bytes，其中包括了20Bytes的固定数据和最长不非常40Bytes 的可选的额外竖立构成。

三层负载平衡做事器对外仍是提供一个VIP(虚IP)，然则集群中不同的机器选定不同的IP地址。当负载平衡做事器剿袭到申请之后，字据不同的负载平衡算法，通过IP将申请转发至不同的真实做事器。

学过计较机网罗的都知说念，在IP分组的数据报header中有 源IP 和 指标IP。源IP和指标IP代表分组交换中数据是从哪台机器到哪台机器的，那么，咱们不错选定跟修改二层负载平衡中MAC地址的边幅一样，径直修改指标IP，以达到数据转发的主义。

修改指标IP的边幅有两种：1、原有的数据包保持不变，管理系统开发公司生成一个新的数据包，原数据包的Header和Payload四肢新数据包的Payload，在这个新数据包的 Headers 中写入真实做事器的 IP 四肢指标地址，然后把它发送出去。

真实做事器收到数据包后，必须在招揽进口处谈论一个针对性的拆包机制，把由负载平衡器自动添加的那层 Headers 扔掉，复原出原来的数据包来进阁下用。这么，真实做事器就一样拿到了一个正本不是发给它(指标 IP 不是它)的数据包，达到了流量转发的主义。这种数据传输边幅叫作念 IP齐头并进 传输。

尽管因为要封装新的数据包，IP 齐头并进的转发口头比起径直路由口头着力会有所着落，但由于并莫得修改原特地据包中的任何信息，是以 IP 齐头并进的转发口头仍然具备三角传输的特质，即负载平衡器转发来的申请，不错由真实做事器去径直粗豪，毋庸在经过平衡器原路复返。而且由于 IP 齐头并进责任在网罗层，是以不错非常 VLAN，因此开脱了径直路由口头中网罗侧的拘谨。

此口头从申请到响应如下图所示：

IP齐头并进口头负载平衡

优点：

不错非常 VLAN 纰谬： 要求真实做事器必须复旧IP齐头并进合同，也就是说做事器需要我方会拆包 必须通过专门的配置，必须保证统统的真实做事器与平衡器有着疏浚的造谣 IP 地址，因为回报该数据包时，需要使用这个造谣 IP 四肢响应数据包的源地址，这么客户端收到这个数据包时才能正确领会。

基于以上原因，就有了第二种修改边幅。2、改变指标数据包。

径直把数据包 Headers 中的指标地址改为真实做事器地址，修改后正本由用户发给平衡器的数据包，也会被三层交换机转发送到真实做事器的网卡上，而且因为莫得经过 IP 齐头并进的额外包装，也就毋庸再拆包了。

因为这种口头是通过修改指标 IP 地址才到达真实做事器的，如的确实做事器径直将粗豪包复返客户端的话，这个粗豪数据包的源 IP 是真实做事器的 IP，也即平衡器修改以后的 IP 地址，客户端不可能意志该 IP，当然就无法再宽泛处理这个粗豪了。因此，只可让粗豪流量不时回到负载平衡，由负载平衡把粗豪包的源 IP 改回我方的 IP，再发给客户端，这么才能保证客户端与真实做事器之间的宽泛通讯。

这种修改指标IP的边幅叫NAT口头，这种通过修改指标IP的边幅达到负载平衡主义的边幅叫作念NAT负载平衡。如下图所示：

NAT口头负载平衡

四层负载平衡

所谓四层负载平衡，也就是主要通过报文中的指标地址和端口，再加上负载平衡开发竖立的做事器选拔边幅，决定最终选拔的里面做事器。

由于四层负载平衡是作用在传输层，因此，咱们就以常见的TCP进行例如。

负载平衡开发在招揽到第一个来自客户端的SYN 申请时，即通过上述边幅选拔一个最好的做事器，并对报文中指标IP地址进行修改(改为后端做事器IP)，径直转发给该做事器。TCP的流畅树立，即三次抓手是客户端和做事器径直树立的，负载平衡开发只是起到一个访佛路由器的转发动作。在某些部署情况下，为保证做事器回包不错正确复返给负载平衡开发，在转发报文的同期可能还会对报文原来的源地址进行修改。

四层负载平衡

四层负载平衡主淌若基于tcp合同报文，不错作念任何基于tcp/ip合同的软件的负载平衡，比如Haproxy、LVS等。

七层负载平衡

所谓七层负载平衡，也称为“内容交换”，也就是主要通过报文中的委果成心旨的应用层内容，再加上负载平衡开发竖立的做事器选拔边幅，决定最终选拔的里面做事器。

应用层合同较多，常用http、radius、dns等。七层负载就不错基于这些合同来负载。

咱们仍然以TCP为例。负载平衡开发如果要字据委果的应用层内容再选拔做事器，只可先代理最终的做事器和客户端树立流畅(三次抓手)后，才可能剿袭到客户端发送的委果应用层内容的报文，然后再字据该报文中的特定字段，再加上负载平衡开发竖立的做事器选拔边幅，决定最终选拔的里面做事器。负载平衡开发在这种情况下，更访佛于一个代理做事器。负载平衡和前端的客户端以及后端的做事器会差异树立TCP流畅。是以从这个时期旨趣上来看，七层负载平衡较着的对负载平衡开发的要求更高，处理七层的技艺也势必会低于四层口头的部署边幅。

七层负载平衡器会与客户端 以及 后端的服求实例差异树立流畅。

七层负载平衡

七层负载平衡基本都是基于http合同的，适用于web做事器的负载平衡，比如Nginx等。

对比(四层和七层) 智能性 七层负载平衡由于具备OIS七层的统统功能，是以在处理用户需求上能愈加活泼，从表面上讲，七层模子能对用户的统统跟做事端的申请进行修改。例如对文献header添加信息，字据不同的文献类型进行分类转发。 四层模子仅复旧基于网罗层的需求转发，弗成修改用户申请的内容。 安全性 七层负载平衡由于具有OSI模子的一皆功能，能更容易抵御来自网罗的袭击 四层模子从旨趣上讲，会径直将用户的申请转发给后端节点，无法径直抵御网罗袭击。 复杂度 四层模子一般比较陋劣的架构，容易料理，容易定位问题 七层模子架构比较复杂，频繁也需要沟通引诱四层模子的混用情况，出现问题定位比较复杂。 着力比 四层模子基于更底层的竖立，频繁着力更高，但应用限制有限 七层模子需要更多的资源损耗，在表面上讲比四层模子有更强的功能，当今的扫尾更多是基于http应用。 6.算法与扫尾

常用的负载平衡算法分为以下两类：

静态负载平衡 动态负载平衡

常见的静态平衡算法：轮询法、立时法、源地址哈希法、一致性哈希法、加权轮询法、加权立时法。

常见的动态负载平衡算法：最小流畅数法、最快响应速率法。

立时法(Random)

将申请立时候拨到各个节点。由概率统计表面得知，跟着客户端调用做事端的次数增多，其现实恶果越来越接近于对等分拨，也就是轮询的落幕。

立时战术会导致配置较低的机器Down机，从而可能引起雪崩，一般选定立时算法时忽视后端集群机器配置最好同等的，立时战术的性能取决于立时算法的性能。

优点：陋劣高效，易于水平扩展，每个节点欢喜字面意旨上的平衡; 纰谬：莫得沟通机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的做事器影响。

立时法

app

扫尾：

std::string 管理系统开发公司Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      return ips[random() % size]; } 

轮询法(Round Robin)

每一次来自网罗的申请轮替分拨给里面中的做事器，从1至N然后重新入手。此种平衡算法允洽于做事器组中的统统做事器都有疏浚的软硬件配置况且平均做事申请相对平衡的情况。

假定10台机器，从0-9，申请莅临时从0号机器入手，后续每来一次申请对编号加1，这么一直轮回，上头的立时战术其实终末就变成轮询了，这两种战术都不顾问机器的负载和运行情况，而且对变量操作会引入锁操作，性能也会下会着落。

优点：陋劣高效，易于水平扩展，每个节点欢喜字面意旨上的平衡; 纰谬：莫得沟通机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的做事器影响。

轮询法

代码扫尾：

static int idx = 0; std::string Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      if (idx == ips.size()) {     idx = 0;   }      return ips[idx++]; } 

加权轮询法(Weighted Round Robin)

不同的后端做事器可能机器的配置和现时系统的负载并不疏浚，因此它们的抗压技艺也不疏浚。给配置高、负载低的机器配置更高的权重，让其处理更多的申请;而配置低、负载高的机器，给其分拨较低的权重，缩短其系统负载，加权轮询能很好地处理这一问题，并将申请规矩且按照权重分拨到后端。

假定后端有3台做事器，差异为a b c，当今在负载平衡器中配置a做事器的权重为7，b做事的权重为2，c做事的权重为1。当来了10次申请的时候，其中有7次申请a，2次申请b，1次申请c。即最终落幕是

aaaaaaabbc 

优点：不错将不同机器的性能问题纳入到考量限制，集群性能最优最大化;

纰谬：分娩环境复杂多变，做事器抗压技艺也无法精准估算，静态算法导致无法及时动态调整节点权重，只可毛糙优化。

加权轮询

加权立时法(Weighted Random)

与加权轮询法一样，加权立时法也字据做事器的配置，系统的负载分拨不同的权重。不同的是，它是按照权重立时申请后端做事器，而非规矩。

姚天罡大乐透：上期预测中二等奖56万，近期预测中大乐透双色球二等奖共获315万[查看今日推荐]

排列三第2024182期奖号两码合差分析：

在之前的著作权重立时候拨器咱们有详确讲过各式扫尾决议，此处咱们不再赘述，从里面摘录了一种扫尾决议四肢本决议的扫尾。

加权立时

优点：不错将不同机器的性能问题纳入到考量限制，集群性能最优最大化; 纰谬：分娩环境复杂多变，做事器抗压技艺也无法精准估算，静态算法导致无法及时动态调整节点权重，只可毛糙优化。

代码扫尾

srtuct Item {   std::string ip;   int weight; }; std::string select(const std::vector<Item> &items) {   int sum = 0;   for (auto elem : items) {     sum += elem.weight;   }      int rd = rand() % sum;   int s = 0;   std::string res;   for (auto elem : items) {     s += elem.weight;     if (s >= rd) {       res = elem.ip;       break;     }   }   return res; } 

最快响应速率法(Response Time)

字据申请的响当令期，来动态调整每个节点的权重，将响应速率快的做事节点分拨更多的申请，响应速率慢的做事节点分拨更少的申请

负载平衡开发对里面各做事器发出一个探伤申请(例如Ping)，然后字据里面中各做事器对探伤申请的最快响当令期来决定哪一台做事器来响应客户端的做事申请。此种平衡算法能较好的反应做事器确现时运职业态，但这最快响当令期只是指的是负载平衡开发与做事器间的最快响当令期，而不是客户端与做事器间的最快响当令期。

优点：动态，及时变化，贬抑的粒度更细，更智谋; 纰谬：复杂度更高，每次需要计较申请的响应速率;

最快响应速率

最少流畅数法(Least Connections) 将申请分发到流畅数/申请数最少的候选做事器，已达到负载平衡的主义

客户端的每一次申请做事在做事器停留的时期可能会有较大的互异，跟着责任时期加长，如果选定陋劣的轮循或立时平衡算法，每一台做事器上的流畅程度可能会产生极大的不同，并莫得达到委果的负载平衡。最少流畅数平衡算法对里面中需负载的每一台做事器都有一个数据记载，记载现时该做事器正在处理的流畅数目，当有新的做事流畅申请时，将把现时申请分拨给流畅数最少的做事器，使平衡愈加稳妥现实情况，负载愈加平衡。此种平衡算法允洽永劫处理的申请做事，如FTP。

优点：动态，字据节点景况及时变化 纰谬：提高了复杂度，每次流畅断开需要进行计数

最少流畅数

源地址哈希法(Source Hashing)

字据申请源 IP，通过哈希计较得到一个数值，用该数值在候选做事器列表的进行取模运算，得到的落幕等于选中的做事器。

大要让并吞客户端的申请或者并吞用户的申请老是申请在后端并吞台机器上，这种算法字据客户端IP求出Hash值然后对端集群总额求余得到值就是做事器接洽的下标，一般这种算法用于缓存射中，或者并吞会话申请等，但这种算法也有一定的纰谬，某一用户走访量(黑产)相等高时可能形成做事端压力过大或者后端做事Down掉，那么客户端就会无法走访，是以也需要一定的左迁战术。

优点：翌日自并吞IP地址的申请，并吞会话期内，转发到疏浚的做事器;扫尾会话粘滞 纰谬：指标做事器宕机后，会话会丢失

源地址哈希

一致性哈希(Consistency hash)

一些场景但愿一样的申请尽量落到一台机器上，比如走访缓存集群时，咱们每每但愿并吞种申请能落到并吞个后端上，以充分利用其上已有的缓存，不同的机器承载不同的镇定申请量(也不错透露为固定批用户的申请)。而不是立时地洒落到统统机器上，那样的话会迫使统统机器缓存统统的内容，最终由于存不下形成震憾而发达倒霉。咱们都知说念hash能欢喜这个要求，比如当有n台做事器时，输入x老是会发送到第hash(x) % n台做事器上。但当做事器变为m台时，hash(x) % n和hash(x) % m很可能都不至极，这会使得简直统统申请的发送主义地都发生变化，如果主义地是缓存做事，统统缓存将失效，继而对正本被缓存讳饰的数据库或计较做事形成申请风暴，触发雪崩。一致性哈希是一种特殊的哈希算法，在加多做事器时，发向每个老节点的申请中只会有一部分转向新节点，从而扫尾平滑的挪动。

一致性哈希

优点：

平衡性: 每个节点被选到的概率是O(1/n)。 单调性: 当新节点加入时， 不会有申请在老节点间挪动， 只会从老节点挪动到新节点。当有节点被删除时，也不会影响落在别的节点上的申请。 分散性: 当上游的机器看到不同的下流列表时(在上线时及不镇定的网罗中比较常见), 并吞个申请尽量映射到极少的节点中。 负载: 当上游的机器看到不同的下流列表的时候， 保证每台下流分到的申请数目尽量一致。

纰谬：

在机器数目较少的时候，区间大小会抗击衡。 当一台机器故障的时候，它的压力会统统改造到另外一台机器， 可能无法承载。 7.结语

负载平衡并不是委果确保网罗流量大要"均匀"的分拨到后端服求实例。它只是抱着防范外情况发生时候，也能保证用户体验。精良的架构谈论和弹性扩容，大要使得负载平衡的功能 一本万利。