负载均衡

发表于 | 分类于 ，

什么是负载均衡？

负载均衡（Load Balance）将负载（工作任务，访问请求）进行平衡、分摊到多个操作单元（服务器，组件）上进行执行。
是解决高性能，单点故障（高可用），扩展性（水平伸缩）的终极解决方案。

负载均衡分类

DNS负载均衡

最早的负载均衡技术，利用域名解析实现负载均衡，在DNS服务器，配置多个A记录，这些A记录对应的服务器构成集群。
大型网站总是部分使用DNS解析，作为第一级负载均衡。

优点：

  • 使用简单：负载均衡工作，交给DNS服务器处理，省掉了负载均衡服务器维护的麻烦

  • 提高性能：可以支持基于地址的域名解析，解析成距离用户最近的服务器地址，可以加快访问速度，改善性能；

缺点：

  • 可用性差：DNS解析是多级解析，新增/修改DNS后，解析时间较长；解析过程中，用户访问网站将失败；

  • 扩展性低：DNS负载均衡的控制权在域名商那里，无法对其做更多的改善和扩展；

  • 维护性差：也不能反映服务器的当前运行状态；支持的算法少；不能区分服务器的差异（不能根据系统与服务的状态来判断负载）

使用建议：将DNS作为第一级负载均衡，A记录对应着内部负载均衡的IP地址，通过内部负载均衡将请求分发到真实的Web服务器上。
一般用于互联网公司，复杂的业务系统不合适使用。

HTTP负载均衡

IP负载均衡

在网络层通过修改请求目标地址进行负载均衡。

用户请求数据包，到达负载均衡服务器后，负载均衡服务器在操作系统内核进程获取网络数据包，根据负载均衡算法得到一台真实服务器地址，
然后将请求目的地址修改为，获得的真实ip地址，不需要经过用户进程处理。

真实服务器处理完成后，响应数据包回到负载均衡服务器，负载均衡服务器，再将数据包源地址修改为自身的ip地址，发送给用户浏览器。

IP负载均衡，真实物理服务器返回给负载均衡服务器，存在两种方式：

  • 负载均衡服务器在修改目的ip地址的同时修改源地址。将数据包源地址设为自身，即源地址转换（snat）。

  • 将负载均衡服务器同时作为真实物理服务器集群的网关服务器。

优点：

  • 在内核进程完成数据分发，比在应用层分发性能更好

缺点：

  • 所有请求响应都需要经过负载均衡服务器，集群最大吞吐量受限于负载均衡服务器网卡带宽；

链路层负载均衡

在通信协议的数据链路层修改mac地址，进行负载均衡。

数据分发时，不修改ip地址，指修改目标mac地址，配置真实物理服务器集群所有机器虚拟ip和负载均衡服务器ip地址一致，
达到不修改数据包的源地址和目标地址，进行数据分发的目的。

实际处理服务器ip和数据请求目的ip一致，不需要经过负载均衡服务器进行地址转换，可将响应数据包直接返回给用户浏览器，
避免负载均衡服务器网卡带宽成为瓶颈。也称为直接路由模式（DR模式）

优点：性能好；

缺点：配置复杂；

实践建议：DR模式是目前使用最广泛的一种负载均衡方式。

混合型P负载均衡

由于多个服务器群内硬件设备、各自的规模、提供的服务等的差异，可以考虑给每个服务器群采用最合适的负载均衡方式，然后又
在这多个服务器群间再一次负载均衡或群集起来以一个整体向外界提供服务（即把这多个服务器群当做一个新的服务器群），从而
达到最佳的性能。将这种方式称之为混合型负载均衡。

此种方式有时也用于单台均衡设备的性能不能满足大量连接请求的情况下。是目前大型互联网公司，普遍使用的方式。

以上模式适合有动静分离的场景，反向代理服务器（集群）可以起到缓存和动态请求分发的作用，当时静态资源缓存在代理服务器时，
则直接返回到浏览器。如果动态页面则请求后面的应用负载均衡（应用集群）。

以上模式，适合动态请求场景。

因混合模式，可以根据具体场景，灵活搭配各种方式，以上两种方式仅供参考。

负载均衡原理

系统的扩展可分为纵向（垂直）扩展和横向（水平）扩展。纵向扩展，是从单机的角度通过增加硬件处理能力，比如CPU处理能力，内存容量，磁盘等方面，
实现服务器处理能力的提升，不能满足大型分布式系统（网站），大流量，高并发，海量数据的问题。因此需要采用横向扩展的方式，通过添加机器来满足
大型网站服务的处理能力。比如：一台机器不能满足，则增加两台或者多台机器，共同承担访问压力。

这就是典型的集群和负载均衡架构：

  • 应用集群：将同一应用部署到多台机器上，组成处理集群，接收负载均衡设备分发的请求，进行处理，并返回相应数据

  • 负载均衡设备：将用户访问的请求，根据负载均衡算法，分发到集群中的一台处理服务器。（一种把网络请求分散到一个服务器集群中的可用服务器上去的设备）

负载均衡的作用（解决的问题）：

  • 解决并发压力，提高应用处理性能（增加吞吐量，加强网络处理能力）

  • 提供故障转移，实现高可用

  • 通过添加或减少服务器数量，提供网站伸缩性（扩展性）

  • 安全防护，比如黑白名单等处理

根据负载均衡所作用在 OSI 模型的位置不同，负载均衡可以大概分为以下几类：

  • 二层负载均衡（MAC）

一般是用虚拟mac地址方式，外部对虚拟MAC地址请求，负载均衡接收后分配后端实际的MAC地址响应。

  • 三层负载均衡（IP）

一般采用虚拟IP地址方式，外部对虚拟的ip地址请求，负载均衡接收后分配后端实际的IP地址响应。

  • 四层负载均衡（TCP）

在三层负载均衡的基础上，用ip+port接收请求，再转发到对应的机器。

  • 七层负载均衡（HTTP）

根据虚拟的url或IP，主机名接收请求，再转向相应的处理服务器。

四层负载均衡（基于IP+端口的负载均衡）

在实际应用中，比较常见的就是四层负载及七层负载。

所谓四层负载均衡，也就是主要通过报文中的目标地址和端口，再加上负载均衡设备设置的服务器选择方式，决定最终选择的内部服务器。

在三层负载均衡的基础上，通过发布三层的IP地址（VIP），然后加四层的端口号，来决定哪些流量需要做负载均衡，对需要处理的流量进行NAT处理，
转发至后台服务器，并记录下这个TCP或者UDP的流量是由哪台服务器处理的，后续这个连接的所有流量都同样转发到同一台服务器处理。

以常见的TCP为例，负载均衡设备在接收到第一个来自客户端的SYN 请求时，即通过上述方式选择一个最佳的服务器，并对报文中目标IP地址进行修改(改为后端服务器IP），
直接转发给该服务器。TCP的连接建立，即三次握手是客户端和服务器直接建立的，负载均衡设备只是起到一个类似路由器的转发动作。在某些部署情况下，为保证服务器回包
可以正确返回给负载均衡设备，在转发报文的同时可能还会对报文原来的源地址进行修改

对应的负载均衡器称为四层交换机（L4 switch），主要分析IP层及TCP/UDP层，实现四层负载均衡。

实现四层负载均衡的软件有：

  • F5：硬件负载均衡器，功能很好，但是成本很高。
  • lvs：重量级的四层负载软件
  • nginx：轻量级的四层负载软件，带缓存功能，正则表达式较灵活
  • haproxy：模拟四层转发，较灵活

七层的负载均衡（基于虚拟的URL或主机IP的负载均衡)

所谓七层负载均衡，也称为“内容交换”，也就是主要通过报文中的真正有意义的应用层内容，再加上负载均衡设备设置的服务器选择方式，
决定最终选择的内部服务器。

在四层负载均衡的基础上（没有四层是绝对不可能有七层的），再考虑应用层的特征，比如同一个Web服务器的负载均衡，除了根据IP加80端口
辨别是否需要处理的流量，还可根据七层的URL、浏览器类别、语言来决定是否要进行负载均衡。

举个例子，如果你的Web服务器分成两组，一组是中文语言的，一组是英文语言的，那么七层负载均衡就可以当用户来访问你的域名时，自动辨别
用户语言，然后选择对应的语言服务器组进行负载均衡处理。

以常见的TCP为例，负载均衡设备如果要根据真正的应用层内容再选择服务器，只能先代理最终的服务器和客户端建立连接(三次握手)后，才可能
接受到客户端发送的真正应用层内容的报文，然后再根据该报文中的特定字段，再加上负载均衡设备设置的服务器选择方式，决定最终选择的内部
服务器。负载均衡设备在这种情况下，更类似于一个代理服务器。负载均衡和前端的客户端以及后端的服务器会分别建立TCP连接。所以从这
个技术原理上来看，七层负载均衡明显的对负载均衡设备的要求更高，处理七层的能力也必然会低于四层模式的部署方式。

对应的负载均衡器称为七层交换机（L7 switch），除了支持四层负载均衡以外，还有分析应用层的信息，如HTTP协议URI或Cookie信息，实现
七层负载均衡。此种负载均衡器能理解应用协议。

实现七层负载均衡的软件有:

  • haproxy：天生负载均衡技能，全面支持七层代理，会话保持，标记，路径转移；
  • nginx：只在http协议和mail协议上功能比较好，性能与haproxy差不多；
  • apache：功能较差
  • mysql proxy：功能尚可

两者之间的区别

举个例子形象的说明：

  • 四层负载均衡就像银行的自助排号机，每一个达到银行的客户根据排号机的顺序，选择对应的窗口接受服务；

  • 七层负载均衡像银行大堂经理，先确认客户需要办理的业务，再安排排号。这样办理理财、存取款等业务的客
    户，会根据银行内部资源得到统一协调处理，加快客户业务办理流程。

总结

从上面的对比看来四层负载与七层负载最大的区别就是效率与功能的区别。四层负载架构设计比较简单，无需解析具体的消息内容，在网络吞吐量
及处理能力上会相对比较高，而七层负载均衡的优势则体现在功能多，控制灵活强大。在具体业务架构设计时，使用七层负载或者四层负载还得根
据具体的情况综合考虑。

负载均衡算法

常用的负载均衡算法有，轮询，随机，最少链接，源地址散列，加权等方式；

轮询

将所有请求，依次分发到每台服务器上，适合服务器硬件同相同的场景。

优点：服务器请求数目相同；

缺点：服务器压力不一样，不适合服务器配置不同的情况；

随机

请求随机分配到各个服务器。
优点：使用简单；

缺点：不适合机器配置不同的场景；

最少链接

将请求分配到连接数最少的服务器（目前处理请求最少的服务器）。

优点：根据服务器当前的请求处理情况，动态分配；

缺点：算法实现相对复杂，需要监控服务器请求连接数；

Hash（源地址散列）

根据IP地址进行Hash计算，得到IP地址。

优点：将来自同一IP地址的请求，同一会话期内，转发到相同的服务器；实现会话粘滞。

缺点：目标服务器宕机后，会话会丢失；

加权

在轮询，随机，最少链接，Hash’等算法的基础上，通过加权的方式，进行负载服务器分配。

优点：根据权重，调节转发服务器的请求数目；

缺点：使用相对复杂；

硬件负载均衡

采用硬件的方式实现负载均衡，一般是单独的负载均衡服务器，价格昂贵，一般土豪级公司可以考虑，业界领先的有两款，F5和A10。

使用硬件负载均衡，主要考虑一下几个方面：

  • 功能考虑：功能全面支持各层级的负载均衡，支持全面的负载均衡算法，支持全局负载均衡；

  • 性能考虑：一般软件负载均衡支持到5万级并发已经很困难了，硬件负载均衡可以支持

  • 稳定性：商用硬件负载均衡，经过了良好的严格的测试，从经过大规模使用，在稳定性方面高；

  • 安全防护：硬件均衡设备除具备负载均衡功能外，还具备防火墙，防DDOS攻击等安全功能；

  • 维护角度：提供良好的维护管理界面，售后服务和技术支持；

  • 缺点：价格昂贵，扩展能力差

Ngnix负载均衡

参考链接：http://www.cnblogs.com/itfly8/p/5080743.html

Ngnix是一款轻量级的Web服务器/反向代理服务器，工作在七层Http协议的负载均衡系统。具有高性能、高并发、低内存使用等特点。是一个轻量级
的Http和反向代理服务器。Nginx使用epoll and kqueue作为开发模型。能够支持高达 50,000个并发连接数的响应。

并发性能：官方支持每秒5万并发，实际国内一般到每秒2万并发，有优化到每秒10万并发的。具体性能看应用场景。

特点

  • 模块化设计：良好的扩展性，可以通过模块方式进行功能扩展。

  • 高可靠性：主控进程和worker是同步实现的，一个worker出现问题，会立刻启动另一个worker。

  • 内存消耗低：一万个长连接（keep-alive）,仅消耗2.5MB内存。

  • 支持热部署：不用停止服务器，实现更新配置文件，更换日志文件、更新服务器程序版本。

  • 并发能力强：官方数据每秒支持5万并发；

  • 功能丰富：优秀的反向代理功能和灵活的负载均衡策略

Nginx通信模型（I/O复用机制）

开发模型：epoll和kqueue。

支持的事件机制：kqueue、epoll、rt signals、/dev/poll 、event ports、select以及poll。

支持的kqueue特性包括EV_CLEAR、EV_DISABLE、NOTE_LOWAT、EV_EOF，可用数据的数量，错误代码.

支持sendfile、sendfile64和sendfilev;文件AIO；DIRECTIO;支持Accept-filters和TCP_DEFER_ACCEP.

均衡策略

nginx的负载均衡策略可以划分为两大类：内置策略和扩展策略。

内置策略包含加权轮询和ip hash，在默认情况下这两种策略会编译进nginx内核，只需在nginx配置中指明参数即可。扩展策略有很多，
如fair、通用hash、consistent hash等，默认不编译进nginx内核。