nginx负载均衡原理
负载均衡（Load Balance），它在网络现有结构之上可以提供一种廉价、有效、透明的方法来扩展 网络设备 和 服务器的带宽 ，并可以在一定程度上 增加吞吐量 、 加强网络数据处理能力 、提高 网络的灵活性 和 可用性 等。用官网的话说，它充当着网络流中“交通指挥官”的角色，“站在”服务器前 处理所有服务器端和客户端之间的请求 ，从而最大程度地 提高响应速率和容量利用率 ，同时 确保任何服务器都没有超负荷工作 。如果单个服务器出现故障， 负载均衡的方法会将流量重定向到其余的集群服务器，以保证服务的稳定性 。当新的服务器添加到服务器组后，也可通过负载均衡的方法使其开始自动处理客户端发来的请求。
负载均衡涉及到以下的基础知识。
a. Round Robin: 对所有的backend轮训发送请求，算是最简单的方式了，也是默认的分配方式；
b. Least Connections(least_conn): 跟踪和backend当前的活跃连接数目，最少的连接数目说明这个backend负载最轻，将请求分配给他，这种方式会考虑到配置中给每个upstream分配的weight权重信息；
c. Least Time(least_time): 请求会分配给响应最快和活跃连接数最少的backend；
d. IP Hash(ip_hash): 对请求来源IP地址计算hash值，IPv4会考虑前3个octet，IPv6会考虑所有的地址位，然后根据得到的hash值通过某种映射分配到backend；
e. Generic Hash(hash): 以用户自定义资源(比如URL)的方式计算hash值完成分配，其可选consistent关键字支持一致性hash特性；
用户(浏览器)在和服务端交互的时候，通常会在本地保存一些信息，而整个过程叫做一个会话(Session)并用唯一的Session ID进行标识。会话的概念不仅用于购物车这种常见情况，因为HTTP协议是无状态的，所以任何需要逻辑上下文的情形都必须使用会话机制，此外HTTP客户端也会额外缓存一些数据在本地，这样就可以减少请求提高性能了。如果负载均衡可能将这个会话的请求分配到不同的后台服务端上，这肯定是不合适的，必须通过多个backend共享这些数据，效率肯定会很低下，最简单的情况是保证会话一致性——相同的会话每次请求都会被分配到同一个backend上去。
出问题的backend要能被及时探测并剔除出分配群，而当业务增长的时候可以灵活的添加backend数目。此外当前风靡的Elastic Compute云计算服务，服务商也应当根据当前负载自动添加和减少backend主机。
通常现代的网络服务者一个域名会关连到多个主机，在进行DNS查询的时候，默认情况下DNS服务器会以round-robin形式以不同的顺序返回IP地址列表，因此天然将客户请求分配到不同的主机上去。不过这种方式含有固有的缺陷：DNS不会检查主机和IP地址的可访问性，所以分配给客户端的IP不确保是可用的(Google 404)；DNS的解析结果会在客户端、多个中间DNS服务器不断的缓存，所以backend的分配不会那么的理想。
转自 https://blog.csdn.net/weixin_43694144/java/article/details/84098906
Nginx实现负载均衡
实现负载均衡可有以下算法： Nginx实现负载均衡的原理是利用Http重定向实现负载均衡 rpm 安装方式nginx配置文件地址 /etc/nginx/conf.d 目录下面，配置文件内容结构如下： 修改完配置文件以后，还需要输入重新加载配置命令： 我们从官网上面看一下负载均衡配置案例，然后根据案例配置去对每项参数进行解释，案例如下( 注意：以下模块内容必须放在http模块下 )： 从上面这个案例Nginx会作如下执行，默认情况下，请求使用 加权循环平衡法。 在上面的示例中，每 7 个请求将按如下方式分配： 5个请求去 backend1.example.com 向第二台和第三台服务器分别发送一个请求。 如果在与服务器通信过程中发生错误，请求将 被传递到下一个服务器，依此类推，直到所有的功能 服务器将被尝试。 如果无法从任何服务器获得成功的响应， 客户端将收到与最后一个服务器通信的结果。 语法： parameters类别： 商业版本需要付费的其他属性这里就不阐述了 1）轮训策略： upstream模块默认的负载均衡策略是轮训策略，它会依次在服务列表进行分发 2）加权策略： 容器会根据server设置的权重进行请求分配，例如server1 weight=5 ，server2 weight=2 将会使得每 7 个请求将按如下方式分配server1 5个请求，server2两个请求。 3）Ip哈希策略： 其中请求 根据客户端 IP 地址在服务器之间分布，确保来自同一客户端的请求将始终 传递到同一服务器。使用方法是在upstream模块下面添加ip_hash; 4）最少连接数策略(least_conn)： 指定组应使用负载平衡方法，其中请求 传递给活动连接数最少的服务器， 考虑到服务器的权重。 如果有多个这样的服务器，它们会依次尝试使用 加权循环平衡法。 5）扩展策略（需要安装插件）： 还有一些其他需要付费的策略这里就不进行阐述了，比如：最少时间策略（ least_time）、随机策略等。
