流量洪峰下的交通指挥家：详解负载均衡与限流实战

负载均衡算法

负载均衡器在将请求转发到后端服务器之前会考虑两个因素。首先，它会确保所选择的服务器能够适当地响应请求，然后使用预先配置的算法从一组正常的服务器中选择一个。

负载均衡器应该只将流量转发到“正常”的服务节点。为了监视服务器的运行状况，负载均衡器会定期进行运行状况检查（Health Check），尝试连接到服务器，以确保服务节点正在正常运行。如果某个服务节点未通过运行状况检查，它将自动从服务器池中删除，并且在它再次通过运行状况检查之前，负载均衡器不会将流量转发给它。

在负载均衡中，有各种各样的方法和算法，这些算法可以根据服务器的性能、负载情况、会话保持需求等因素来进行选择。以下是一些常见的负载均衡算法。

1）轮询（Round Robin）：这是最简单也最经典的策略。它像发牌一样，按顺序将请求逐一分发给每台服务器。这种方式纯粹、公平，但略显“天真”——它假设所有服务器的处理能力完全相同，且每个请求的耗时也一样，这在现实世界中几乎不可能。

2）最少连接（Least Connections）： 这是最常用的动态算法。它会把新请求发送给当前连接数最少的服务器。这好比在超市结账时，总会下意识地选择排队人数最少的那个收银台，因为它大概率最快。

3）加权算法（Weighted Algorithms）：当服务器配置高低不一时，加权算法便派上用场。可以为性能更强的服务器分配更高的“权重”，让它承担更多的流量，实现“能者多劳”，最大化利用硬件投资。

4）会话保持（Session Persistence / Sticky Sessions）：在某些场景下（如网上银行、购物车），需要用户的连续请求始终由同一台服务器处理，以维持会话状态。此时，负载均衡器会根据用户的IP地址或Cookie等信息，实现“粘性会话”，确保用户的请求“粘”在固定的服务器上。