负载均衡常见算法


负载均衡常见算法

文章插图
 
相关知识点
冷备与热备
  • 冷备份(cool standby),指配备平时不运行的备用设备,当运行设备发生故障时,使用备用设备替换 。
  • 热备份(hot standby),指在设备运行的同时运行备用设备,当运行设备发生故障时,能够自动替换备用设备 。
fail-over与fail-back
  • fail-over,在空余结构中,停止运行设备,使用备用设备进行工作的过程称为替换,英文称为fail-over或者switch-over 。
  • fail-back,替换后再次恢复到原来的运行设备,也就是从运行状态的备用设备再切换到原来的运行设备的过程,称为回退,英文称为fail-back或switch-back 。
冗余类型
  • 1.主备方式(Active-Standby)
  • 准备两台路由器,其中一台作为正常运行业务的活跃设备(active),也可以称为主设备(master)或者首要设备(primary) 。另一台作为发生故障时替换的备用设备(standby),也可以称为备机(backup)、从设备(slave)、必要设备(secondary) 。活跃设备和备用设备必须共享关于设备的设置信息 。
  • 2.双活方式(Active-Active)
  • 准备两台路由器,其中一台作为首要设备(primary),另一台作为次要设备(secondary),二者同时运行来组成冗余结构 。这种方式可以通过与负载均衡设备并用或者设置DNS、客户端一侧的路由信息来达到负载均衡的目的 。
  • 3.集群方式(Cluster)
  • 在主备方式或双活方式中,使用3台以上的硬件协同组成冗余结构的方式 。
 
什么是负载均衡
负载均衡,英文名称为Load Balance,指由多台服务器以对称的方式组成一个服务器集合,每台服务器都具有等价的地位,都可以单独对外提供服务而无须其他服务器的辅助 。通过某种负载分担技术,将外部发送来的请求均匀分配到对称结构中的某一台服务器上,而接收到请求的服务器独立地回应客户的请求 。负载均衡能够平均分配客户请求到服务器阵列,借此提供快速获取重要数据,解决大量并发访问服务问题,这种集群技术可以用最少的投资获得接近于大型主机的性能 。
负载均衡算法在很多地方都有使用,无论是在服务治理中或者是在分布式缓存中都大量的使用,本文主要介绍几种常见的负载均衡的算法.
1.轮询法
 
轮询法,很好理解,将请求按照顺序轮流的分配到服务器上,他均衡的对待每一台后端的服务器,不关心服务器的的连接数和负载情况.以下代码演示了这种算法.
1public class BalanceServer { 2 public static List<String> servers =3Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4", 4 "192.168.0.5"); 5 public static int pos = 0; 6 public static String getServer() { 7 String server = null; 8 if (pos >= servers.size()) { 9 pos = 0;10 }11 server = servers.get(pos);12 pos++;13 return server;14 }15 public static void main(String[] args) {16 for(int i=0;i<10;i++){17 System.out.println(BalanceServer.getServer());18 }19 }20} 
轮询的策略目的在于请求的绝对均衡,但是在实际的情况下,可能服务器并不是完全一样,导致有些性能高的服务器不能完全发挥出来.
2.随机法
 
通过系统的随机函数,根据后端服务器列表的大小来随机获取其中的一台来访问,随着调用量的增大,实际效果越来越近似于平均分配到没一台服务器.和轮询的效果类似, 代码如下:
1public class BalanceServer { 2 public static List<String> servers = Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4", 3 "192.168.0.5"); 4 public static int pos = 0; 5 public static String getServer() { 6 String server = null; 7 Random random = new Random(); 8 int randomPos = random.nextInt(servers.size()); 9 server = servers.get(randomPos);10 return server;11 }12} 
和轮询算法比较,在并发的场景下,轮询需要加锁,随机法想比而言性能好点.
3.源地址hash法
源地址hash法的思想是获取客户端访问的ip地址,通过hash函数计算出一个hash值,用该hash值对服务器列表的大小进行取模运算,得到的值就是要访问的服务器的序号,代码如下:
1public class BalanceServer { 2 public static List<String> servers = Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4", 3 "192.168.0.5"); 4 public static int pos = 0; 5 public static String getServer(String ip) { 6 String server = null; 7 int hashCode = ip.hashCode(); 8 pos = hashCode % servers.size(); 9 server = servers.get(pos);10 return server;11 }12}


推荐阅读