负载均衡策略之最少连接

前言

本文简单介绍一下最少连接这个负载均衡策略。

最少连接 (Least Connection)

最少连接策略指的是从已有的后端列表中选择正在处理的连接数/请求数（对于七层负载均衡器来说可能更多的是说的最少请求数） 最少的节点出来提供服务。

既然要判断连接数/请求数，那么每个节点都需要保存一个正在处理的连接数/请求数的信息，然后选取节点的时候判断一下， 选择连接数最少的那个节点。

用 python 简单表示就是：

class Node:
    def __init__(self, name):
        self.name = name
        self.connections = 0

    def __repr__(self):
        return '<Node: {}, conn: {}>'.format(self.name, self.connections)


class LC:

    def __init__(self, nodes):
        self.nodes = nodes

    def select(self):
        best = None

        for node in self.nodes:
            if best is None or node.connections < best.connections:
                best = node

        best.connections += 1
        return best

    def release(self, node):
        node.connections -= 1

带权重的最少连接 (Weighted Least Connection)

实际使用中各个节点往往都带有不同的权重，比较连接数时需要同时考虑节点的权重信息， 被选中的节点的连接数与权重的比要最小。 即，被选中的节点满足下面的条件：

  • 假设用 C 表示连接数、W 表示权重、S 表示被选中的节点、Sn 表示未被选中的节点
  • 那么 S 必须满足 C(S) / W(S) < C(Sn) / W(Sn) ，这个条件也可以表示为 C(S) * W(Sn) < C(Sn) * W(S)

用 python 简单表示就是：

class Node:
    def __init__(self, name, weight):
        self.name = name
        self.weight = weight
        self.connections = 0

    def __repr__(self):
        return '<Node: {}, weight: {}, conn: {}>'.format(
                self.name, self.weight, self.connections)


class LC:

    def __init__(self, nodes):
        self.nodes = nodes

    def select(self):
        best = None

        for node in self.nodes:
            if best is None or (
                    node.connections * best.weight
                    ) < (best.connections * node.weight):
                best = node

        best.connections += 1
        return best

    def release(self, node):
        node.connections -= 1

改进

上面的 Python 简单实现其实有一点小瑕疵：当有多个节点满足条件时，上面的方法可能会连续多次选中同一个节点， 导致结果不够平滑。

解决这个瑕疵的方法也比较简单，那就是把所有满足条件的节点都选出来，然后对这些节点应用其他负载均衡策略来选出合适的节点（比如使用前面介绍过的轮询策略、随机选择策略等）。

总结

本文简单记录了一下最少连接策略以及带权重的最少连接策略这两个负载均衡策略的实现方法， 当然还有其他的实现方法欢迎一起探讨。

Comments