1 引言

集群资源进行调度成为影响集群性能的重要因素之一^[1]. 文献传统的调度算法先来先服务算法(First Come First Serve, FCFS)等传统的调度算法难以满足大规模异构集群对资源调度的需求^[2–4], 尤其是负载均衡问题更为突出^[5,6], 蚁群算法(Ant Colony Optimization, ACO)等仿生型智能调度算法受到越来越多的关注.

国内外学者对蚁群算法在集群调度中的应用做了一定的研究^[7,8], 认为其分布并行性、健壮性、可扩展性都比较适合于集群调度, 但是蚁群算法没有充分考虑资源与作业的匹配度和负载均衡问题, 导致集群的整体性能不能得以充分发挥, 所以需要对蚁群算法深入研究并加以改进, 以进一步提高集群调度的性能.

2 蚁群算法及在集群调度中的应用 2.1 蚁群算法原理

蚁群算法^[8]是由意大利学者于1991年首先提出的一种具有群体智能的仿生优化算法, 借鉴生物界中蚂蚁在觅食过程中总能找到最短路径的思想. 蚁群算法用蚂蚁行走的路径轨迹求解问题的最优解, 蚂蚁的每条路径轨迹代表所求问题的一种解, 所有的蚂蚁都在解空间中独立地搜索, 当蚂蚁在行进过程中遇见尚未经过的路口时, 就从该路口延伸出的路径中随机地选择一条尚未走过的路径继续前进, 同时释放与该路径长度有关的信息素增强该路径的被选概率, 该路径长度越短, 释放的信息素就越多. 当后来的蚂蚁再次经过该路口时, 就选择信息素浓度高的路径, 同时释放更多的信息素, 形成正反馈机制. 同时引入信息素挥发机制, 避免残留信息素太多使启发信息失去参考价值的现象. 蚁群算法的这种自催化行为不需要外界提供其他的信息, 应用起来比较简单, 现已在旅行商问题、组合优化问题、二次分配问题等领域得到了良好的发展.

2.2 蚁群算法用于集群调度的策略

用蚁群算法解决集群调度问题的策略^[9,10]为:

(1) 设组成蚁群的蚂蚁数量为M, 每只蚂蚁均可独立求得一组作业调度方案.

(2) 集群系统初始化, 集群中所有节点都需提供自身的CPU个数及每个CPU的处理能力等参数, 为每个节点设置初始信息素.

(3) 异构集群系统中的管理节点在每个调度周期开始前就开始收集各节点的资源信息:

① 若有新节点加入集群, 就为这个新加入集群的节点根据它所提供的CPU个数及处理能力等参数设置初始信息素;

② 若集群中有节点因故障等原因掉线, 则将该掉线节点作停用标记;

③ 若集群中作停用标记的节点恢复, 就重新为该节点设置启用标志;

④ 集群中作业调度结束后, 依据作业的完成情况修改节点的信息素: 成功则奖励, 失败则惩罚.

(4) 蚂蚁个体根据概率公式随机选择一个可用的计算节点作为第一个作业分配的节点, 并且依据信息素计算出转移概率的大小, 按顺序决定下一个作业分配的节点. 重复此步骤, 直到所有的作业分配完成.

(5) 调度策略的优化目标是所有任务的总体执行代价最小和系统资源的负载平衡性最优.

当一个蚂蚁找到一种调度方案后, 就计算该调度方案的执行时间和负载均衡性. 当所有蚂蚁都找到调度方案后, 比较每个调度方案的执行时间和负载均衡性, 并以此修改各相关路径的信息素. 选择任务完成时间最短和负载均衡性最优的一组资源为最优方案.

2.3 信息素更新带来的问题

在蚁群算法中, 信息素的更新非常重要, 集群系统直接根据信息素更新后的大小决定下一个作业选择该集群节点的概率. 蚁群算法的信息素更新公式如式(1)和式(2):

$\tau _j^{\rm {new}} = (1 - \rho ) \cdot \tau _j^{\rm {old}} + \Delta {\tau _j}$

(1)

$ \Delta {\tau _j} = \left\{ \begin{array}{l} {C_e} \times k,\;\;{\text{作业成功完成}},{C_e}{\text{为奖励因子}}\\[5pt]{C_p} \times k,\;\;{\text{作业完成失败}},{C_p}{\text{为惩罚因子}} \end{array} \right. $

(2)

其中, $\tau _j^{\rm {new}}$ 是集群节点当前的信息素, $(1 - \rho ) \cdot \tau _j^{\rm {old}}$ 是残留的信息素, C_e是奖励因子示, C_p是惩罚因子, ρ为信息素挥发系数, k为作业所需计算能力.

从公式(1)和公式(2)可以看到, 信息素的更新方式有时会带来以下两方面的问题:

(1) 作业需求与集群节点资源性能不匹配

从公式(2)中蚂蚁根据作业完成情况释放信息素可以看出, 作业成功完成, 就对该集群节点进行奖励; 作业完成失败, 就对该集群节点进行惩罚. 但这种情况并没有考虑作业需求和集群节点资源性能的匹配问题, 很可能会出现小作业在大资源上执行的这种“大炮打蚊子”式的性能不匹配的问题.

(2) 集群各节点之间负载不均衡

公式(1)中信息素挥发系数ρ通常是固定的常数, 也即各集群节点上的信息素挥发程度相同. 但集群各节点的性能不同, 作业又是随机到达的, 系统运行一段时间后, 很可能会出现集群各节点之间负载不均衡的情况.

3 对蚁群算法的改进

针对信息素更新中存在的问题对蚁群算法进行改进, 称之为该进型蚁群算法(Improved ACO, IACO)算法, 这种改进包括两个方面: 一方面引入性能匹配因子提高性能匹配度, 把这种算法称为PM-ACO (Performance Matching-ACO); 另一方面引入负载均衡因子优化负载均衡, 把这种算法称为LB-ACO (Load Balance-ACO).

3.1 PM-ACO算法

为了使得分配的资源和作业的需求更好的匹配, 达到物尽其用, 从而更好的发挥集群的整体性能, 进行资源调度时, 根据作业的需求计算每个作业到各个集群节点的匹配程度, 引入性能匹配因子λ_ij. λ_ij即用户作业i所需资源与集群空闲节点j拥有资源的匹配度.

${\lambda _{ij}} = \sqrt {{{\left( {realExetime - estimatedTime} \right)}^2}} $

(3)

其中, realExetime表示作业的实际运行时间, estimatedTime表示作业的预期运行时间, 作业对资源的需求与集群节点所拥有资源越接近, 性能匹配因子λ_ij也就越小.

引入性能匹配因子后, 蚂蚁根据作业完成情况释放信息素的公式(4)和公式(5)如下:

${\lambda _{ij}}:\left\{ \begin{array}{l} < {\lambda _0},\;\;c{\text{}}{\text{取大于1的奖励因子}}\\[5pt] > {\lambda _0},\;\;c{\text{}}{\text{取小于1的惩罚因子}}\end{array} \right.$

(5)

$\Delta {\tau _j} = \Delta {\tau _j} + ck$

(4)

其中, λ_ij为性能匹配因子, λ₀为匹配度阈值, $\Delta {\tau _j}^{\rm {}}$ 为信息素增量,c为奖励因子或惩罚因子, k为所需计算资源.

当作业在资源节点上执行完成后, 计算作业与该集群节点的性能匹配因子λ_ij的值, 并把λ_ij的值与匹配度阈值作比较. 如果λ_ij的值小于匹配度阈值, 信息素调节因子就取奖励因子, 增大该资源节点的信息素浓度, 使得此资源节点被选中的概率增大. 如果λ_ij的值大于匹配度阈值, 信息素调节因子就取惩罚因子, 减小资源节点的信息素浓度, 使得此资源节点被选中的概率降低. 这样, 对于资源处理能力需求小的作业就可能选择更匹配的处理能力低的集群节点. 队列后面对资源处理能力需求大的作业也就会到处理能力高的集群节点上去执行, 从而较好地解决了资源与作业不匹配的问题.

3.2 LB-ACO算法

在蚁群算法中, 挥发系数的大小直接影响着算法的收敛速度. 挥发系数较小时, 计算节点的信息素较大, 算法收敛的也较快. 为了满足蚁群算法作业调度中负载均衡的要求, 系统需要不断的检测计算节点的负载及其作业完成情况. 为了保证负载均衡, 我们需要把各计算节点负载完成率的差值控制在一个较小的阈值之内. 为了动态的调整蚁群算法的挥发系数, 提高负载均衡性能, 引入负载均衡因子, 表达如公式(6)所示:

${\omega _i} = \frac{{{T_f}}}{{{T_a}}},\;\;\; {i = 1,2, \cdot \cdot \cdot ,m} $

(6)

其中, T_a表示计算节点成功完成的任务数, T_f表示该计算节点已经接收的所有任务总数. T_f一定时, T_a越大, 计算节点成功完成的任务数越多, ω_i也越小, 表明计算节点的作业完成率越高; T_a越小, 计算节点成功完成的任务数越少, ω_i也就越大, 表明计算节点的作业完成率越低.

引入负载均衡因子后, 集群节点残留信息素改变如公式(7)所示:

${\omega _i}:\left\{ \begin{array}{l} < {\omega _0},\;\;\;\;\;\;{\text{减小信息素挥发系数}}\rho {\kern 1pt} \\[5pt] > {\omega _0},\;\;\;\;\;\;{\text{增大信息素挥发系数}}\rho \end{array} \right.$

(7)

其中, ω₀为负载均衡因子的初始阈值.

在为作业选择集群节点时, 需要计算该集群节点的负载均衡因子ω_i的值, 并将ω_i的值与初始阈值ω₀作比较. 若ω_i小于初始阈值时, 应该减小挥发系数, 增大集群节点的信息素值, 使该集群节点被选概率增大, 作业分配收敛于此资源节点; 反之, 若ω_i大于初始阈值时, 应该增大挥发系数, 减小计算节点的信息素值, 使该集群节点被选概率降低, 使算法的全局搜索能力增强, 以便找到更加匹配的资源.

3.3 IACO用于集群调度的实现方案

改进后的蚁群算法应用于异构集群系统进行资源调度的实现方案如图1所示.

调度开始前, 异构集群系统中的管理节点就开始收集各节点的资源信息素信息. 若有新节点加入, 则对该节点进行初始化. 集群系统对每组作业调度时, 都需要创建一个新的蚁群. 蚁群中的每个蚂蚁找到一种调度方案后, 就计算该调度方案的执行时间和负载均衡性. 当所有蚂蚁都找到调度方案后, 比较每个调度方案的执行时间和负载均衡性, 并以此修改各相关路径的信息素. 选择任务完成时间最短和负载均衡性最高的一组资源为最优方案.

4 实验结果及分析

为了对改进的蚁群算法在集群调度中的应用效果进行测试, 在100个节点的异构集群上对真实的地震资料进行处理, 调度算法分别采用先来先服务算法FCFS、蚁群算法ACO、引入性能匹配因子的PM-ACO算法、引入负载均衡因子的LB-ACO算法和最终改进的蚁群算法IACO, 主要对处理时间和CPU平均利用率进行对比, 实验结果如图2和图3所示.

从实验结果可以看出, 蚁群算法ACO考虑到资源和作业的实际情况, 比传统的先来先服务算法FCFS有明显的优势; 引入性能匹配因子后的PM-ACO算法解决了“大炮打蚊子”的问题, 使得性能有所改进, 但负载均衡问题没有解决; LB-ACO算法考虑了负载均衡问题, 但还有可能存在“大炮打蚊子”现象; IACO较好地解决了这两方面的问题, 不论是处理时间还是CPU利用率均有明显提高.

由此可见, 传统的蚁群算法应用于集群调度时确实存在资源匹配和负载均衡的问题, 在这两个方面进行改进后能够较好地提高集群的调度性能.

5 结论

传统调度算法已经难以满足大规模异构集群的作业的调度, 蚁群算法比较适合于集群中的作业调度, 但是, 传统的蚁群算法在作业匹配和负载均衡方面还存在问题, 改进的蚁群算法IACO较好地解决了这一问题, 有效地提高了集群调度的性能.