计算机工程与科学

作者：季航旭, 姜苏, 赵宇海, 吴刚, 王国仁

单位：1.东北大学计算机科学与工程学院，辽宁 沈阳 110819;2.北京理工大学计算机学院，北京 100081

关键词：分布式,作业合并,聚类,轮询调度,Flink,

基金：科技部重点研发项目（2018YFB1004402）

分布式大数据计算引擎是科研机构、互联网企业和政府部门处理大规模数据必不可少的工具，它们的使用和推广促进了各个领域的快速发展，为社会进步做出了巨大贡献。但是，在多作业处理的情况下，目前主流的大数据计算引擎在资源分配和作业调度方面仍有许多不足之处，它们通常对多作业平均划分内存资源并以先进先出FIFO的方式调度作业，这样简单的资源划分方式和作业调度机制并不能充分利用系统性能。针对此问题，从计算引擎的作业层面做出了改进：在资源划分方面，通过提取作业特征对作业的任务量进行预估，判断作业任务量和作业预分配资源间的差异，合并对集群资源浪费较高的作业，充分利用计算资源；在作业调度方面，对作业池中的作业进行特征提取，使用多路K-means算法对作业进行聚类分析，然后基于分析的结果，使用自平衡轮询调度算法对作业进行调度，达到负载均衡的目的。为了验证所提算法的有效性，使用大规模文本数据集在分布式集群环境中进行对比实验，实验结果表明，提出的作业合并算法和多作业调度算法可以减少5%~23%的作业运行时间，提高了7.5%~29%的系统吞吐量，在最好情况下可减少40%的线程启动数。

来源：2021年第6期

《计算机工程与科学》期刊编辑部

查看计算机工程与科学杂志2021年第6期