演化多任务优化研究利用种群进行优化搜索、借助任务间遗传信息的迁移达到多任务同时处理的目的.演化多任务优化被认为是继单目标优化、多目标优化后的第三种问题优化研究范例, 是近年来计算智能领域兴起的一大研究热点. 演化多任务优化算法模拟自然界选型交配和垂直文化传播的生物文化现象, 通过任务间和任务内的知识迁移来促进多个优化任务各自的收敛. 对近年来演化多任务优化领域的研究进展做出了系统总结: 首先, 引入了演化多任务优化问题的概念, 给出了其相关的5个定义, 并从知识迁移优化的角度对这一问题做出阐述; 然后, 详细介绍了演化多任务优化算法的基本框架, 总结了这一算法近年来的改进情况和基于这一算法框架下其他经典算法的实现情况; 之后, 对演化多任务优化算法的学术、工程应用情况做出了较为完整的归纳介绍; 最后, 指出了演化多任务优化领域目前存在的主要问题和挑战, 并对这一方向的进一步发展做出了展望.
Evolutionary multitasking optimization focuses on population-based search and solves multiple tasks simultaneously via genetic transfer between tasks. It is considered as the third problem optimization paradigm after single-objective optimization and multi-objective optimization, and has become a hot research topic in the field of computational intelligence in recent years. The evolutionary multitasking optimization algorithm simulates the biocultural phenomena of assortative mating and vertical cultural transmission in nature, which leads to the improved convergence characteristics of multiple optimization tasks with inter-task and intra-task transfer knowledge. This study gives a systematic review of the research progress in evolutionary multitasking in recent years. Firstly, the concept of evolutionary multitasking optimization is introduced and its related five definitions are given. This problem is also explained from the perspective of knowledge transfer optimization. Secondly, the basic framework of the evolutionary multitasking optimization algorithm is introduced in detail. The improvement of it and the implementation of other algorithms based on it are presented. Finally, the application in academic and engineering of this algorithm is summarized. At last, the existing challenges in the field of evolutionary multitasking optimization are pointed out and an outlook is presented for the further development of this direction.
演化算法(evolutionary algorithms)是一类受到生物界进化思想启发的随机优化方法, 其依据的核心思想是达尔文主义自然选择、适者生存的原则[
考虑到社会现实的需要, 提出一种能够进行多个任务同时优化的算法迫在眉睫. 可以注意到: 对于同一时间进行着的不同任务, 人类大脑能够自然而然地对它们进行处理. 比如: 当我们观看一段视频时, 大脑可以同时完成对声音和图像的接收处理; 当我们驾驶车辆时, 我们一边观察路况一边把控车速和方向.... 通过把要进行处理的多个任务分配到大脑的不同功能区域, 人类获得了多任务同时处理的能力, 这启发着研究人员向人类智力寻求灵感. 同时, 由于现实世界中的问题往往不会独立存在, 而是和其他问题具有千丝万缕的联系, 并且在它们之间存在广泛的相似性, 这就为多任务间利用共享信息进行有效的知识迁移过程提供了可能. 实现算法多任务优化的能力, 通过知识迁移促进多任务共同优化的效率和质量, 一直是进化计算领域相关研究人员长期追求的目标.
演化多任务优化的提出, 有效地实现了上述目标, 旨在通过利用多个优化任务间的共享知识促进各任务的收敛. 在文献[
自MFEA在2016年被提出以来, 演化多任务优化就受到了进化计算领域相关研究人员的热切关注. 在世界进化计算领域的年度盛会IEEE Congress on Evolutionary Conf.(CEC)上, 每年都有学者就演化多任务优化算法的相关理论作报告, 同时举办了多场这一方向相关的比赛, 引起了与会者的热烈讨论和持续关注. 由于演化多任务优化算法的逐步改进和应用范围的扩大, CEC更是在2021年增设了演化多任务优化领域的特别单元分会. 学术文献方面, 依托谷歌学术资源数据库, 截止2022年4月底, 当以“evolutionary multitasking”作为关键词进行检索时, 发现被引用最多的3篇论文依次为文献[
代表性文献引证关系图
据我们所知: 由于MFEA提出的时间较迟, 国内外关于演化多任务优化的综述类文章很少. Gupta等人[
本文对近5年来演化多任务优化领域的研究情况作了较为详细的总结. 第1节给出多任务优化问题的数学描述, 引入演化多任务优化问题的概念, 给出其相关的5个定义, 并从知识迁移优化的角度做出进一步解释. 第2节详细介绍演化多任务优化算法的基本框架结构, 并对近几年来针对这一算法的改进情况做出系统总结. 第3节介绍基于演化多任务优化算法框架下其他经典算法的实现情况. 第4节列举演化多任务优化算法在不同学术工程领域的应用情况. 第5节对全文进行总结, 并就演化多任务优化的进一步发展提出我们自己的看法.
考虑在某多任务环境下存在
可以发现, 多任务优化的最终目标即为求得解
Gupta等人将演化多任务优化问题开创性地描述为演化计算领域一种新的问题优化研究范例——MFO问题, 以区别于单目标优化(single-objective optimization, SOO)问题[
知识迁移角度下的多任务优化过程
MFO问题要求进行演化的种群中, 每一个体都是可以进行比较的(以达到优胜劣汰的进化选择目的). 由此, Gupta等人给出了MFO问题的一系列定义. 假定一个种群
其中, 定义3将个体的适应度标量化, 是为了能够对个体性能进行直接比较. 比较方式为: 给定两个个体
Gupta等人[
特别需要注意的是: 不同于序列迁移[
一个理想的迁移优化过程通常是指能够自动迁移有效信息(正迁移)、避免迁移无效或有害信息(负迁移)的过程. 如文献[
多因子遗传的生物文化模型理论认为: 复杂的生物遗传性状取决于基因和文化两种因素间的相互作用; 两种因素紧密相依、缺一不可. MFEA所基于的这一生物启发式的指导思想, 其实可以归类为文化基因计算理论[
1. 随机产生
2. 在多任务环境中的每一任务上评价每一个体, 并计算出每一个体的技能因子
3. 当终止条件不满足时, 进行:
ⅰ. 对当前种群
ⅱ. 对于种群
a. 根据垂直文化传播(参加算法3), 得到其技能因子
b. 只在
ⅲ. 结束以上循环;
ⅳ. 由
ⅴ. 更新种群
ⅵ. 从种群
4. 结束以上循环.
MFEA的工作流程是从种群初始化开始的, 将随机产生的
算法2所示的选型交配原则表明, 个体更倾向于和自己具有相同文化背景的其他个体进行交配. 这一原则通过限制跨文化背景的知识迁移, 避免了过度的种群多样性. 可以发现: 在MFEA中, 不同的技能因子指示不同的任务, 正是技能因子表示着个体不同的文化背景. 当两个父代个体的技能因子相同时, 它们进行同一文化背景内的染色体交叉操作. 当父代个体的技能因子不同时, 它们进行跨文化背景的染色体交叉操作或染色体变异操作; 此时, 具体进行交叉操作还是变异操作产生子代则取决于预设的随机交配概率
输入: 从当前种群中随机选取的两个父代个体
输出: 子代个体
1. 生成一个0−1之间的随机数
2. 若
ⅰ. 对父代个体
ⅱ. 对父代个体
3. 结束以上判断.
执行选型交配操作时, MFEA采用了模拟二进制交叉(simulated binary crossover, SBX)算子. SBX算子的一个特点是, 通过其进行染色体交叉操作产生的子代个体有很大的概率靠近父代个体所在的空间位置. 这一特点正是多任务优化过程所需要的. 如
利用模拟二进制交叉算子产生的子代个体
在MFEA中, 给子代个体分配技能因子的方法是根据垂直文化传播的思想设计的(参见算法3). 选择模仿的策略是实现垂直文化传播的最主要形式. 根据这一策略, MFEA新产生的子代个体随机模仿其任一父代个体、继承其技能因子. 随后, 对子代个体的评价过程仅仅在其继承的技能因子指示的这一任务上进行(这一任务最有可能是子代个体表现最好的那一个任务), 而无需在所有任务上进行. 通过这一选择模仿策略, 对于一个
输入: 子代个体
输出: 经过评价的子代个体
1. 若个体
ⅰ. 生成一个0−1之间的随机数
ⅱ. 若
ⅲ. 否则进行: 个体
ⅳ. 结束以上判断;
2. 否则, 进行: 个体
3. 结束以上判断;
4. 将所有未经评估的任务对应的因子损失设置为无穷大.
演化多任务优化算法灵活、高效, 是知识迁移思想结合在问题优化领域的一大突破性进展. 但是随着拟优化问题规模和复杂性的不断提高, 传统MFEA出现了一些不适用于问题解决的不足之处. 针对这些不足, 产生了一系列基于MFEA的改进算法. 这些算法从不同研究方向着手, 力图对演化多任务算法的表现性能和优化效率进行改善. 这些改进工作可以总结为以下6个方向.
(1) 迁移过程的自适应控制策略;
(2) 转换搜索空间的研究;
(3) 计算资源分配机制;
(4) 多演化机制共生策略;
(5) 染色体交叉算子的动态选择方案;
(6) 迁移解的确定机制.
下面将对这6个方向逐一进行介绍.
在多任务环境下, 任意两个任务之间的相似程度是不同的. 解决其中一个任务对解决另一个任务的有利程度, 恰恰取决于二者之间的相似程度. 然而, 传统的演化多任务优化算法在进行任务间的知识迁移时, 并没有足够充分地考虑不同任务间的相似性大小, 而是根据预先手动设定的参数进行迁移. 这种迁移方式中, 迁移程度的设置是盲目的, 在实际问题优化过程中会阻碍相关任务间有效信息的利用共享. 为了解决这一问题, Zheng等人[
● 首先, 对技能因子的概念做出延伸, 定义了能力矢量这一概念. 较之技能因子仅仅指示个体最佳表现任务, 能力矢量能够反映个体在所有任务上的表现能力;
● 其次, 提出了基于能力矢量、通过概率的方式对种群采样进行任务分组的方法. 当一个个体同时在不同的几个任务上都表现得很好时, 那么这一个体就会被同时分到相应的多个任务组. 不同任务组别的相似性越高, 那么就意味着有越多的个体在这些任务组别中同时存在, 即任务组别间的重叠程度越高. 因此, 任务组别间的重叠程度反映着任务间的相似性;
● 再次, SREMTO算法中, 后代繁殖的过程是在各组别内部独立进行的, 且任务间的知识迁移是在任务组别间的重叠个体中进行的, 某一组别中个体的繁殖与其他组别无关. 这一方式取代了MFEA中随机交配概率
● 最后, 子代个体会随机继承父代个体中某一方的能力矢量, 并在这一能力矢量指示表现良好的任务上进行个体评价. 这一方法在SREMTO算法中被称为基于能力矢量的子代个体知识迁移策略, 突破了知识迁移过程只能通过父代交叉操作实现的局限性.
值得强调的是, 任务分组和个体能力矢量在进化过程的每一代都会得到更新. 这意味着任务组别间的重叠程度会随着任务间不断变化的相似程度持续更新, 以此实现不同任务间知识迁移程度的动态自适应调节.
演化多任务优化算法的性能很大程度上取决于拟优化任务间存在的相似性, 利用好这些相似性, 会对优化过程发挥积极的协同作用. 但是任务间的相似程度往往不能预先明确判断, 在优化过程中, 知识的负迁移有很大风险占据主导, 从而严重损害算法的优化效果. 为了解决这一问题, Bali等人[
Chen等人[
在同时处理具有较高相似性的多个任务时, 通过统一搜索空间实现有效的知识迁移过程, MFEA展现了出色的多任务优化能力. 然而随着任务间相似度的降低, MFEA在处理低相关或不相关问题时, 效果会明显下降; 此时, 不同任务间遗传物质的迁移变得对优化过程有害, 知识负迁移的风险显著增高. 知识负迁移会造成演化过程中解的质量严重下降, 使得知识有效迁移的优势不能得以展现, 各任务最终难以得到优化. 在多任务演化算法处理低相关或不相关任务时, 为了增强知识的正迁移优势, 缓解负迁移的不利影响, 改善算法面对这类情况时的表现性能, Bali等人[
包括MFEA在内的传统演化算法, 在优化求解过程中需要对大量的个体适应度进行评估. 利用这些算法处理昂贵优化问题时, 常常是过于耗时并占用过多计算资源. 受知识迁移优化思想的启发, Ding等人[
传统的演化多任务优化算法习惯上对每一任务分配等量的计算资源. 然而, 由于不同任务的计算复杂度不同, 这种等量分配的方式不仅会造成计算资源的严重浪费, 还会在计算资源有限的情况下导致算法性能的严重下降. Gong等人[
MFEA可以有效实现任务间的知识迁移, 并通过知识迁移的实现反过来提高算法的效率. 在种群演化过程的早期阶段, 这一作用表现得十分明显. 但是可以注意到: 随着演化过程的进行, 在某一个时间节点之后, 由于不同任务的适应度范围差异较大, 往往会出现阻碍迁移信息利用、消耗过多计算资源的情况. Wen等人[
Liaw等人[
● 首先, 由于不同任务的搜索范围和问题本身性质的不同, 随机交配概率
● 其次, 当要进行优化的任务数量较少时, MFEA表现出的效果很好; 但是随着任务数量的增加, 在处理大规模多任务优化问题时, 算法效果很不稳定;
● 再次, 对于诸如蚁群优化算法、分布估计算法等基于模型的演化算法, 由于MFEA缺少将它们适合解决的不同问题结合起来一起处理的方法, 要进行基于这些不同算法演化机制共存的多任务优化是不可能的.
为了解决这些问题, Liaw等人提出了共生生物群落演化(the evolution of biocoenosis through symbiosis, EBS)的算法. 区别于MFEA不同任务对应的种群都利用同一演化机制达到进化的目的, 在EBS算法中, 每一任务对应的子种群都利用一种不同的演化机制加以进化. 所有任务的子种群共同构成整个生物群落, 并在不同任务间的信息迁移、互相作用中构成共生关系. 在种群演化过程中, EBS算法创建了一个候选池, 用来将利用不同演化机制处理不同任务时产生的子代个体集合起来, 在其中进行进一步的任务间知识迁移过程. 同时, 为了更有效地控制任务间知识迁移的过程, EBS算法还采用了动态调整子代个体评估概率的方式.
Feng等人[
在MFEA框架下, 任务间的知识迁移是通过具有不同技能因子的个体进行染色体交叉操作实现的. 因此, 交叉算子的选择对于MFEA的性能表现至关重要. 在以往的研究工作中, 提出了多种实现染色体交叉操作的算子: 对于连续优化任务, 有单点交叉、两点交叉、均匀交叉、模拟二进制交叉等算子; 对于组合优化任务, 则有顺序交叉、部分匹配交叉等算子[
MFEA处理演化多任务优化问题的一个基本前提是: 多个任务之间存在大量有用的迁移知识, 并且能够通过共享它们实现知识的正迁移过程. 这一前提是实现多个任务间相互促进、高效优化的关键要素. 可见: 如何找到更具迁移价值的解、实现更广泛、有效的知识正迁移过程, 是改善MFEA性能的一个重要问题. 在传统MFEA中, 参与任务间知识迁移的个体数量是通过预设参数
本文就以上6个方向下的算法改进情况进行了归纳总结, 见
MFEA改进情况分类汇总表
改进方向类别 | 算法 | 采取的改进策略 | 实现的效果 |
迁移过程的自适应控制策略 | SREMTO | 1. 定义能力矢量; |
避免了MFEA通过手动调参控制知识迁移程度的盲目性, 可根据任务间的相似程度实现迁移程度的动态自适应调整 |
MFEA-Ⅱ | 1. 结合概率模型理论, 取得各任务混合模型的最优混合系数; |
实时追踪任务间的相似性、自动控制任务间知识迁移的程度, 极大地降低了知识负迁移发生的风险 | |
MaTEA | 1. 自适应的选择策略; |
充分发掘有用的迁移知识, 改善MFEA在要处理任务数量较多时算法性能不佳的情况, 并能对不同时发生的任务进行同时优化处理 | |
转换搜索空间的研究 | LDA-MFEA | 基于线性域适应的搜索空间转换策略 | 解决了MFEA在处理低相关任务时效果差的问题 |
G-MFEA | 1. 决策变量转换策略; |
实现知识从计算简单问题向计算复杂问题的迁移, 能够有效节约计算资源、促进昂贵优化问题的求解 | |
计算资源分配机制 | MTO-DRA | 1. 在线分配的计算资源分配策略; |
根据不同任务需要自适应地分配不等的计算资源, 保证在计算资源有限的情况下算法性能不受影响地解决在演化后期知识迁移失效的问题, 在节约计算资源的同时, 促进全演化过程迁移信息的发掘利用 |
MFEARR | 1. 基于累计分散幸存率指标的分离点检测方法; |
||
多演化机制共生策略 | EBS | 1. 共生生物群落演化机制; |
避免MFEA通过手动调参控制迁移程度的盲目性, 可将对应不同问题的不同演化算法结合起来同时优化, 解决将MFEA应用于大规模多任务优化问题时效果差的问题 |
EMT via explicit autoencoding | 1. 基于去噪自编码器的显式迁移; |
可根据不同任务的特点、配置基于不同搜索偏差的演化机制进行优化求解, 有效提升算法的优化效率 | |
染色体交叉算子的动态选择方案 | MFEA-AKT | 基于迁移交叉指示指标的交叉算子动态选择方案 | 突破MFEA固定使用一种交叉算子实现交叉操作的局限性, 使交叉算子的选择考虑到不同优化任务的特点, 提高了算法的灵活性 |
迁移解的确定机制 | EMT/ET | 基于支配关系和距离度量的迁移解确定机制 | 改变MFEA等可能选择迁移解的方式, 合理确定更具迁移价值的解, 实现更广泛、有效的知识迁移过程 |
在近年来对演化多任务优化问题的相关研究中, 出现了不少力图在演化多任务优化算法的基本框架下对其他进化计算领域经典算法进行实现的工作. 这些工作充分发掘MFEA和其他经典算法的潜在优势, 利用不同算法的独特运行机制提升MFEA应用于多任务优化问题时求解的效率和效果, 并对MFEA自身工作机制的改进和算法性能的改善提供了帮助.
为了研究以隐性遗传迁移为知识迁移形式的MFEA的通用性, 探索其基于不同种群搜索机制实现多任务优化的可能性, Feng等人[
基于学习的信息共享机制是PSO算法最主要的特征, 也是其优于其他遗传算法的主要原因. 然而, Feng等人提出的MFPSO算法并没有足够充分地利用这种信息共享机制, 其存在的主要问题是: 在种群进化过程中, 个体的最佳位置并不会得到更新, 从而阻碍了任务间的有效知识迁移过程. 为此, Zhang等人[
然而, MFPSO-ITL算法中通过这一位置更新操作实现任务间学习的方式主要利用到了个体经验, 而对任务间的经验利用十分有限. 此外, 上述两种MFPSO算法中, 控制任务间知识迁移程度的参数在整个种群进化过程中都是固定不变的. 然而, 不同的每两个任务之间知识迁移的程度应该是不同的, 并且应当随着种群进化的过程不断改变. 基于以上需要, Tang等人[
程等人[
本文对基于MFEA框架下PSO算法的实现情况进行了归纳总结, 见
基于MFEA框架下PSO算法的实现情况汇总表
算法 | 采取的方法策略 | 实现的效果 | 相关工作 |
MFPSO | 基于PSO算法新方法的新型选型交配策略 | 首次实现了在多任务环境下利用PSO算法进行多任务优化的目的 | Refs.[ |
MFPSO-ITL | 基于个体经验的个体位置更新操作 | 进一步挖掘PSO算法的信息共享机制, 解决MFPSO个体最佳位置不更新的问题 | |
AMFPSO | 1. 基于模拟二进制交叉和新的粒子速度更新方法的搜索机制; |
对MFPSO-ITL仅利用个体经验进行任务间学习的方式做出改进, 补充对任务间知识经验的利用, 扩展了MFPSO算法知识经验利用范围, 同时能够对任务间知识迁移的程度进行自适应控制 | |
CPSOM | 基于CPSOS算法的多任务协同进化框架 | 在每一子种群上独立运行CPSOS, 提高了各任务解的质量、加速了各任务的收敛 | |
IEP-SOM | 种群间和种群内的信息交互方式 | 在CPSOM算法基础上做出改进, 让最合适的个体求解最合适的任务 |
MFEA框架是一种基于种群搜索策略的、以隐性遗传迁移为任务间知识迁移形式的演化搜索框架; DE算法[
在MFDE算法中, 知识迁移是通过具有不同技能因子的个体进行变异向量的更新实现的. 一般认为, DE算法存在5种不同形式的变异策略, 不同的变异策略具有不同的搜索属性, 不可能存在某种变异策略对于任何类型的优化问题都同时最适用的情况. 而文献[
Chen等人[
此外, Jin等人[
本文对基于MFEA框架下DE算法的实现情况进行了归纳总结, 见
基于MFEA框架下DE算法的实现情况汇总表
算法 | 采取的方法策略 | 实现的效果 | 相关工作 |
MFDE | 基于DE算法更新方法的新型选型交配策略 | 首次实现了在多任务环境下利用DE算法进行多任务优化的目的 | Refs.[ |
MFDE withDE/best/1+ |
自动调整变异行为的变异策略DE/best/1+ |
对MFDE将DE/rand/1作为唯一变异策略的模式进行改进, 所提出的DE/best/1+ |
|
MM-DE | 1. 多种群多任务演化框架; |
保持了种群多样性, 通过对解所在区域进行采样达到解的微调、使得个体的区域信息得到充分利用, 提升了算法的搜索性能 | |
MTDE | 1. 对3种变异操作进行对比; |
验证了基于基向量的知识重利用策略在所有3种变异操作中都优于基于差分向量的知识重利用策略 | |
MOMFEA-SADE | 基于历史演化经验的更新策略自适应选择方法 | 进一步挖掘差分进化算法的优势, 使算法应用在多任务优化问题上时更加灵活、高效 | |
DEMTO | 1. 基于多种群的MFEA框架; |
在维持计算量基本不变的前提下 |
对于多目标优化问题(multiobjective optimization problems, MOOPs)的求解, 对比传统方法按目标序列依次求解获得最优解集的方式, 多目标演化算法(multiobjective evolutionary algorithms, MOEAs)充分利用了基于种群搜索的隐式并行性, 通过获取达到所有目标最优平衡点的解集的方式, 在多目标优化问题领域展现出巨大的优势和潜力. 但是, 诸如非支配排序遗传算法NSGA-Ⅱ[
Bali等人此前提出的基于数据驱动的多任务优化算法框架MFEA-Ⅱ仅仅用于解决单目标优化问题[
将演化多任务优化算法应用于解决多目标优化问题时, 在不同多目标优化任务之间的相似程度较高时才会取得较好的效果. 但是拟优化任务间的相似程度往往是难以预先判断的, 这种盲目性往往会造成知识的无效迁移甚至负迁移. 同时, 现有的多目标多任务演化算法对于演化过程中非支配解的历史经验利用不足, 这也严重损害了算法的性能. 为了解决以上问题, Liang等人[
基于分解的多目标进化算法(multiobjective optimization evolutionary algorithm based on decomposition, MOEA/D)[
本文对基于MFEA框架下MOEAs的实现情况进行了归纳总结, 见
基于MFEA框架下MOEAs的实现情况汇总表
算法 | 采取的方法策略 | 实现的效果 | 相关工作 |
MO-MFEA | 结合NSGA-Ⅱ算法的演化多任务优化框架 | 首次实现了在多任务环境下利用MOEAs进行多任务优化的目的, 充分发挥了基于种群搜索算法的隐式并行性 | Refs.[ |
MO-MFEA-Ⅱ | 基于MFEA-Ⅱ框架的NSGA-Ⅱ算法实现 | 突破了MFEA-Ⅱ仅用于解决单目标优化问题的局限性, 能够动态控制任务间知识迁移的程度 | |
MOMFEA-SADE | 1. 基于PCA的子空间联合方法; |
避免传统MFEA控制知识迁移程度的盲目性, 充分利用基于非支配解的历史经验, 有效促进了MOOPs的解决 | |
MFEA/D | 1. 基于MOEA/D的分解策略; |
首次实现将MOEA/D应用到MO-MFO问题上, 合理平衡任务间信息的探索和利用, 提高了MO-MFO问题的优化求解速度 | Refs.[ |
遗传编程(genetic programming, GP)[
不同于传统的元启发式算法直接在问题对应的解空间中进行搜索的方式, 超启发式(hyper-heuristics)算法[
面对传统MFEA在局部区域收敛缓慢以及在处理高维问题时效果不佳的情况, Chen等人[
自组织迁移算法(self-organized migrating algorithm, SOMA)[
本文对基于MFEA框架下其他算法的实现情况进行了归纳总结, 见
基于MFEA框架下的其他算法实现情况汇总表
算法类别 | 算法 | 采取的方法策略 | 实现的效果 | 相关工作 |
遗传编程算法 | MFGP | 1. 基于自动定义函数的可伸缩染色体表示方法; |
实现了利用单一种群进行多任务环境下的遗传编程, 能够同时兼顾知识迁移的效率和解的质量 | Refs.[ |
超启发式算法 | EMHH | 1. 分析超启发式算法和MFEA的三大相似特征; |
首次将超启发式算法应用于多任务优化问题, 使MFEA在高阶空间中学习任务间的相似特征, 加速任务收敛的同时, 避免陷入局部最优 | |
协同进化遗传算法 | EMTSO-CCMA | 1. 基于协同进化文化基因理论; |
解决MFEA在局部区域收敛缓慢以及在处理高维问题时效果不佳的问题 | |
自组织迁移算法 | SOMAMIF | 信息筛选机制 | 首次实现利用SOMA进行多任务优化的目的, 有效遏制知识负迁移带来的不利影响, 同时可不断对种群结构做出优化 |
演化多任务优化算法具有多任务同时处理和跨域优化的强大能力, 且在处理多任务场景下的复杂问题时蕴含巨大潜力. 近年来, 这一算法被初步应用在学术研究和实际工程优化的几个方面. 本节就演化多任务优化算法的相关应用情况做出归纳总结.
本文同时对这些应用情况涉及到的相关工作进行了分类汇总, 见
演化多任务优化算法应用情况分类汇总表
基于MFEA框架下实现的算法 | 相关工作 |
双层规划问题 | Refs.[ |
最小最大优化问题 | Refs.[ |
神经网络优化问题 | Refs.[ |
组合优化问题 | Refs.[ |
云服务器组合问题 | Refs.[ |
稀疏重建问题 | Refs.[ |
工业工程优化问题 | Refs.[ |
双层规划问题[
当拟设计的工程系统要求能够同时在多种场景下进行运行时, 系统的鲁棒性要求较之一般系统更高. 在实际应用中, 在某个场景下表现最优的系统却可能并不满足其他场景下的性能要求. 当我们将表现出性能最差的场景作为要优化的目标场景时, 这种系统优化的形式就被称作最小最大优化问题[
Chandra等人[
多步前进预测问题[
为了有效应对诸如动态气旋风这样的极端自然灾害, 设计一种鲁棒的动态预测模型迫在眉睫. Chandra[
基于序列的组合优化问题(permutation-based combinatorial optimization problems, PCOPs)[
此前, Feng等人提出的基于自编码器的显式演化多任务优化算法EMT via explicit autoencoding只关注于解决连续优化问题[
有能力约束的车辆路径规划问题(the capacitated vehicle routing problem, CVRP)[
随着全球范围内交通运输量的急剧增长, 污染气体大规模排放对生态环境和人类健康带来的威胁不容小觑. 面对各国CO2减排和绿色货运的要求, 一类考虑燃料消耗和CO2排放量的车辆路径规划问题应运而生, 这类问题被称为污染路径问题(pollution-routing problem, PRP). PRP的目的是实现包含劳动力、燃料和排放量函数项的总体成本函数的最小化(这些函数项主要取决于运输负载和运输距离两大因素). Rauniyar等人[
近年来, 云计算技术得到了前所未有的迅速发展. 云计算应用服务系统日趋复杂, 多用户并行的云服务需求不断增加, 传统的简单服务模式已不能满足现实需要. 服务组合技术就是面对这一现实需要提出的一种有效解决方案, 其能通过动态组合不同服务质量属性(quality of service, QoS)的原子服务, 在公共云端快速构建大规模分布式应用场景. 同时, 面对当前云计算服务组合(cloud computing service composition, CCSC)问题[
现实生活中, 稀疏重建问题广泛存在于计算机视觉、模式识别、信号处理等领域. 这一问题旨在寻找大规模欠定系数方程组的稀疏解, 被证明是一个非凸优化问题和NP难问题[
从时间序列中重建复杂网络的问题, 在集体动力学控制系统的设计中发挥着重要作用. 对于复杂网络重建问题(the network reconstruction problem, NRP), 将其转换为稀疏重建问题, 进而利用凸优化算法对其进行解决, 是目前学术界最为流行的方法. 然而, 现有的应用于解决这一问题的算法都只关注于单一网络的学习过程, 没有尝试利用网络间的相似结构特征进行迁移学习. 由于在实际应用中往往存在与所关注网络特征模式相似的其他网络, 充分利用这些不同网络重建任务间的相似信息, 就可以大大提升网络重建的准确性和效率. 基于以上动机, Shen等人[
选矿过程是指从原矿中提炼有用物质以获取合格精矿的生产过程, 是一种涉及众多单元过程操作的大规模工业优化问题. 在这一生产过程中, 将各单元过程中涉及的产品质量、生产效率等性能因素称作操作指标[
连续退火是指将带钢加热到一定温度后, 以一定的速度对其进行冷却的操作, 是带钢生产过程中保证产品质量的关键环节, 但同时也是最主要的耗能环节. 连续退火过程操作复杂, 涉及众多控制变量的设定. 传统依靠人工经验的控制变量决策方法难以平衡生产耗能和产品质量的关系, 具有很大的盲目性. 因此, 借助生产操作指标优化的方法, 根据当前生产情况实时优化控制变量的设定, 是目前解决连续退火问题最受欢迎的方法. 王等人[
可再生能源供能技术具有成本低、污染小的优势, 近年来逐渐取代了传统的火力发电机电网系统. 同时, 综合利用化石燃料、可再生能源等多种一次能源进行发电的方式越来越成为业界主流. 查等人[
演化多任务优化问题是近年来计算智能领域兴起的一大研究热点, 同时也是紧跟当前世界科学技术发展趋势、迫切需要得以解决的关键问题. 自2016年演化多任务优化问题和演化多任务优化算法被提出以来, 演化多任务优化就受到了相关研究人员的空前关注. 本文从演化多任务优化问题概述、演化多任务优化算法及其改进、基于演化多任务优化算法框架下的其他经典算法实现、演化多任务优化算法的相关应用等方面, 系统总结了近年来演化多任务优化领域的研究进展和已取得的成果. 我们欣喜地发现: 在近几年来演化多任务优化问题领域的探索中, 无论是基础理论的研究还是相关应用的拓展, 较之以往都取得了明显进步的成绩. 但是需要承认: 演化多任务优化问题的发展仍然处于起步阶段, 还存在相当多的问题和挑战等待研究人员去攻克、解决. 下面对几大值得探讨的主要问题及其研究思路做出总结.
(1) 演化多任务优化算法亟需理论完善. 当前, 研究人员对于算法的内在工作机制不够明确, 虽然已经出现一些研究工作力图对演化多任务优化算法的工作机理做出解释, 但是它们给出的阐释还是不够深入和明晰, 缺乏系统性, 同时也缺少对算法性能的考量指标. 必须认识到: 只有充分理解演化多任务优化算法的内在工作机制以及任务间遗传物质迁移共享的规律、设计出更加合理的算法性能评价指标, 才能为算法的进一步突破性发展提供可能.
(2) 演化多任务优化需进一步减少“负迁移”的影响. 结合知识迁移的理论, 是演化多任务优化算法依据的核心思想. 减少知识负迁移的影响, 对算法性能的改善十分重要. 目前的研究工作对于演化多任务优化过程中知识负迁移的规避策略主要有: 采取基于任务间相似性度量的知识迁移策略取代
(3) 演化多任务优化在众目标优化问题上需要进一步探索. 利用传统多目标优化算法处理众目标优化问题[
(4) 针对昂贵优化问题的演化多任务优化是未来的一个重要方向. 同时求解计算廉价问题与计算昂贵问题, 利用求解计算廉价问题带来的知识经验降低求解计算昂贵问题的计算负担, 是利用演化多任务优化处理昂贵优化问题的天然思路. 基于代理模型的演化算法采用计算代价小的代理模型代替高计算成本的真实评估过程, 使算法在有限的计算资源下得到较好的解. 充分利用演化多任务优化知识迁移互补的算法优势, 构建高效的代理模型以及在多任务环境下针对所构建模型的演化控制策略, 无疑会极大地促进昂贵优化问题的解决. 对于该类算法的设计, 应主要考虑以下两方面内容.
(5) 演化多任务优化算法的性能和算法效率仍然存在较大的提升空间. 由于目前算法仍然存在许多亟待解决的问题, 例如更多任务同时处理的可能性、更高效的知识迁移自适应控制策略、更合理的统一空间构成以及个体编解码方案、更高效的交叉变异算子设计、算法计算量的进一步减少等. 针对这些问题, 虽然现有的研究工作已经给出了一些较为合理的解决方案, 但是这些方案在面对更复杂的应用场景、处理更大规模的多任务优化问题时, 效果还远远不够.
(6) 演化多任务优化算法的应用范围亟待扩展. 时至今日, 对这一算法的应用仍过度集中于学术研究中的组合优化问题等, 在实际工程优化和前沿技术领域的应用较少, 并且缺少具有重大科学、经济、社会价值的突破性重点应用. 必须认识到, 算法应用范围的拓展很大程度上建立在算法基础理论完善、算法性能进一步提高的基础上; 同时, 也只有推动算法在更大范围上的应用, 并基于实际问题的真实需要来增强算法的普适性, 才会更快地促进算法理论的完善和算法性能的提升.
量变的积累通向质变的飞跃, 相信经过计算智能领域相关研究人员持续不懈的努力, 一定能够设计出表现性能更好、更高效、更具适应能力的演化多任务优化算法. 我们希望与学术界、工业界的各位同仁一道, 通力合作, 积极探索, 努力完善演化多任务优化问题的理论基础, 设计出更加合理、高效的演化多任务优化算法, 拓展更具挑战性和社会价值的相关应用, 争取为演化多任务优化乃至计算智能领域的发展发挥更加积极而有益的作用.
Back T, Hammel U, Schwefel HP. Evolutionary computation: Comments on the history and current state. IEEE Trans. on Evolutionary Computation, 1997, 1(1): 3-17.
Srinivas M, Patnaik L M. Genetic algorithms: A survey. Computer, 1994, 27(6): 17-26.
Goldberg DE, Holland JH. Genetic algorithms and machine learning. Machine Learning, 1988, 3: 95-99.
Gupta A, Ong YS, Feng L. Multifactorial evolution: toward evolutionary multitasking. IEEE Trans. on Evolutionary Computation, 2015, 20(3): 343-357.
Rice J, Cloninger CR, Reich T. Multifactorial inheritance with cultural transmission and assortative mating. Ⅰ. Description and basic properties of the unitary models. American Journal of Human Genetics, 1978, 30(6): 618.
Cloninger CR, Rice J, Reich T. Multifactorial inheritance with cultural transmission and assortative mating. Ⅱ. A general model of combined polygenic and cultural inheritance. American Journal of Human Genetics, 1979, 31(2): 176.
Cloninger CR, Rice J, Reich T. Multifactorial inheritance with cultural transmission and assortative mating. Ⅲ. Family structure and the analysis of separation experiments. American Journal of Human Genetics, 1979, 31(3): 366.
Gupta A, Ong YS, Feng L,
Ong YS, Gupta A. Evolutionary multitasking: A computer science view of cognitive multitasking. Cognitive Computation, 2016, 8(2): 125-142.
Gupta A, Ong YS, Feng L. Insights on transfer optimization: Because experience is the best teacher. IEEE Trans. on Emerging Topics in Computational Intelligence, 2017, 2(1): 51-64.
Xu QZ, Yang H, Wang N,
徐庆征, 杨恒, 王娜, 伍国华, 江巧永. 多因子进化算法研究进展. 计算机工程与应用, 2018, 54(11): 15-20, 40.
Guo SM, Yang CC. Enhancing differential evolution utilizing eigenvector-based crossover operator. IEEE Trans. on Evolutionary Computation, 2014, 19(1): 31-49.
Coello CAC. Evolutionary multi-objective optimization: A historical view of the field. IEEE Computational Intelligence Magazine, 2006, 1(1): 28-36.
Jain H, Deb K. An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, part Ⅱ: Handling constraints and extending to an adaptive approach. IEEE Trans. on evolutionary computation, 2013, 18(4): 602-622.
Chen X, Ong YS, Lim MH,
Ong YS, Lim MH, Chen X. Memetic computation—Past, present & future[research frontier]. IEEE Computational Intelligence Magazine, 2010, 5(2): 24-31.
Gonçalves JF, Resende MGC. Biased random-key genetic algorithms for combinatorial optimization. Journal of Heuristics, 2011, 17(5): 487-525.
Bean JC. Genetic algorithms and random keys for sequencing and optimization. ORSA Journal on Computing, 1994, 6(2): 154-160.
Zheng X, Qin AK, Gong M,
Bali KK, Ong YS, Gupta A,
Chen Y, Zhong J, Feng L,
Kullback S, Leibler RA. On information and sufficiency. The Annals of Mathematical Statistics, 1951, 22(1): 79-86.
Bali KK, Gupta A, Feng L,
Ding J, Yang C, Jin Y,
Gong M, Tang Z, Li H,
Wen YW, Ting CK. Parting ways and reallocating resources in evolutionary multitasking. In: Proc. of the 2017 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2017. 2404-2411.
Liaw RT, Ting CK. Evolutionary many-tasking based on biocoenosis through symbiosis: A framework and benchmark problems. In: Proc. of the 2017 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2017. 2266-2273.
Feng L, Zhou L, Zhong J,
Eshelman LJ, Caruana RA, Schaffer JD. Biases in the crossover landscape. In: Proc. of the 3rd Int'l Conf. on Genetic Algorithms. 1989. 10-19.
Iqbal M, Xue B, Al-Sahaf H,
O'Neill D, Al-Sahaf H, Xue B,
Pavai G, Geetha TV. A survey on crossover operators. ACM Computing Surveys (CSUR), 2016, 49(4): 1-43.
Zhou L, Feng L, Tan KC,
Lin J, Liu HL, Tan KC,
Feng L, Zhou W, Zhou L,
Kennedy J, Eberhart R. Particle swarm optimization. In: Proc. of the Int'l Conf. on Neural Networks (ICNN'95), Vol. 4. IEEE, 1995. 1942-1948.
Zhang B, Qin AK, Sellis T. Evolutionary feature subspaces generation for ensemble classification. In: Proc. of the Genetic and Evolutionary Computation Conf. 2018. 577-584.
Tang Z, Gong M. Adaptive multifactorial particle swarm optimisation. CAAI Trans. on Intelligence Technology, 2019, 4(1): 37-46.
Cheng MY, Qian Q, Ni ZW,
程美英, 钱乾, 倪志伟, 朱旭辉. 多任务处理协同进化粒子群算法. 模式识别与人工智能, 2018, 31(4): 322-334.
Cheng MY, Qian Q, Ni ZW, Zhu XH. Information exchange particle swarm optimization for multitasking. Pattern Recognition and Artificial Intelligence, 2019, 32(5): 385 -397 (in Chinese with English abstract).
程美英, 钱乾, 倪志伟, 朱旭辉. 信息交互多任务粒子群算法. 模式识别与人工智能, 2019, 32(5): 385-397.
Cheng MY, Gupta A, Ong YS,
Song H, Qin AK, Tsai PW,
Xie T. A research of high-dimensional multitasking optimization algorithm based on distributed[MS. Thesis]. Xi'an: Xidian University, 2018 (in Chinese with English abstract).
谢添. 基于分布式的高维度多任务优化算法研究[硕士学位论文]. 西安: 西安电子科技大学, 2018.
Xie T, Gong M, Tang Z,
Storn R, Price K. Differential evolution—A simple and efficient heuristic for global optimization over continuous spaces. Journal of Global Optimization, 1997, 11(4): 341-359.
Zhou L, Feng L, Liu K,
Chen Y, Zhong J, Tan M. A fast memetic multi-objective differential evolution for multi-tasking optimization. In: Proc. of the 2018 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2018. 1-8.
Zhang J, Sanderson AC. JADE: Adaptive differential evolution with optional external archive. IEEE Trans. on Evolutionary Computation, 2009, 13(5): 945-958.
Jin C, Tsai PW, Qin AK. A study on knowledge reuse strategies in multitasking differential evolution. In: Proc. of the 2019 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2019. 1564-1571.
Liang Z, Dong H, Liu C,
Zheng X, Lei Y, Qin AK,
Tan XF. Multi-tasking evolutionary algorithms for continuous optimization[MS. Thesis]. Wuhan: Huazhong University of Science and Technology, 2019 (in Chinese with English abstract).
谭显烽. 基于多任务进化算法的连续优化研究[硕士学位论文]. 武汉: 华中科技大学, 2019.
Tang Z, Gong M, Jiang F,
Deb K, Pratap A, Agarwal S,
Deb K, Jain H. An evolutionary many-objective optimization algorithm using reference-point-based nondominated sorting approach, part Ⅰ: Solving problems with box constraints. IEEE Trans. on Evolutionary Computation, 2013, 18(4): 577-601.
Jain H, Deb K. An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, part Ⅱ: Handling constraints and extending to an adaptive approach. IEEE Trans. on Evolutionary Computation, 2013, 18(4): 602-622.
Zhang QF, Li H. MOEA/D: A multiobjective evolutionary algorithm based on decomposition. IEEE Trans. on Evolutionary Computation, 2007, 11(6): 712-731.
Zitzler E, Laumanns M, Thiele L. SPEA2: Improving the strength Pareto evolutionary algorithm. TIK-Report, 2001. 103.
Bali KK, Gupta A, Ong YS,
Yao SS, Dong ZM, Wang XP. Multi-objective multifactorial evolutionary algorithm based on decomposition. Control and Decision, 2021, 36(3): 637-644 (in Chinese with English abstract).
么双双, 董志明, 王显鹏. 基于分解的多目标多因子进化算法. 控制与决策, 2021, 36(3): 637-644.
Li WX, Zhang CM, Ma CX. Multi-objective low-carbon vehicle routing optimization model and solving algorithm. Traffic Information and Safety, 2020, 38(1): 118-126, 144 (in Chinese with English abstract).
李文霞, 张春民, 马昌喜. 多目标低碳车辆路径优化模型及求解算法. 交通信息与安全, 2020, 38(1): 118-126, 144.
Li H, Ong YS, Gong M,
Zha YX, Wu T, Peng JC, Wang GB, Gao YC, Liang BM. Optimal scheduling of hybrid power generation system with renewable energy based on multi-objective and multi-task evolutionary algorithm. Journal of North China Electric Power University (Natural Science Edition), 2020, 47(1): 70-78.
Da B, Gupta A, Ong YS,
Mo J, Fan Z, Li W,
Yang C, Ding J, Tan KC,
Tuan NQ, Hoang TD, Binh HTT. A guided differential evolutionary multi-tasking with Powell search method for solving multi-objective continuous optimization. In: Proc. of the 2018 IEEE Congress on Evolutionary Computation (CEC). IEEE, 2018. 1-8.
Li H. Multiobjective learning and optimization: Theory and application[Ph. D. Thesis]. Xi'an: Xidian University, 2018 (in Chinese with English abstract).
李豪. 多目标学习与优化理论及应用[博士学位论文]. 西安: 西安电子科技大学, 2018.
Yao S, Dong Z, Wang X,
Lin J, Liu HL, Tan KC,
Sun KY. Many-objective optimization based on evolutionary multi-tasking and transfer learning[MS. Thesis]. Dalian: Dalian University of Technology, 2019 (in Chinese with English abstracct).
孙克乙. 基于多任务迁移演化学习的超多目标优化[硕士学位论文]. 大连: 大连理工大学, 2019.
Yuan Y, Ong YS, Feng L,
Gupta A, Da B, Yuan Y,
Da B, Gupta A, Ong YS,
Tang J,
Da B, Gupta A, Ong YS,
Da B, Gupta A, Ong YS. Curbing negative influences online for seamless transfer evolutionary optimization. IEEE Trans. on Cybernetics, 2018, 49(12): 4365-4378.
Min ATW, Ong YS, Gupta A,
Cramer NL. A representation for the adaptive generation of simple sequential programs. In: Proc. of the Int'l Conf. on Genetic Algorithms and the Applications. 1985. 183-187.
Zhong J, Feng L, Cai W,
Zhong J, Ong YS, Cai W. Self-learning gene expression programming. IEEE Trans. on Evolutionary Computation, 2015, 20(1): 65-80.
Chakhlevitch K, Cowling P. Hyperheuristics: Recent developments. In: Proc. of the Adaptive and Multilevel Metaheuristics. Berlin, Heidelberg: Springer, 2008. 3-29.
Hao X, Qu R, Liu J. A unified framework of graph-based evolutionary multitasking hyper-heuristic. IEEE Trans. on Evolutionary Computation, 2020, 25(1): 35-47.
Chen Q, Ma X, Zhu Z,
Potter MA, De Jong KA. A cooperative coevolutionary approach to function optimization. In: Proc. of the Int'l Conf. on Parallel Problem Solving from Nature. Berlin, Heidelberg: Springer, 1994. 249-257.
Zelinka I. SOMA—Self-organizing migrating algorithm. In: Proc. of the New Optimization Techniques in Engineering. Berlin, Heidelberg: Springer, 2004. 167-217.
Cheng MY, Qian Q, Ni ZW, Zhu XH. Self-organized migrating algorithm for multi-task optimization with information filtering. Journal of Computer Applications, 2020, 41(6): 1748-1755 (in Chinese with English abstract).
程美英, 钱乾, 倪志伟, 朱旭辉. 信息筛选多任务优化自组织迁移算法. 计算机应用, 2020, 41(6): 1748-1755.
Gupta A, Ong Y, Da B,
Zhou L, Feng L, Zhong J,
Liang Z, Zhang J, Feng L,
Gupta A, Ong YS, Da B,
Colson B, Marcotte P, Savard G. An overview of bilevel optimization. Annals of Operations Research, 2007, 153(1): 235-256.
Gupta A, Mańdziuk J, Ong YS. Evolutionary multitasking in bi-level optimization. Complex & Intelligent Systems, 2015, 1(1-4): 83-95.
Herrmann JW. A genetic algorithm for minimax optimization problems. In: Proc. of the 1999 Congress on Evolutionary Computation (CEC'99), Vol. 2. IEEE, 1999. 1099-1103.
Wang H, Feng L, Jin Y,
Chandra R, Gupta A, Ong YS,
Chandra R, Ong YS, Goh CK. Co-evolutionary multi-task learning with predictive recurrence for multi-step chaotic time series prediction. Neurocomputing, 2017, 243: 21-34.
Chandra R. Dynamic cyclone wind-intensity prediction using co-evolutionary multi-task learning. In: Proc. of the Int'l Conf. on Neural Information Processing. Cham: Springer, 2017. 618-627.
Yuan Y, Ong YS, Gupta A,
Feng L, Huang Y, Zhou L,
Zhou L, Feng L, Zhong J,
Zhou L. A study of high performance multi-task intelligent optimization algorithm via knowledge transfer[Ph. D. Thesis]. Chongqing: Chongqing University, 2019 (in Chinese with English abstract).
周磊. 基于知识迁移的高性能多任务智能优化算法的设计与研究[博士学位论文]. 重庆: 重庆大学, 2019.
Rauniyar A, Nath R, Muhuri PK. Multi-factorial evolutionary algorithm based novel solution approach for multi-objective pollution-routing problem. Computers & Industrial Engineering, 2019, 130: 757-771.
Feng L, Ong YS, Lim MH,
Feng L, Ong YS, Tan AH,
Gupta A, Ong YS. Genetic transfer or population diversification? Deciphering the secret ingredients of evolutionary multitask optimization. In: Proc. of the 2016 IEEE Symp. Series on Computational Intelligence (SSCI). IEEE, 2016. 1-7.
Bao L, Qi Y, Shen M,
Shen MQ. Research and implementation of a multitask-oriented cloud-based service composition algorithm[MS. Thesis]. Xi'an: Xidian University, 2018 (in Chinese with English abstract).
沈梦晴. 基于多任务的云服务组合算法的研究与实现[硕士学位论文]. 西安: 西安电子科技大学, 2018.
Shen F, Liu J, Wu K. Evolutionary multitasking network reconstruction from time series with online parameter estimation. Knowledge-based Systems, 2021, 222: 107019.
Yang C, Ding J, Jin Y,
Yang C, Ding J, Tan KC,
Wang XP, Wang Z. Multifactorial operation optimization of continuous annealing process based on data analysis. Control and Decision, 2019, 34(12): 2713-2720 (in Chinese with English abstract).
王显鹏, 王赞. 基于数据解析的连退生产过程多因子操作优化. 控制与决策, 2019, 34(12): 2713-2720.
Sagarna R, Ong YS. Concurrently searching branches in software tests generation through multitask evolution. In: Proc. of the 2016 IEEE Symp. Series on Computational Intelligence (SSCI). IEEE, 2016. 1-8.
Feng L, Ong YS, Jiang S,
Sun C, Jin Y, Cheng R,
Sandya HB, Kumar PH, Patil SB. Feature extraction, classification and forecasting of time series signal using fuzzy and garch techniques. In: Proc. of the National Conf. on Challenges in Research & Technology in the Coming Decades (CRT 2013). IET, 2013. 1-7.
Chandra R, Zhang M. Cooperative coevolution of Elman recurrent neural networks for chaotic time series prediction. Neurocomputing, 2012, 86: 116-123.
Onwubolu GC, Davendra D, eds. Differential Evolution: A Handbook for Global Permutation-based Combinatorial Optimization. Berlin: Springer Science & Business Media, 2009.
Ceberio J, Irurozki E, Mendiburu A,
Laporte G. Fifty years of vehicle routing. Transportation Science, 2009, 43(4): 408-416.
Dantzig GB, Ramser JH. The truck dispatching problem. Management Science, 1959, 6(1): 80-91.
Macrina G, Pugliese LDP, Guerriero F,
Jula A, Sundararajan E, Othman Z. Cloud computing service composition: A systematic literature review. Expert Systems with Applications, 2014, 41(8): 3809-3824.
Al-Masri E, Mahmoud QH. Discovering the best Web service. In: Proc. of the 16th Int'l Conf. on World Wide Web. 2007. 1257-1258.
Davis GM. Adaptive nonlinear approximations[Ph. D. Thesis]. New York: New York University, 1994.
Tibshirani R. Regression shrinkage and selection via the lasso. Journal of the Royal Statistical Society: Series B (Methodological), 1996, 58(1): 267-288.
Marlin TE, Hrymak AN. Real-time operations optimization of continuous processes. In: Proc. of the AIChE Symp. Series. New York: American Institute of Chemical Engineers, 1997, 93(316): 156-164.
Madetoja E, Tarvainen P. Multiobjective process line optimization under uncertainty applied to papermaking. Structural and Multidisciplinary Optimization, 2008, 35(5): 461-472.
Farina M, Amato P. On the optimal solution definition for many-criteria optimization problems. In: Proc. of the Annual Meeting of the North American Fuzzy Information Processing Society. New York: IEEE, 2002. 232-238.