演化学习专刊前言
俞 扬1, 钱 超2
1(南京大学计算机软件新技术国家重点实验室,江苏南京 210023)
2(中国科学技术大学计算机科学与技术学院,安徽合肥 230027)
通讯作者: 俞扬, E-mail: yuy@nju.edu.cn
中文引用格式: 俞扬,钱超.演化学习专刊前言.软件学报,2018,29(9):a1. http://www.jos.org.cn/1000-9825/5400.htm
机器学习是人工智能的核心领域之一,主要研究计算机如何通过利用经验自动提高自身的性能,机器学习技术的发展已成为新一轮人工智能热潮的主要推动力,受到高度关注.机器学习常可分解为“表示+评估+优化”三个部件[P. Domingos, CACM’12],即数据与模型的表示、学习结果的评估,以及实施学习过程的优化方法三个部分,其中优化承载了机器学习的实现,优化方法的能力也直接影响了另两个部件——模型表示和评估函数的设计范围.在解决真实应用问题时,常需要使用非线性模型和非凸评估函数,导致机器学习任务常常归结为复杂优化问题,具有不可导、不连续、大量局部极值、多目标等性质,对优化方法提出了挑战.演化算法作为一大类启发式无梯度优化算法,受优化问题性质约束极少,只需能够评估解的好坏即可运行求解,因此适用于求解复杂的优化问题,还能直接用于多目标优化.研究者们已经尝试基于演化算法求解机器学习中的复杂优化问题,并取得了很多成功的应用,逐步形成了演化学习这一方向.
为反映国内在演化学习方向的研究进展,促进该领域的学术交流,并推动其进一步发展,我们组织了本期“演化学习”专刊.专刊公开征文历经两轮,共征得投稿20篇,其中第一轮11篇,第二轮9篇.审稿过程历经6个多月,共有约20名演化计算和机器学习领域的专家和学者参与了审稿工作.专刊与第四届中国演化计算与学习研讨会(ECOLE2017)合作,第一轮征稿的论文通过初审后在ECOLE2017上做口头和墙展报告,作者现场回答了听众的问题,并听取了听众的修改建议.每篇投稿特约编辑邀请了2位专家进行评审,大部分稿件经过初审和复审两轮评审,最终有7篇论文入选本专刊,其中第一轮投稿收录5篇,第二轮投稿收录2篇.
首先,基于演化算法的优化能力,能够设计更好的机器学习方法.《基于森林优化特征选择算法的改进研究》将特征选择形式化成一个二目标优化问题,即最大化分类性能、同时最小化特征个数,然后将演化算法用于求解该二目标问题.为了提高算法效率,贪婪策略被融合到演化算法中.在各个维度的标准数据集上的实验结果表明,相比经典特征选择方法,演化算法无论是在分类准确率,还是维度缩减上,都具有很强的竞争力.《特征选择稳定性研究综述》详细总结了演化算法求解特征选择问题的稳定性提升方法,即如何使演化算法在训练样本微小扰动的情况下生成相同或相似的特征子集,在回顾现有稳定性提升方法的基础上对其进行分类,分析比较各类方法的特点和适用范围,最后讨论当前工作的局限性,指出未来值得研究的方向.
其次,面向机器学习涉及的复杂优化问题,亟需设计有效的演化优化算法.《基于编码转换的离散演化算法设计与应用》针对现有大部分演化算法只适于求解连续域上的优化问题这一现状,提出了一种基于映射变换思想设计离散演化算法的实用方法—编码转换法,并利用一个简单有效的编码转化函数给出了求解组合优化问题的离散演化算法一般算法框架.《求解大规模问题的协同进化动态粒子群优化算法》针对现有大部分演化算法随着优化问题维数的增加性能急剧下降这一现状,提出了一种随机动态的协同进化策略,即通过对问题变量的动态随机分组将高维复杂问题转化成低维简单问题求解,并将该策略加入动态多种群粒子群优化算法,产生了一种能够有效求解大规模优化问题的演化算法.《基于邻域差分和协方差信息处理单目标优化的进化算法》针对现有大部分演化算法易于陷入局部最优这一现状,融合已有两种演化算法即差分进化和协方差进化的算子,使其能够指导算法朝着有利的方向搜索最优解,同时保持种群的多样性避免算法陷入局部最优,从而提出了一种基于邻域差分和协方差信息的高效演化算法.
此外,演化学习在计算机视觉、软件工程等领域的应用对于演化学习这一方向的发展起着积极的促进作用.《一种鲁棒的夜间图像显著性对象检测模型》提出了一种基于演化学习的夜间图像显著性对象检测方法,并在5个公开图像数据集和1个真实夜间图像数据集上进行了测试.实验结果表明,对比目前11种主流显著性对象检测方法,提出方法在可见光图像上取得较好测试结果的同时,在夜间图像显著性对象检测中取得了最佳的测试结果.《基于混合智能优化算法的复杂软件可靠性分配》提出了一种基于演化学习的复杂软件可靠性分配方法,在单输入单输出系统、单输入多输出系统和多输入多输出系统上的实验结果表明,提出方法在软件可靠性分配方面与同类算法相比,具有明显的可行性和有效性.
本专刊主要面向演化计算、机器学习等相关领域的研究人员,反映了我国学者在演化学习这一研究方向的最新进展.在此,我们要特别感谢《软件学报》编委会对专刊工作的指导和帮助,感谢编辑部各位老师从征稿启示发布、审稿专家邀请至评审意见汇总、论文定稿、修改及出版所付出的辛勤工作和汗水,感谢专刊评审专家及时、耐心、细致的评审工作.此外,我们还要感谢向本专刊踊跃投稿的作者对《软件学报》的信任.最后,感谢专刊的读者们,希望本专刊能够对相关领域的研究工作有所促进.
俞扬(1982-),男,博士,南京大学计算机科学与技术系副教授.现任CCF人工智能与模式识别专业委员会委员、CAAI机器学习专业委员会委员.曾获全国优秀博士学位论文奖 (2013年)、CCF优秀博士学位论文奖 (2011年)、江苏省杰出青年基金 (2017年)等.主要研究领域为人工智能,机器学习,演化计算.
钱超(1987-),男,博士,中国科学技术大学计算机科学与技术学院副研究员.现任CCF人工智能与模式识别专业委员会通讯委员.曾获CAAI优秀博士学位论文奖(2017年),入选中国科协“青年人才托举工程”(2016年).主要研究领域为人工智能,机器学习,演化计算.