非经典条件下的机器学习方法专刊前言

高新波1,  黎 铭2,  李天瑞3
1(西安电子科技大学 电子工程学院,西安  710071)
2(南京大学 人工智能学院,南京  210023)
3(西南交通大学 信息科学与技术学院,成都  611756)
通讯作者: 高新波, E-mail: xbgao@mail.xidian.edu.cn

中文引用格式: 高新波,黎铭,李天瑞.非经典条件下的机器学习专刊前言.软件学报,2020,31(4). http://www.jos.org.cn/1000-9825/5931.htm

近年来,随着学术界与工业界在机器学习和人工智能领域投入越来越多的关注,相关技术飞速发展,机器学习已经在社会生活的方方面面获得广泛应用,并产生了巨大价值.

随着机器学习模型应用场景的不断扩大,越来越多的问题难以被经典条件下的机器学习方法所解决.新兴的应用场景下,人们往往面临数据模式发生变化、数据特征发生变化、学习任务目标产生变化等动态场景;数据标记不完备或采样存在偏差等弱监督场景;以及设备存储空间较小、计算能力有限等资源受限场景;等等.在非经典条件下,传统机器学习所依赖的假设条件可能不再成立;机器学习领域的研究人员必须思考在非经典条件下如何应对更加复杂的问题,提出更鲁棒、更灵活、可扩展、可复用的机器学习新模型.具体而言,包括迁移学习、异构数据的整合、分布变化条件下的机器学习、强化学习、弱监督学习、模型复用、资源受限的机器学习、以及在特定领域中的应用等.为此,我们组织了非经典条件下的机器学习方法专刊.

本专刊分为两轮征稿,共收到投稿41篇.特约编辑先后邀请了50余位国内机器学习领域的知名专家参与审稿工作,每篇投稿至少由2位专家进行评审.最终有15篇论文被本专刊录用.录用论文涉及开放动态环境下的机器学习、弱监督条件下的机器学习方法、复杂目标的优化方法与求解算法、机器学习应用等,一定程度上反映了我国在该主题下研究水平.根据主题,本专刊论文大致可分为4组：

(1)开放动态环境下的机器学习

《面向流数据分类的在线学习综述》从在线学习算法适用的流数据的特点对算法进行综述,分别调查了适用于一般流数据,高维流数据和演化流数据的在线分类算法研究现状.

《基于在线性能测试的概念漂移检测方法》针对混杂噪声或训练样本规模过小而产生的伪概念漂移会引起与真实概念漂移混淆的问题,提出了一种基于在线性能测试的概念漂移检测方法.

《基于自回归预测模型的深度注意力强化学习方法》结合基于模型和无模型两类强化学习的优势,提出了一种基于时序自回归预测模型的深度注意力强化学习方法.

《基于动静态表征的众筹协同预测方法》提出了一种基于长短期记忆网络动静态表征的众筹项目协同预测方法,对项目的动态融资过程以及静态属性信息进行协同建模,并进行众筹项目的融资结果预测.

(2)弱监督条件下的机器学习

《基于k个标记样本的弱监督学习框架》提出了一种基于k个标记样本的弱监督学习框架,并对受限玻尔兹曼机进行改进,使其能进行弱监督学习.

《基于选择聚类集成的相似流形学习算法》提出了一种基于选择聚类集成的相似流形学习(SML-SCE)算法,避免了传统流型学习对本征维度估计的依赖,实现了性能提升.

《条件概率图产生式对抗网络》考虑存在粗粒度监督信号的弱监督学习环境,提出了一种新型的条件概率图生成对抗网络,可以在任何贝叶斯网络中利用粗粒度信息来学习到更精细复杂的结构.

《基于谱聚类的无监督特征选择算法》针对基因表达数据的特征选择问题,提出了基于谱聚类的无监督特征选择思想,该方法同时考虑了特征区分度和独立性,能够选择到代表性强的特征子集.

《基于带噪观测的远监督神经网络关系抽取》针对远监督关系抽取任务中的标记噪声问题,提出“最终句子对齐的标签是基于某些未知因素所生成的带噪观测结果”这一假设.并在此基础上构建新型关系抽取模型,提升了模型抽取精度和鲁棒性.

(3)复杂目标的优化与求解算法

《基于相似度驱动的线性哈希模型参数再优化方法》针对线性模型在哈希学习中的参数优化问题,提出了一种基于相似度驱动的线性哈希模型参数再优化方法,提升模型检索性能.

《梯度有偏情形非光滑问题NAG的个体收敛性》针对非光滑优化问题,证明了在次梯度偏差有界的情况下,Nesterov加速算法(NAG)能获得稳定的个体收敛界,而当次梯度偏差按照一定速率衰减时,NAG仍然可获得最优的个体收敛速率.

(4)面向特定领域的新型机器学习模型

《基于规则推理网络的分类模型》基于使用证据推理算法的置信规则库推理方法(RIMER)提出了一种可解释的分类模型,称为规则推理网络,结合了神经网络优异的学习性能和RIMER的高可解释性,能够为分类系统提供必要的解释和便于人工干预.

《基于标签语义注意力的多标签文本分类》提出了一种基于标签语义信息的注意力机制,将文本分类中的标签语义纳入考虑,提升了文本分类性能.

《融合商品潜在互补性发现的个性化推荐方法》利用了需求交叉弹性(Cross-Price Elasticity of Demand)的经济学原理,提出了一种商品潜在互补性发现推荐模型.

《面向推荐系统的图卷积网络》提出了一种新的基于图卷积网络的推荐算法,结合了推荐系统中用户与商品间的异质顶点交互和用户(或商品)内部的同质顶点交互,提升了推荐系统的性能.

本专刊主要面向机器学习、数据挖掘等多个领域的研究人员和工程人员,反映了我国学者在机器学习领域最新的研究进展.感谢《软件学报》编委会及编辑部、中国人工智能学会机器学习专委会对专刊工作的指导和帮助,感谢专刊全体评审专家及时、耐心、细致的评审工作,感谢踊跃投稿的所有作者.希望本专刊能够对我国非经典条件下的机器学习研究有所促进.

高新波(1972－),男,博士,西安电子科技大学教授,博士生导师,副校长.教育部长江学者特聘教授(2012-2017),国家万人计划科技创新领军人才,新世纪百千万人才工程国家级人选,国家杰出青年科学基金获得者,科技部重点领域创新团队负责人、教育部创新团队负责人, 教育部高等学校计算机类专业教学指导委员会委员.主要从事计算机视觉、机器学习和模式识别别等领域的研究和教学工作.主持包括国家自然科学基金重点项目在内的科研课题多项,获国家自然科学二等奖1项、省部级科学技术一等奖3项.在IEEE TPAMI、TIP、IJCV等国内外重要学术期刊和CVPR、AAAI、IJCAI等重要国际会议发表论文两百余篇, 2014-2018年连续五年入选爱思唯尔发布的计算机科学领域中国高被引学者榜.现任Signal Processing (Elsevier)、Neurocomputing (Elsevier)等多种期刊的编委和副编辑;作为指导委员会委员发起了信息科学与大数据工程国际学术会议IScIDE、视觉与学习领域青年学者论坛VALSE等.IET Fellow、CIE Fellow、IEEE高级会员、中国人工智能学会机器学习专委会常务委员、中国电子学会理事、中国计算机学会杰出会员.

黎铭(1980－),男,博士,南京大学教授,博士生导师,人工智能学院副院长.国家优秀青年基金获得者、教育部新世纪人才.主要从事软件挖掘、机器学习方面的研究工作.在《IEEE Trans KDE》等国内外重要学术刊物和IJCAI、ICML 等重要国际会议发表论文四十余篇,被国际同行他引两千余次.曾作为主要成员获国家自然科学二等奖、教育部自然科学一等奖等.应邀担任《Frontiers of Computer Science》青年Associate Editor、《自动化学报》编委、国际软件挖掘系列研讨会SoftwareMining、PAKDD首届博士研讨会DSDM'11主席、国际会议IEEE ICDM的领域主席、IJCAI、AAAI的资深程序委员以及KDD、NIPS等多种一流国际会议程序委员;现任ACM数据挖掘中国分会执委、中国计算机学会人工智能与模式识别专委会委员、中国人工智能学会机器学习专委会常务委员、江苏省人工智能学会青年工委主任等.

李天瑞(1969－),男,博士,西南交通大学信息科学与技术学院教授,博士生导师,人工智能研究院副院长,四川省云计算与智能技术高校重点实验室主任,四川省学术与技术带头人,IRSS会士和指导委员会主席.承担国家级项目7项,在国际会议做大会报告20次,在AI、IEEE TKDE、IEEE TEC、IEEE TIP等国际期刊和中国科学、软件学报、计算机学报等国内期刊和KDD、IJCAI、UbiComp国际会议等上发表学术论文360余篇(SCI检索140余篇,ESI热点论文3篇和高被引论文12篇,2016年教育部学科评估ESI扩展版论文18篇),出版编著6部,主编SCI期刊专辑10集,获发明专利8项.担任四个SCI期刊编委和十余次国际会议主席.培养的学生曾获得CAAI优秀博士论文提名奖1次,ACM成都分会优秀博士论文奖5次,ACM成都分会优秀硕士论文奖1次,IEEE成都分会优秀学生论文奖4次,国际会议优秀论文奖4次和优秀张贴论文奖2次,全国会议优秀论文奖4次,2015年天池大数据“新浪微博互动预测大赛”冠军(奖金20万元),2016年国际人工智能联合会议竞赛(社会影响力分析)亚军和2018年AI全球挑战赛“AI天气预报挑战赛”亚军等,就业单位包括微软亚洲研究院、四川大学等.