主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公编辑办公English
2020-2021年专刊出版计划 微信服务介绍 最新一期:2020年第6期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
姜纪远,陶卿,高乾坤,储德军.求解AUC优化问题的对偶坐标下降方法.软件学报,2014,25(10):2282-2292
求解AUC优化问题的对偶坐标下降方法
Dual Coordinate Descent Method for Solving AUC Optimization Problem
投稿时间:2013-01-30  修订日期:2013-09-30
DOI:10.13328/j.cnki.jos.004504
中文关键词:  机器学习  优化方法  AUC  对偶坐标下降  支持向量机
英文关键词:machine learning  optimization method  AUC  dual coordinate descent  support vector machine
基金项目:国家自然科学基金(61273296,60975040);安徽省自然科学基金(1308085QF121)
作者单位E-mail
姜纪远 中国人民解放军 陆军军官学院 十一系, 安徽 合肥 230031 jyjianggle@gmail.com 
陶卿 中国人民解放军 陆军军官学院 十一系, 安徽 合肥 230031  
高乾坤 中国人民解放军 陆军军官学院 十一系, 安徽 合肥 230031  
储德军 中国人民解放军 陆军军官学院 十一系, 安徽 合肥 230031  
摘要点击次数: 2376
全文下载次数: 2859
中文摘要:
      AUC被广泛作为衡量不平衡数据分类性能的评价标准.与二分类问题不同,AUC问题的损失函数由来自两个不同类别的样本对组成.如何提高其实际收敛速度,是一个值得研究的问题.目前的研究结果表明:使用reservoir sampling技术的在线方法(OAM)表现出很好的AUC性能,但OAM仍存在诸如收敛速度慢、参数选择复杂等缺点.针对AUC优化问题的对偶坐标下降(AUC-DCD)方法进行了系统的研究,给出3种算法,即AUC-SDCD,AUC- SDCDperm和AUC-MSGD,其中,AUC-SDCD和AUC-SDCDperm与样本数目有关,AUC-MSGD与样本数目无关.理论分析指出,OAM是AUC-DCD的一种特殊情形.实验结果表明,AUC-DCD在AUC性能和收敛速度两方面均优于OAM.研究结果表明,AUC-DCD是求解AUC优化问题的首选方法.
英文摘要:
      AUC is widely used as a measure for the imbalanced classification problems. The AUC loss problem is a pairwise function between two instances from different classes, which is obviously different from that in standard binary classifications. How to improve its real convergence speed is an interesting problem. Recent study shows that the online method (OAM) using the reservoir sampling technique has better performance. However, there exist some shortcomings such as slow convergence rate and difficult parameter selection. This paper conducts a systematic investigation for solving AUC optimization problem by using the dual coordinate descent methods (AUC-DCD). It presents three kinds of algorithms: AUC-SDCD, AUC-SDCDperm and AUC-MSGD, where the first two algorithms depend on the size of training set while the last does not. Theoretical analysis shows that OAM is a special case of the AUC-DCD. Experimental results show that AUC-DCD is better than OAM on the AUC performance as well as the convergence rate. Therefore AUC-DCD is among the first optimization schemes suggested for efficiently solving AUC problems.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会 京ICP备05046678号-4
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利