主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公编辑办公English
2018-2019年专刊出版计划 微信服务介绍 最新一期:2018年第12期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
杨震,王来涛,赖英旭.基于改进语义距离的网络评论聚类研究.软件学报,2014,25(12):2777-2789
基于改进语义距离的网络评论聚类研究
Online Comment Clustering Based on an Improved Semantic Distance
投稿时间:2014-05-05  修订日期:2014-08-21
DOI:10.13328/j.cnki.jos.004729
中文关键词:  文本聚类  在线评论  语义距离  长度惩罚  Heap's Law  Zipf's Law
英文关键词:text clustering  online comment  semantic distance  length penalty  Heap's law  Zipf's law
基金项目:国家自然科学基金(61001178);国家软科学研究计划(2010GXQ5D317);北京市优秀人才计划;北京市属高等学校青年拔尖人才计划(CITTCD201404052);北京市教育委员会科技计划(KM201210005024);北京工业大学基础研究基金;可信计算北京市重点实验室开放课题
作者单位E-mail
杨震 北京工业大学 计算机学院, 北京 100124 yangzhen@bjut.edu.cn 
王来涛 北京工业大学 计算机学院, 北京 100124  
赖英旭 北京工业大学 计算机学院, 北京 100124  
摘要点击次数: 3744
全文下载次数: 3134
中文摘要:
      针对在线评论,提出了一种短文本语义距离计算模型,将文本距离看成是形式距离和单元语义距离的综合.首先,在对变异短文本进行预处理的基础上,以中文词语为单位,利用词典进行语义扩展,计算短文本间最大匹配距离,将其作为衡量短文本间形式距离的指标;其次,基于短文本中的实义单元和非实义单元的不同作用,利用改进的编辑距离算法计算短文本的单元语义距离;最后,利用加权的方法将形式距离和单元语义距离综合为文本距离,并将其应用于网络在线评论的聚类分析.特别地,为了缓解短文本长度差异所造成的计算误差,提出利用词表长度对距离进行惩罚,并根据Zipf's Law和Heap's Law的对应关系,给出了一种文本词表长度的估计方法,并阐明了文本Zipf指数a对长度惩罚的关键性作用机制.实验结果表明,改进算法优于传统方法,聚类性能显著提升.
英文摘要:
      An improved semantic distance for short text is proposed. The new method calculates the semantic distance between two word strings as balance of the extent of word sequence alignment and the meaning matching between word strings. First, after linguistic preprocessing, the extent of word sequence alignment is computed by the structural distance which measures the maximum matching based on the HIT-CIR Tongyici Cilin (extended edition). Then the meaning matching between word strings is computed by an improved edit distance which allocates each word a weight according to its word type. Finally, the semantic distance between the word strings is measured as a balance of structural distance and word meaning matching distance. In addition, in order to eliminate the influence of the sentence length, the proposed semantic distance is adjusted using the distinct word count estimated by the Heap's law and Zipf law. Experimental results show that the presented methods are more efficient than the classical edit distance models.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利