MapReduce与Spark用于大数据分析之比较
作者:
作者单位:

作者简介:

吴信东(1963-),男,安徽枞阳人,博士,教授,博士生导师,主要研究领域为数据挖掘,大数据分析,知识库系统,万维网信息探索;嵇圣硙(1994-),男,硕士生,主要研究领域为数据挖掘,分布式数据库.

通讯作者:

吴信东,E-mail:xwu@hfut.edu.cn

基金项目:

国家重点研发计划(2016YFB1000901);国家自然科学基金(91746209);教育部创新团队项目(IRT17R3)


Comparative Study on MapReduce and Spark for Big Data Analytics
Author:
Affiliation:

Fund Project:

National Key Researh and Development Program of China (2016YFB1000901); National Natural ScienceFoundation of China (91746209); Program for Changjiang Scholars and Innovative Research Team in University (PCSIRT) of theMinistry of Education (IRT17R3)

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
    摘要:

    评述了MapReduce与Spark两种大数据计算算法和架构,从背景、原理以及应用场景进行分析和比较,并对两种算法各自优点以及相应的限制做出了总结.当处理非迭代问题时,MapReduce凭借其自身的任务调度策略和shuffle机制,在中间数据传输数量以及文件数目方面的性能要优于Spark;而在处理迭代问题和一些低延迟问题时,Spark可以根据数据之间的依赖关系对任务进行更合理的划分,相较于MapReduce,有效地减少了中间数据传输数量与同步次数,提高了系统的运行效率.

    Abstract:

    This paper reviews two state-of-the-art algorithmic architectures, MapReduce and Spark, and compares them from their backgrounds, principles and application scenarios. The advantages and their corresponding limitations of these two algorithms are summarized. When dealing with non-iterative problems, MapReduce, by virtue of its task scheduling strategy and shuffle mechanisms, performs better than Spark in terms of intermediate data transfers and number of files. Spark can be used to deal with iterative problems and low latency issues, as it divides a computing task according to the dependencies between the data and the task. Compared with MapReduce, Spark can effectively reduce the number of intermediate data transmissions and the number of synchronizations, and improve the running efficiency of computing systems.

    参考文献
    相似文献
    引证文献
引用本文

吴信东,嵇圣硙. MapReduce与Spark用于大数据分析之比较.软件学报,2018,29(6):1770-1791

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
历史
  • 收稿日期:2017-10-19
  • 最后修改日期:
  • 录用日期:
  • 在线发布日期: 2018-02-08
您是第位访问者
版权所有:中国科学院软件研究所 京ICP备05046678号-3
地址:北京市海淀区中关村南四街4号,邮政编码:100190
电话:010-62562563 传真:010-62562533 Email:jos@iscas.ac.cn
技术支持:北京勤云科技发展有限公司

京公网安备 11040202500063号