【MapReduce】---- MR 框架原理 之 Shuffle机制
本文共 581 字，大约阅读时间需要 1 分钟。
文章目录
♑ 定义
Map方法之后，Reduce方法之前的数据处理过程称之为Shuffle。
♑ Map方法之后Shuffle过程
♬ 分区
- 在溢写之前对环形缓冲区中的数据集进行分区操作
♬ 排序
- 在溢写之前对环形缓冲区中分区的数据集进行排序，按照分区进行
♬ Combiner（可选）
- 在溢写到磁盘之前，如果是汇总操作，可以利用Combiner对数据进行分区合并，最终溢写到磁盘上
♬ 分区归并排序
- 将分区上的数据集进行归并，同一分区上的数据集合并，排序（如果符合条件还可以继续进行Combiner合并）
♬ 压缩
- 对处理好的数据进行压缩
♬ 写磁盘
- 将压缩好的数据写到磁盘上，按分区输出
♑ Reduce方法之前Shuffle过程
主要包括以下几步：
♬ 拷贝
- 将map处理输出的同一分区数据拷贝到内存中，若内存不够，溢出到磁盘中（同时开启一个RecuceTask来处理该分区的数据）
♬ 归并排序
- 将内存和磁盘上的数据集进行归并，也就是在每个开启的ReduceTask中，对从不同MapTask中拉取过来的相同分区的数据进行合并，之后对每个ReduceTask上合并的总数据集再进行排序。
♬ 分组
- 对归并好的数据按照相同的key进行分组，等待reduce()来对同组数据进行处理，也就是相同key的数据进入同一个reduce()方法。
转载地址：http://ckeq.baihongyu.com/
你可能感兴趣的文章
MySQL 常见的开放性问题
查看>>
Mysql 常见错误
查看>>
MYSQL 幻读（Phantom Problem）不可重复读
查看>>
mysql 往字段后面加字符串
查看>>
mysql 快速自增假数据， 新增假数据，mysql自增假数据
查看>>
Mysql 报错 Field 'id' doesn't have a default value
查看>>
MySQL 报错：Duplicate entry 'xxx' for key 'UNIQ_XXXX'
查看>>
Mysql 拼接多个字段作为查询条件查询方法
查看>>
mysql 排序id_mysql如何按特定id排序
查看>>
Mysql 提示：Communication link failure
查看>>
mysql 插入是否成功_PDO mysql：如何知道插入是否成功
查看>>
Mysql 数据库InnoDB存储引擎中主要组件的刷新清理条件：脏页、RedoLog重做日志、Insert Buffer或ChangeBuffer、Undo Log
查看>>
mysql 数据库备份及ibdata1的瘦身
查看>>
MySQL 数据库备份种类以及常用备份工具汇总
查看>>
mysql 数据库存储引擎怎么选择？快来看看性能测试吧
查看>>
MySQL 数据库操作指南：学习如何使用 Python 进行增删改查操作
查看>>
MySQL 数据库的高可用性分析
查看>>
MySQL 数据库设计总结
查看>>
Mysql 数据库重置ID排序
查看>>
Mysql 数据类型一日期
查看>>