hadoop中mapreduce的内存环形缓冲区个人讲解

map阶段的内存环形缓冲区

相关参数配置:

mapreduce.task.io.sort.mb:排序文件时需要使用的缓冲内存总量,默认100

mapreduce.map.sort.spill.percent:阈值,当内存达到80%的io.sort.mb,则写入到文件。

以下是个人图解,后期概念在补齐:

hadoop中mapreduce的内存环形缓冲区个人讲解