hadoop中mapreduce的内存环形缓冲区个人讲解
map阶段的内存环形缓冲区
相关参数配置:
mapreduce.task.io.sort.mb:排序文件时需要使用的缓冲内存总量,默认100
mapreduce.map.sort.spill.percent:阈值,当内存达到80%的io.sort.mb,则写入到文件。
以下是个人图解,后期概念在补齐:
map阶段的内存环形缓冲区
相关参数配置:
mapreduce.task.io.sort.mb:排序文件时需要使用的缓冲内存总量,默认100
mapreduce.map.sort.spill.percent:阈值,当内存达到80%的io.sort.mb,则写入到文件。
以下是个人图解,后期概念在补齐: