flink的web ui中五颜六色的方块是什么意思?

 

我们常常会看到这样的界面

flink的web ui中五颜六色的方块是什么意思?
 

那么这里面的两个方块,以及方块中的两个数字6到底是什么鬼?
这些方块有个专门的叫法:slot
这些slot的颜色表述数据分区partition的key[1]
分区数量是根据输入数据来定的,颜色不代表特别的含义,只是表示某个特定的partition的key
配置文件$FLINK_HOME/conf/flink-conf.yaml里面的是每个task manager可用的slot数量,是上限值。
web ui里面的是根据需要分配的slot。
一个task处理一个partition.
partition的key是颜色,也就是web ui上方块的颜色。


方块上的数字6,是串行执行的task数量(从输入task一直到输出task),6具体的含义如下:

flink的web ui中五颜六色的方块是什么意思?

看到右侧的数字没?

1+2+2+1=6

这个6就是前面一张插图中slot中的数字的含义,表示整个流程从头到尾总共有6个task。

###############################################################################3

另外,自己的一点感悟:

flink的web ui中五颜六色的方块是什么意思?

 

可以参考上图spark来理解,
flink运行的某个时刻,task和partition也是一一对应的。

如果从整个处理过程来看,那task数量当然与partition数量不一致,前者是6/slot,后者是2.

Reference:

[1]Apache Flink Series 3 — Architecture of Flink

[2]Flink--对parallelism 和 slot的理解