【学习笔记】李宏毅2020ML&DL课程 1_8-8_8 explanable ML
ML Lecture 1_8 explanable ML
explanable ML不一定是要完全知道ML如何work,而是让人觉得舒服,觉得合理,觉得爽。
不能因为DL无法解释所以就不用他,这是削足适履。该用DL还得用,只是希望DL能够得到解释
ML Lecture 3_8 explanable ML local explanation
数码宝贝和宝可梦的分类,人的感觉是比较困难的
“胡乱叠的”网络,结果出奇的好。
画出的saliency map,注意力并没有关注到生物的本体上,以下为数码宝贝:
以下为宝可梦:
为什么?原来两种图片的背景不一样!网络看背景就可以分辨,相当于其实网络什么都没有学到
ML Lecture 6_8 explanable ML local explanation
用模型去解释模型,输出结果要尽可能相同