李宏毅学习笔记——22.Explainable ML(3_8)

1.举一个实际例子来看看Saliency Map能带给我们什么样的帮助

一个ML模型 判断是宝可梦还是数码宝贝。
这个模型的Training Accuracy是98.9%
Testing Accuracy是98.4%。
看似很棒
用Saliency Map看了一下-----怎么重要的地方** **落在动物身上耶??而是落在了宝可梦的边缘部分。
李宏毅学习笔记——22.Explainable ML(3_8)
李宏毅学习笔记——22.Explainable ML(3_8)
原来,宝可梦的图片都是png透明的,数码宝贝的图片都是jpeg黑的的,这个模型学到的是根据背景来判断
李宏毅学习笔记——22.Explainable ML(3_8)