机器学习算法，其提供描述为什么一个分类是由

Question

我的工作中，我需要训练的模型对各种输入对象分类机器学习项目信息;为简单起见，我们假设我正在创建一个模型，可以将图像分类为包含猫或狗。

但是，我不仅对分类这些对象感兴趣，而且对理解为什么算法将图像分类为狗或猫。决策树允许其描述为什么一个例子进行分类基础上，实例的特征或那种方式，像这样非常好的视觉效果：

我是新来的机器学习，所以我不熟悉如何很多学习算法的工作;是否有任何其他的算法，这将允许对一个可视化（或信息），其可以给一些见解，为什么输入例如被分类的一种方式或其他，基于该示例的特征？

Answer 1

有一个这样的可视化工具（神经网络），它可以帮助您显现特定参数如何影响输出分类。它可能会让你直观地了解网络如何正确分类特定标签。 你可以看看这里： http://playground.tensorflow.org/

由于任何线性和复杂的非线性分类始终可以表示/转化为神经网络，它可以帮助你更好的概括。

Answer 2

有迹象表明，已经为深发展的学习特别型号 - 几个功能强大的可视化方法，可视化图像分类是一个良好的探索空间。仅举几个可能的方法：以上

• Saliency maps
• Class-activation maps (CAM)
• Gradient-based class activation maps (Grad-CAM)

的链接是从Keras文档。这些方法的原始研究论文在docs-- Keras链接确实提供了一个高层次的解释的一个好工作，如果你想要更多的细节，你可以下潜到研究论文。

我不知道你使用的构建模型是什么，但Keras提供实现这些方法的一些伟大的可视化工具。我在这里写了一篇关于使用Grad-CAM可视化学习过程的博客文章;它可能会提供更多的上下文，并且还有一个指向有效代码示例的链接：http://innolitics.com/10x/visualizing-image-classification/。