模型解释性作为整个系统的最上层,从模型中提取信息,供人来理解。
解释性的作用
模型解释性:https://christophm.github.io/interpretable-ml-book/ 神经网络解释性:http://colah.github.io/posts/2014-03-NN-Manifolds-Topology/