如何向外行解释一个黑盒模型

http://blog.datadive.net/interpreting-random-forests/
https://github.com/andosa/treeinterpreter

https://www.kaggle.com/learn/machine-learning-explainability

 

2019/02/20复盘

今天和业务讲了IsolationForest异常点识别的模型。

发现其实需要跟业务解释清楚这个模型的原理，然后模型发现的异常样本，然后对这些异常样本做profiling来在一维上更好地解释。

可以画一个简单的两维的图，类比解释模型原理，模型如何发现异常样本。

不可以只讲发现了什么和profiling！