模型可解释性（SHAP)

特征重要性计算

夏普利值-博弈论

SHAP 含义：观察到某一个样本的预测中各个特征对预测结果产生的影响。

基本思想：计算一个特征加入到模型时的边际贡献，然后考虑到该特征在所有的特征序列的情况下不同的边际贡献，取均值，即某该特征的SHAPbaseline value。

例如：A单独工作产生的价值为v{A},加入B后共同产生价值v{A,B},那么B的累加贡献是v{A,B}-v{A}.

对于所有能够形成的全局N的序列，求其中关于元素xi的累加贡献，然后取均值即可得到xi的shapley

value.

交互shap值

SHAP包⽂文章:https://github.com/slundberg/shap

SHAP算法解析:https://towardsdatascience.com/one-feature-attribution-method-to-supposedly-rule-them-all-shapley-values-f3e04534983d

https://christophm.github.io/interpretable-ml-book/shapley.html

SHAP包应⽤用中⽂文解析:https://yyqing.me/post/2018/2018-09-25-kaggle-model-insights

https://christophm.github.io/interpretable-ml-book/shapley.html