机器学习（四十七）：任何机器学习模型的可解释性(可视化篇）

机器学习模型经常被称为“黑匣子”。他们产生高度准确的预测。然而，我们常常无法解释或理解哪种信号模型最依赖于做出决策。

理解和评估模型的一种方法是使用准确性等指标，另一种方法是使用模型的可解释性。建立一个可以做出高质量预测但又能够解释此类预测的 ML 模型是数据科学中的一项基本任务。

可解释性

数据科学家生成的 ML 模型包含世界状态的复杂数学表示。数据科学家、产品经理、业务人员或参与构建和使用 ML 解决方案的任何人都渴望知道是什么控制了 ML 输出。

可解释性：负责回答 ML 方法背后的基本机制是什么。例如，你可以构建一个线性回归模型来根据给定区域的降水率预测销售的雨伞数量。了解模型权重和特征，你可以轻松计算出销售数量。然后，你可以准确回答模型预测结果的原因和方式。

y（预测的雨伞数量）= 10 * x&#x