《可解释人工智能公开课》——by 同济子豪兄 第一章导论笔记

导论

这门课学什么

通过坦克的故事得知:训练集和测试集一定要来源同一个分布

现代的机器学习和人工智能都是统计学习，统计学习用大量的数据和经验去训练出算法，让算法拟合出某个决策边界或者数据分布；若是分类，就拟合出一个边界把两类样本分开；若是回归。就拟合一个曲线去拟合原有的样本。但我们无法得知高维空间的（非线性非凸）决策边界和数据分析长什么样子。

于是对于未知我们提出疑问：

对于这么一个黑盒子，调包侠表示很无奈。可解释机器学习就是知其然知其所以然的一个学习方向。

有意思的表情包

分类问题+可解释性，不仅可以告诉我们有或没有，还能告诉我们为什么有、为什么没有

可解释性学习研究思路：

选取本身可解释性就好的机器学习算法，如KNN（K最近邻）、逻辑回归、线性回归、决策树

KNN分类

逻辑回归

线性回归

决策树（顺序由机器学习训练得到，本质是if、else）

模型的可解释性与拟合能力

卷积神经网络深层的卷积核特征难以理解，由于通道数很多，无法以图片的形式展示

关于图像分类的可解释性代码：

Train_Custom_Dataset/图像分类/6-可解释性分析、显著性分析 at main · TommyZihao/Train_Custom_Dataset · GitHub

总结