当可解释人工智能遇上知识图谱

1. 背景意义

1.1 什么是可解释性？

首先，什么是可解释性。由于可解释性人工智能、机器学习、神经网络等方兴未艾，可解释性的定义依旧没有准确的确定。目前较为受到认可的解释应该论文[1]提供解释Interpretability as the ability to explain or to present in understandable terms to a human，翻译过来的意识就是：可解释性是一种以人类认识的语言(术语)给人类提供解释的能力。
当然实际上人类也是高度进化的生物，不需要完整的解释，人类可以根据现有的知识自动进行脑补。所以这里引入可解释的边界。例如：为什么你这么聪明？因为我喜欢吃鱼。为什么吃鱼会聪明？因为鱼类富含DHA。为什么DHA聪明？因为 ...，我们不可能无穷无尽地解释下去。根据不同的人群，我们的可解释的工作也不一样。例如给大众解释吃鱼能够聪明就行了，因为吃鱼能够聪明我们很多人已经从小到大耳熟能详了。如果我们给专业人士解释DHA为什么会是大脑聪明，我们身边很多人也答不出来，这可能就需要外部知识去解决了（例如知识图谱）。当然，可解释的这种边界越深，这个模型的能力也越强。

1.2 当前可解释性方法

XAI总结了一些可解释性的方法。例如比较著名的可视化[2]方法，这种方法在计算机视觉上使用较多。又例如模仿模型