人工智能导论学习笔记

课程为山东大学软件学院人工智能专业2020年大二下学期的“人工智能导论”课程
我将每周更新一次，一直更新到6月下旬课程结束
目前课程内容：《人工智能导论（第四版）》1、2、3、4、5、6章

本学习笔记采用一种类似框架式的描述，主要原因是完整的写出公式等，既耗费大量时间，而且与我的初衷不符

目前留过的作业：
第二章 习题 1、4、6
第三章 习题 1、3、4、5、6、7、8、9、10、11、12
第四章 习题 1、2、3、4、5、6、7、8、9
第五章 习题 1、2、3（5.3的C++代码实现：有界深度优先搜索算法解决八数码问题）
第六章 习题 1、2、3

老师提供的需要阅读的额外读物：
读物 国务院关于印发新一代人工智能规划.pdf
读物 美国国家人工智能研究和发展战略计划.pdf
读物 人工智能发展报告2019.pdf
链接：https://pan.baidu.com/s/1JM8EOqFgi0mURJFAMjWNPA
提取码：5dwc

---

第一章 绪论

1. 智能是知识与智力的总和。
2. 智能具有多种特征。
3. 人工智能
   （1）研究目的：探寻智能本质，研制出具有类人智能的智能机器
   （2）研究内容：能够模拟、延伸和扩展人类智能的理论、方法、技术及应用系统
4. 人工智能的发展历史可归结为孕育、形成和发展三个阶段。
5. 人工智能总体发展水平仍处于起步阶段，通用人工智能研究与应用依然任重道远。

第二章 知识表示

1. 知识：把有关信息关联在一起所形成的信息结构。
2. 知识包括事实和规则。
3. 知识表示：将人类知识形式化或者模型化。
4. 谓词逻辑表示法
   1. 一阶谓词逻辑是命题逻辑的扩展。
   2. 区分好谓词和函数，这二者很相似，容易混淆。谓词具有真值，而函数无真值可言，它只是个体域中的一个个体到另一个个体的映射。
   3. 概念：连接词、量词、谓词公式、量词辖域
   4. 谓词公式的永真性、可满足性、不可满足性
   5. 谓词公式的等价性、谓词公式的永真蕴含
   6. 缺点：不能表示不确定的知识、组合爆炸、效率低
5. 产生式表示法又称为产生式规则表示法
   1. 确定性规则知识的产生式表示、不确定性规则知识的产生式表示、确定性事实性知识的产生式表示、不确定性事实性知识的产生式表示
   2. 产生式与谓词逻辑中的蕴含式的基本形式相同，但蕴含式只是产生式的一种特殊情况
   3. 产生式系统：规则库、综合数据库、推理机
   4. 缺点：效率不高、不能表达具有结构性的知识
6. 框架表示法
   1. 概念：框架、槽、侧面

第三章 确定性推理方法

1. 推理：从初始证据出发，按某种策略不断运用知识库中的已知知识，逐步推出结论的过程。
2. 推理有多种分类标准：
   1. 从推出结论的路径出发：演绎推理、归纳推理、默认推理
   2. 按推理时所用知识的确定性来划分：确定性推理、不确定性推理
   3. 按推理过程中推出的结论是否越来越接近最终目标来划分：单调推理、非单调推理
   4. 按推推理过程中是否使用启发性知识来划分：启发式推理、非启发式推理
3. 推理方向：正向推理、逆向推理、混合推理、双向推理
   1. KB知识库、DB综合数据库、KS可适用知识集
   2. 正向推理：概念、过程
      （1）优点：简单、易实现
      （2）缺点：效率低、目的性不强
   3. 逆向推理：概念、过程
      （1）优点：不必使用与目标无关的知识、目的性强、同时还有利于向用户提供解释
      （2）缺点：起始目标的选择、有盲目性、比正向推理复杂
   4. 混合推理：先正向再逆向、先后向再正向
   5. 双向推理：正向推理和逆向推理同时进行
   6. 冲突消解：按一定的策略从匹配成功的多个知识中挑出一个知识用于当前的推理的过程
      （1）按规则的针对性进行排序
      （2）按已知事实的新鲜性排序
      （3）按匹配度排序（用于不确定性推理）
      （4）按条件个数排序
4. 自然演绎推理
   1. 概念：从一组已知为真的事实出发，直接运用经典逻辑的推理规则推出结论的过程称为自然演绎推理。
   2. 推理规则：P规则、T规则、假言推理、拒取式推理
   3. 应避免的两类错误：一种是肯定后件（Q）的错误，另一种是否定前件（P）的错误。
   4. 优点：过程自然，容易理解、推理过程灵活；缺点：容易产生组合爆炸
5. 谓词公式化为子句集
   1. 概念：原子谓词公式、文字、字句、子句集、空子句
   2. 步骤
      （1）消去谓词公式中的“->”和“<->”符号
      （2）把否定符号移到紧靠谓词的位置上：双重否定律、德摩根律、量词转换律
      （3）变量标准化：使不同量词的约束变元有不同的名字
      （4） 消去存在量词：两种情况，个体常量替换，Skolem函数
      （5）化为前束形：将所有全称量词都移到公式的前面
      （6）化为Skolem标准形：使用分配律化成合取式（Skolem标准形的母式）
      （7）略去全称量词
      （8）消去合取词：把母式用子句集表示
      （9）子句变量标准化：使每个子句中的变量符号不同
   3. 谓词公式不可满足的充要条件是其子句集不可满足。
6. 鲁宾孙归结原理
   1. 鲁宾孙归结原理的定义、归结式、亲本子句
   2. 定理：归结式$C_{12}$是其亲本子句$C_1$与$C_2$的逻辑结论。即如果$C_1$与$C_2$为真，则$C_{12}$为真
   3. 上面定理有2个推论，一个是用归结式代替亲本子句（子句集变小），一个是将归结式加入子句集（子句集扩大）
   4. 谓词逻辑中的归结原理
7. 归结反演

第四章 不确定性推理方法

1. 概念：不确定性推理是从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。
2. 其他概念：静态强度、动态强度、不确定性匹配算法、阈值（拼音：yu4 zhi2）、组合证据
3. 不确定性推理方法：
   1. 可信度方法
   2. 证据理论方法
   3. 模糊推理方法
4. 可信度方法
   1. 可信度：根据经验对一个事物或现象为真的相信程度
   2. C-F模型，知识用产生式规则表示。CF(H, E)是该知识的可信度，又称为可信度因子，CF(H, E)反映了前提条件E与结论H的联系强度。
   3. 知识的不确定性和证据的不确定性在C-F模型中，都可以通过可信度因子表示。静态强度用CF(H, E)表示，动态强度用CF(E)表示。
   4. 组合证据的不确定性的算法，由单一证据的合取(min)或析取(max)表示。
   5. 不确定性的传递算法，结论H的可信度：CF(H) = CF(H, E) x max{0, CF(E)}，该模型没有考虑证据为假时对结论H所产生的影响。
   6. 不确定性的合成算法，先分别对每一条知识求出CF(H)，再用公式求出$E_1$与$E_2$对$H$的综合影响所形成的可信度，这一部分要多做题，熟悉不确定性传递算法和合成算法的使用。
5. 证据理论方法
   1. 证据理论是用集合表示命题的。
   2. 基本概率分配函数M的作用是将D的任意一个子集A映射到 [0 1] 闭区间上的一个实数M(A)，称为子集A的基本概率数。
   3. 基本概率分配函数M的作用实际上是对D的各个子集进行信任分配，M(A)表示分配给A的那一部分。
   4. 信任函数，Bel函数又称为下限函数，Bel(A)表示对命题A为真的总的信任程度。
   5. 似然函数，Pl函数又称为上限函数或不可驳斥函数，Pl(A)表示对A为非假的信任程度。
   6. 概率分配函数的正交和。对同样的证据，有时会得到两个不同的概率分配函数，此时需要对它们进行组合。
   7. 基本步骤是，建立问题的样本空间D，求出基本概率分配函数，计算信任函数值或者似然函数值，由Bel(A)或者Pl(A)得出结论。同样，证据理论方法也需要多做题掌握其使用。
6. 模糊推理方法
   1. 模糊集合是经典集合的扩充和推广。实际上，经典集合是模糊集合中隶属函数取0或1时的特例。
   2. 概念：论域、元素、集合、隶属度、隶属函数。
   3. 模糊集合的表示方法：Zadeh表示法、序偶表示法、向量表示法。
   4. 模糊集合的运算：包含关系、相等关系、交并补运算、代数运算。
   5. 模糊关系的求取方法、模糊关系的合成（最大-最小合成法；最大-代数积合成法）。
   6. 模糊知识的表示。
   7. 模糊决策：最大隶属度法、加权平均判决法、中位数法。
   8. 模糊推理的应用：确定模糊关系R、模糊推理、模糊决策。

第五章 搜索求解策略

1. 搜索策略
   1. 数据驱动：从初始状态出发的正向搜索
   2. 目的驱动：从目的状态出发的逆向搜索
   3. 双向搜索：数据驱动和目的驱动的结合
2. 根据搜索过程中是否运用与问题有关的信息，将搜索方法分为启发式搜索和盲目搜索（启发式搜索一般优于盲目搜索）
3. 概念：状态、操作、求解路径（状态序列）、解（操作算子序列）、八数码问题
4. 状态空间表示法、状态空间的图描述
5. 状态空间搜索是搜索某个状态空间以球的操作算子序列的一个解答的过程
6. 搜索策略的主要任务是确定选取操作算子的方式：盲目搜索和启发式搜索
   1. 盲目的图搜索策略
      1. 回溯策略
         1. 理解三个表：PS、NPS、NSS。理解CS
         2. P112和P113的算法伪代码和例子要看
         3. 回溯是状态空间中的一个正向搜索
      2. 宽度优先搜索策略
         1. 理解P114算法伪代码和P115积木问题的例子
         2. 算法特点：
            1. 当问题有解时，一定能找到解
            2. 当问题为单位代价（前进的每一步代价相同）时，且问题有解时，一定能找到最优解
            3. 方法与问题无关，具有通用性
            4. 效率较低
            5. 属于图搜索算法
      3. 深度优先搜索策略
         1. 理解P116算法伪代码和P117卒子穿阵问题
   2. 启发式图搜索策略
      1. 启发式策略就是利用与问题有关的启发信息引导搜索。
      2. 问题求解系统可在两种基本情况下运用启发式策略：
         1. 由于在问题陈述和数据获取方面存在模糊性，可能会使一个问题没有一个确定的解，这就要求系统能运用启发式策略做出最有可能的解释。
         2. 虽然一个问题可能有确定解，但是其状态空间特别大，搜索中生成扩展的状态数会随着搜索的深度呈指数级增长。
      3. 启发式搜索通常由两部分组成：启发方法和使用该方法搜索状态空间的算法。
      4. 启发信息按运用方法的不同分为三种：陈述性启发信息、过程性启发信息、控制性启发信息。
      5. 估价函数：f(n) = g(n) + h(n) 的概念和意义要了解。g(n)的比重越大，越倾向于宽度优先搜索方式（可以极端的认为h(n) = 0，那么算法选择f(n)最小的进行扩展，就相当于宽度优先搜索），h(n)的比重越大，表示启发性越强。
      6. A搜索算法：基于估价函数的一种加权启发式图搜索算法。
      7. A*搜索算法

第六章 智能计算及其应用

1. 智能优化算法通常包括进化计算和群智能两大类方法，是一种典型的元启发式随机优化方法。
2. 进化算法（EA）是基于自然选择和自然遗传等生物进化机制的一种搜索算法。
3. 概念：染色体、DNA、基因座、等位基因、子群。
4. 基本遗传算法重要的三个操作：选择、交叉、变异。
5. 遗传算法的五个基本要素：参数编码、初始群体的设定、适应度函数的设计、遗传操作的设计和控制参数设定。
   1. 编码：将问题空间的参数编码为一维排列的染色体的方法，称为一维染色体编码方法
      1. 位串编码
         1. 二进制编码：优缺点
         2. Gray编码：与二进制编码的转换，优点
      2. 实数编码：选择、交叉、变异不方便
      3. 多参数级联编码
   2. 群体设定主要包括两个方面：初始种群的产生和种群规模的确定
   3. 适应度函数
      1. 将目标函数映射成适应度函数的方法
      2. 适应度函数的尺度编码（了解）
   4. 选择
      1. 个体选择概率分配方法：根据个体的适应度确定被选择的概率
         1. 适应度比例方法
         2. 排序方法
      2. 选择个体方法：根据个体的选择概率确定哪些个体被选择进行交叉
         1. 轮盘赌选择
         2. 锦标赛选择方法
         3. 最佳个体保存方法
   5. 交叉（遗传算法中起核心作用的是交叉算子，也称为基因重组）
      1. 基本的交叉算子：一点交叉和二点交叉
      2. 修正的交叉方法：部分匹配交叉（PMX）
   6. 变异：位点变异、逆转变异、插入变异、互换变异、移动变异（这些概念都要清楚）
6. 遗传算法的改进算法：双倍体遗传算法、双种群遗传算法和自适应遗传算法（了解基本思想即可）
7. 遗传算法的应用（书中这一节要看）
8. 粒子群优化算法（PSO）：基本的PSO算法的公式要清楚，4种类型的PSO模型，PSO算法的参数和位置更新方程中各部分的影响
9. 蚁群算法只需要了解基本思想（不是考试重点）

第七章 专家系统与机器学习

2020年5月18日更新