人工智能导论

人工智能导论第一讲

什么是人工智能：

• 智能机器

  能够在各类环境中自主地或者交互得执行拟人任务的机器

• 人工智能(能力)

人工智能(能力)是智能机器所执行的通常与人类智能

有关的智能行为，如判断、推理、证明、识别、感知、

理解、通信、设计、思考、规划、学习和问题求解等

思维活动。

凡是固定了算法的，基本上都不算AI

弱人工智能（在某个方面的智能）

应用效果很强

强人工智能（综合的多方面的人工智能）

现实应用效果差

机器的智能：

不管是什么计算机，都等价于图灵机

图灵机的概念：

1. 是一个数学概念

2. 一个七元组：纸带、符号、读写头、规则、状态、起

   始、结束。

   开始的时候将输入符号串 从左到右依此填在纸带的第 号格子上， 其他格子保持空白（即填以空白符）。M 的读写头指向第 0 号格子， M 处于状态 q0。机器开始运行后，按照转移函数 δ 所描述的规则进行计算。例如，若当前机器的状态为 q，读写头所指的格子中的符号为 x，设 δ（q，x) = (q’，x’，L）， 则机器进入新状态 q’， 将读写头所指的格子中的符号改为 x’， 然后将读写头向左移动一个格子。若在某一时刻，读写头所指的是第 0 号格子， 但根据转移函数它下一步将继续向左移，这时它停在原地不动。换句话说，读写头始终不移出纸带的左边界。若在某个时刻 M 根据转移函数进入了状态 qaccept， 则它立刻停机并接受输入的字符串； 若在某个时刻 M 根据转移函数进入了状态 qreject， 则它立刻停机并拒绝输入的字符串

图灵机停机问题：

通俗地说，停机问题就是判断任意一个程序是否会在有限的时间之内结束运行的问题。如果这个问题可以在有限的时间之内解决，则可以有一个程序判断其本身是否会停机并做出相反的行为。这时候显然不管停机问题的结果是什么都不会符合要求，所以这是一个不可解的问题。

哥德尔定理：

任意一个包含一阶谓词逻辑与初等数论的形式系统，都存在一个命题，它在这个系统中既不能被证明为真，也不能被证明为否。

科学和技术和工程：

• 科学是从现实总结规律，抽象化到理论
• 技术是把科学规律、理论用于现实
• 工程是实践，是行动

人工智能三大流派

符号主义：（经典，接受程度高）

把现实的物，映射到代表它的符号，在符号上完成所

有的推理、计算等等（图灵测试就是这个思路）

图灵测试：

屋子里有人、计算机，外边的人提问，交互用打印机、电话

等方式，如果提问者无法分辨是人回答的还是计算机回答的，

就是通过了图灵测试

连接主义（深度学习）：

模拟人脑就可以模拟出人脑的功能，于是提出了神经网络

行为主义：（智能机器人）

智能来自更低级的感知和行动，表现的好就行

人工智能导论第二讲：

摩尔定律：

当价格不变时，集成电路上可容纳的元器件的数目，约每隔18-24个月便会增加一倍，性能也将提升一倍

人工智能的三次浪潮：

1. 20世纪50年代末至70年代初：

   由于数学模型存在缺陷，以及计算能力无法完成复杂度呈指数级增长的计算任务，使人工智能发展陷入低谷

2. 20世纪80年代初至90年代初：

   数学模型实现了重大突破，诞生了多层神经网络、BP反向传播算法和高 度智能机器等。由于人工智能计算机的成本与维护难度都较高，限制了其 大规模商业应用和普及，使人工智能再次步入低谷。

3. 21世纪初至今：

大数据、算法模型和计算能力的多重突破共同驱动了新一代人工智能的快速发展，尤其是2006年深度学习神经网络的提出，使人工智能的性能获得突破性进展，标志着人工智能迎来第三次高速成长期。

人工智能主要领域：

1. 机器定理证明
2. 博弈
3. 模式识别
4. 自然语言处理
5. 数据挖掘和知识发现
6. 专家系统

人工智能第三四讲

大数据：

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据的5V特点：

1. Volume（大量）
2. Velocity（高速）
3. Variety（多样）
4. Value（低价值密度）
5. Veracity（真实性）

人工智能第五讲：

专家系统：

组成的三要素：

1. 一个综合数据库——存放信息
2. 一组产生式规则——知识
3. 一个控制系统——规则的解释或执行程序

求解产生式系统的过程：

1. 综合数据库
2. 规则集
3. 控制策略
4. 初始条件
5. 结束条件

产生式系统特点：

• 数据驱动
• 知识的无序性
• 控制系统与问题无关
• 数据、知识和控制相互独立

回溯算法：

深度问题：对搜索深度加以限制

死循环问题：记录从初始状态到当前状态的路径

图搜索策略：

因为回溯搜索只保持从初始状态到当前状态的一条路径，而图搜索保留所有已经搜索过的路径

搜索方法：

深度优先搜索：

1. 一般不能保证找到最优解

2. 当深度限制不合理时，可能找不到解，可以将算法

   改为可变深度限制

3. 最坏情况时，搜索空间等同于穷举

宽度优先搜索：

一定能找到解，但效率较低

渐进式深度优先搜索算法：

目的：

解决宽度优先方法的空间问题和回溯法不能找到最优解的问题

思想：

首先给回溯法一个比较小的深度限制，然后逐

渐增加深度限制，直到找到解或找遍所有分支

为止。

启发式图搜索：

利用知识来引导搜索，达到减少搜索范围，降低问题复杂度的目的

启发式算法A

评价函数的格式：

f(n) = g(n) + h(n)

f(n)：评价函数

h(n)：启发函数

最佳图搜索A*：

在A算法中，如果满足条件：

h(n)≤h*(n)

则A算法称为A*算法

A*算法的性质：

f*(s) = f*(t) = h*(s) = g*(t) = f*(n)

其中s是初始节点，t是目标节点，n是s到t的最

佳路径上的节点。

定理1:对有限图，如果从初始节点s到目标节点t有路径存

在，则算法A一定成功结束。

引理2.1:对无限图，若有从初始节点s到目标节点t的路径，

则A*不结束时，在OPEN表中即使最小的一个f值也

将增到任意大，或有f(n)>f*(s)。

引理2.2:A结束前，OPEN表中必存在f(n)≤f(s)。

推论1：OPEN表上任一具有f(n)

A*选作扩展的节点。

定理3:若存在从初始节点s到目标节点t有路径，则A*必能

找到最佳解结束。

推论3:A选作扩展的任一节点n，有f(n)≤f(s)。

alpahbeta剪枝：

• 极小≤极大，剪枝
• 极大≥极小，剪枝

人工智能第六讲

强烈建议看看课件的推导过程

归结原理：

1965年 由Robinson提出，从理论上解决了定理证明问题。

意义：归结原理的提出，对机器定理证明问题起到了推动作用

合取：∧

析取：∨

需要掌握的一些公式：

a →b => ~a ∨b

~(a ∨b) => ~a ∧~b

~(a ∧b) => ~a ∨~b

_{(∃x)P(x)=>(∀x)}P(x)

变量标准化

即：对于不同的约束，对应于不同的变量

(∃x)A(x) ∨ (∃x)B(x) => (∃x)A(x) ∨ (∃y)B(y)

量词左移

(∃x)A(x) ∨ (∃y)B(y) => (∃x) (∃y) {A(x) ∨ B(y)}

消存在量词 (skolem化）

原则：对于一个受存在量词约束的变量，如果他

不受全程量词约束，则该变量用一个常量代替，

如果他受全程量词约束，则该变量用一个函数代

替。

(∃z) (∀x)(∃y){[(~P(x) ∧~Q(x)) ∨ R(y)] ∨U(z)}

=> (∀x) {[(~P(x) ∧~Q(x)) ∨ R(f(x))] ∨U(a)}

归结原理的定理内容：

若S是合式公式F的子句集，则F永假的充要条件是S不可满足

S不可满足：若nil∈S，则S不可满足。

合一算法：

类似于编译原理的，不赘述

人工智能导论第七讲：

无

图计算：

方法1:网络嵌入（Network Embedding）

方法2:图神经网络（Graph Neural Network）

深度学习：

几种神经网络就不介绍了……

生成模型：

变分自编码器（Variational Autoencoders）：

常用于数据压缩算法和特征提取算法

VAE是一个改了中间层的自编码机。

基本思想来源：中间特征的泛化表示。
与一般的区别：一般的自编码机就是一个多层网络，中间的特征是一个固定的向量值。而VAE中间的特征是一种分布。
中间特征的抽象思考：1、如果输入是一个人脸图像，那么中间特征也许表示眼睛大小、肤色、头发种类等等等；2、类似于label smoothing一样，一个不确定的分布会更加符合人们事实的判断，就像去猜一个人的年龄一样，严谨的人会说他在20-25岁之间，而20-25岁的概率是基本符合正态分布的。

生成对抗网络（Generative Adversarial Networks）

它要解决的问题是如何从训练样本中学习出新样本

博弈论：

概念：

理性决策者之间战略互动的数学模型研究

基本要素：

• 理性玩家
• 信息
• 可行解
• 可能的输出

严格占优策略：

不论其他玩家采取什么动作，这个玩家所选择的动作都要优于选择其他动作

囚徒困境：

两个理性决策者都保持理性可能会导致坏的结果

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9x8XdGJr-1579329559126)(/Users/chentaijie/Library/Application Support/typora-user-images/image-20191224194145100.png)]

占优策略均衡：在博弈中，由局中人的上策构成的均衡称为占优策略（上策）均衡。上图囚徒困境的解（招，招）就是占优策略均衡。

单方占优策略均衡：在一方没有占优策略而另一方有的时候，预期另一方按占优策略行动而选择自己的占优策略

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-51EUBeay-1579329559127)(/Users/chentaijie/Library/Application Support/typora-user-images/image-20191224194121340.png)]

纳什均衡 ：在给定其他参与者策略情况下，没有一个参与者能通过单方面改变自己的策略而使自己的得益提高，从而没有人有积极性打破这种均衡。纳什均衡是满足给定对手的行为，各博弈方所做的是它能做的最好的行为。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZiCVdTfI-1579329559127)(/Users/chentaijie/Library/Application Support/typora-user-images/image-20191224194547555.png)]

相对优势策略划线法：划线法是一个求解纳什均衡的方法。纳什均衡是指我所做的是给定你所做的我所能做的最好的，那么求解纳什均衡，就是找出各个相对优势策略

求解的答案是，在纯策略意义下“猜谜博弈”无解，即不存在在纯策略意义下的纳什均衡，也就是说，这个博弈得不到一个平衡稳定的结局。但经验告诉我们，两个儿童玩这样的猜谜游戏，一局难定胜负，一次又一次地玩下去，随机地出一个手指，或者两个手指，多次以后，基本胜负各半，也就是有了一个平衡的结果。这个启示是，若一个博弈在纯策略意义下没有平衡的结局，但两个局中人各自将自己的全部策略随机地组织起来，且可能得到平衡的结局，换言之，在概率策略的意义下可能存在纳什均衡。正是这样的思考，引发了“混合策略”的概念。

零和博弈：

纯竞争的博弈，不是输就是赢

非零和博弈：

不是非输即赢的情况

完备信息：

可以知道博弈中的所有状态

非完备信息：

可以知道博弈中的部分状态