《人工智能及其应用》1-6章

目录

第一章 绪论

1.1 人工智能的定义与发展

    1.1.1 人工智能的定义

    1.1.2 人工智能的起源与发展

1.2 人工智能的各种认知观

    1.2.1 人工智能各学派的认知观

    1.2.2 人工智能的争论

1.3 人类智能与人工智能

    1.3.1 智能信息处理系统的假设

    1.3.2 人类智能的计算机模拟

1.4 人工智能系统的分类

1.5 人工智能的研究目标和内容

    1.5.1 人工智能的研究目标

    1.5.2 人工智能研究的基本内容

1.6 人工智能的研究与计算方法

    1.6.1 人工智能的研究方法

    1.6.2 人工智能的计算方法

1.7 人工智能的研究与应用领域

第二章 知识表示方法

2.1状态空间表示

    2.1.1问题状态描述

​    2.1.2状态图示法

2.2问题规约表示

    2.2.1问题规约描述

    2.2.2与或图表示

2.3谓词逻辑表示

    2.3.1谓词演算

    2.3.2谓词公式

​    2.3.3置换与合一

2.4语义网络表示

    2.4.1二元语义网络

​    2.4.2多元语义网络的表示

    2.4.3语义网络的推理过程

2.5框架表示

2.6本体技术

2.7过程表示

2.8剧本表示

第三章 确定性推理

3.1 图搜索策略

3.2 盲目搜索

    3.2.1 宽度优先策略

    3.2.2 深度优先策略

    3.2.3 等代价策略

3.3 启发式搜索

    3.3.1 启发式搜索策略和估价策略

    3.3.2 有序搜索

    3.3.3 A*算法

3.4消解原理

    3.4.1 子句集的求取

    3.4.2 消解推理规则

    3.4.3 含有变量的消解式

    3.4.4 消解反演求解过程

3.5 规则演绎系统

    3.6.1 规则正向演绎系统

    3.6.2 规则逆向演绎系统

    3.6.3 规则双向演绎系统

3.6 产生式系统

    3.6.1 产生式系统的组成

​    3.6.2 产生式系统的推理

    3.6.3 产生式系统举例

3.7 非单调推理

第四章 非经典推理

4.1 经典推理和非经典推理

4.2 不确定性推理

    4.2.1 不确定性的表示与量度

    4.2.2 不确定性的算法

4.3 概率推理

    4.3.1 概率的基本性质和计算公式

    4.3.2 概率推理方法

4.4 主观贝叶斯方法

    4.4.1 知识不确定性的表示​

​    4.4.2 证据不确定性的表示

    4.4.3 主观贝叶斯方法的推理过程

4.5 可信度方法

    4.5.1 基于可信度的不确定性表示

    4.5.2 可信度方法的推理算法

4.6 证据理论

    4.6.1 证据理论的形式化描述    

    4.6.2 证据理论的不确定性推理模型    

    4.6.3 推理实例

4.7 小结

第五章 计算智能

5.1 概述

5.2 神经计算

    5.2.1 人工神经网络研究的进展

    5.2.3 人工神经网络示例及其算法

    5.2.4 基于神经网络的知识表示与推理

5.3 模糊计算

    5.3.1 模糊集合、模糊逻辑及其运算    

    5.3.2 模糊逻辑推理

5.4 进化算法与遗传算法

5.5 人工生命

5.6 粒群优化算法

5.7 蚁群算法

第六章 专家系统

    6.1 专家系统概述

    6.2 基于规则的专家系统

​    6.3 基于框架的专家系统

    6.4 基于神经网络的专家系统

    6.5 基于Web的专家系统

​    6.6 新型专家系统    

    6.7 专家系统的设计    

    6.8 专家系统的开发工具

《人工智能及其应用》练习题 


第一章 绪论

1.1 人工智能的定义与发展


    1.1.1 人工智能的定义


        何为智能:智能是对自然智能的简称
        智能的一般解释:智能指人类在认识客观世界中,由思维过程和脑力活动所表现出的综合能力
        (1)自然智能            
            逻辑思维:智能是利用知识(或常识),经过思维(推理),得到问题的解
            形象思维:智能是利用头脑中已有模式,通过对外界环境信息的匹配、识别等,得到对客观事物的认识
            神经心理学:智能是中枢神经系统的心智活动过程
        (2)智能机器
        (3)人工智能
            一般解释:人工智能就是用人工的方法在机器(计算机)上实现的智能,或称机器智能、计算机智能。用机器模拟和实现人类智能
            人工智能(学科):是计算机科学中涉及研究、设计和应用智能机器的一个分支。它的近期主要目标在于研究用机器来模仿和执行人脑的某些智能功能,并开发相关理论和技术
                研究如何构造智能机器或智能系统,以模拟、延伸和扩展人类智能
            人工智能(能力):是智能机器所执行的通常与人类智能有关的功能,如判断、推理、证明、识别、感知、理解、设计、思考、规划、学习和问题求解等思维活动
                用人工的方法在机器上实现的智能(也称机器智能)


    1.1.2 人工智能的起源与发展


        (1)孕育时期(1956年前)
            数理逻辑学科(弗雷治、维纳等)
            计算的新思想(丘奇、图灵等)
        (2)形成时期(1956-1970年)
            1956-第一次人工智能研讨会
            1969-第一届国际人工智能联合会议
            1970-《人工智能》国际杂志创刊
        (3)暗淡时期(1966-1974年)
            知识局限性
                例如-对于自然语言理解或机器翻译,如果缺乏足够的专业知识和常识,就无法正确处理语言,甚至会产生令人啼笑皆非的翻译
            解法局限性
                人工智能试图解决的许多问题因其解决方法和步骤的局限性,往往使得设计的程序在实际上无法求得问题的解答,或者只能得到简单问题的解答,但简单问题并不需要人工智能参与
            结构局限性
                用于产生智能行为的人工智能系统或程序存在一些基本结构上的严重局限,如没有考虑不良结构,无法处理组合爆炸问题,所以只能用于解决一些比较简单的问题
        (4)知识应用时期(1970-1988年)
            1965-第一个专家系统
        (5)集成发展时期(1986年至今)
            专家系统与知识工程
            智能机器人
            智能控制等


1.2 人工智能的各种认知观


    符号主义(Symbolicism),又称为逻辑主义(Logicism)、心理学派(Psychlogism)或计算机学派(Computerism),其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。认为人的认知基元是符号,而且认知过程即符号操作过程。认为人是一个物理符号系统,计算机也是一个物理符号系统,因此,我们就能够用计算机来模拟人的智能行为。知识是信息的一种形式是构成智能的基础。人工智能的核心问题是知识表示、知识推理和知识运用。
    连接主义(Connectionism),又称为仿生学派(Bionicsism)或生理学派(Physiologism),其原理主要为神经网络及神经网络间的连接机制与学习算法,认为人的思维基元是神经元,而不是符号处理过程。认为人脑不同于电脑,并提出联结主义的大脑工作模式,用于取代符号操作的电脑工作式。
    行为主义(Actionism),又称进化主义(Evo luti oni sm)或控制论学派(Cyberneticsism),其原理为控制论及感知—动作型控制系统。认为智能取决于感知和行动。认为智能不需要知识、不需要表示、不需要推理;人工智能以像人类智能一样逐步进化。智能行为只能在现实世界中与周围环境交互作用而表现出来。符号主义、联结主义对真实世界客观事物的描述及其智能行为工作模式是过于简化的抽象,因而是不能真实地反映客观存在的。


    1.2.1 人工智能各学派的认知观


        (1)符号主义
            符号主义认为人工智能源于数理逻辑
        (2)连接主义
            连接主义认为人工智能源于仿生学,特别是人脑模型的研究
        (3)行为主义
            行为主义认为人工智能源于控制论


    1.2.2 人工智能的争论


        1、对人工智能理论的争论
            理论层面
                符号主义
                    认为人的认知基元是符号,认知过程即符号操作过程
                    认为人是一个物理符号系统,计算机也是一个物理符号系统,因此能够用计算机来模拟人的智能行为
                    人工智能的核心问题是知识表示、知识推理和知识运用
                连接主义
                    连接主义人的思维基元是神经元,而不是符号处理过程
                    认为人脑不同于电脑,并提出连接主义的大脑工作模式,用于取代符号操作的电脑工作模式
                行为主义
                    行为主义认为智能取决于感知和行动,提出智能行为的“感知-动作”模式
                    认为智能不需要知识,不需要表示,不需要推理;人工智能可以像人类智能一样逐步进化;智能行为只能在现实世界中与周围环境交互作用而表现出来
        2、对人工智能方法的争论
            符号主义-功能模拟
            连接主义-结构模拟
            行为主义-行为模拟


1.3 人类智能与人工智能


    1.3.1 智能信息处理系统的假设


        当外界刺激作用到某一特定状态的机体时,便发生变化。可以把人看成一个智能信息处理系统,又称符号操作系统或物理符号系统

《人工智能及其应用》1-6章_第1张图片
        物理符号系统的6种基本功能
            输入符号、输出符号
            存储符号、复制符号
            建立符号结构、条件性迁移
        物理符号系统的假设
            任何一个系统,如果它能表现出智能,那么它就必定能执行上述6种功能。反之,任何系统如果具有这6种功能,那么它就能够表现出智能-此智能指的是人类所具有的智能
            推论一:既然人具有智能,那么他就一定是一个物理符号系统
            推论二:既然计算机是一个物理符号系统,它就一定能够表现出智能
            推论三:既然人是一个物理符号系统,计算机也是一个物理符号系统,那么就能够用计算机模拟人的活动


    1.3.2 人类智能的计算机模拟


        机器智能可以模拟人类智能(数值计算-逻辑推理)
        智能计算机(下棋、定理证明、语言翻译)-编写与执行人类智能的计算机程序
        新型智能计算机(神经计算机、量子计算机)-以类似人类的方式进行思考,大大提高信息处理能力,模仿和呈现出更为高级的人工智能


1.4 人工智能系统的分类


    (1)专家系统
    (2)模糊系统
    (3)神经网络系统
    (4)学习系统
    (5)仿生系统
    (6)群智能系统
    (7)多真体系统
    (8)混合智能系统


1.5 人工智能的研究目标和内容


    1.5.1 人工智能的研究目标


        近期目标-建造智能计算机以代替人类的某些智力活动
        远期目标-用自动机模仿人类的思维活动和智力功能
        人工智能的一般研究目标
            理解人类智能-通过编写程序来模仿和检验人类智能的有关理论,更好的理解人类智能
            实现人类智能-创造有用的灵巧程序,执行一般需要人类专家才能实现的任务,实现人类智能


    1.5.2 人工智能研究的基本内容


        (1)认知建模
            认知科学是人工智能的重要理论基础
        (2)知识表示
            把人类知识概念化、形式化或模型化
        (3)知识推理
            从已知判断或前提推导新的判断或结论
        (4)知识应用
            知识表示、知识推理、知识应用是传统人工智能的三大核心研究内容
        (5)机器感知
            使机器具有类似与人的感觉
        (6)机器思维
            对传感信息和机器内部的工作信息进行有目的的处理
        (7)机器学习
            使计算机具有学习新知识和新技术的能力,并在实践中不断改建和完善的能力
        (8)机器行为
            智能系统具有表达能力和行动能力
        (9)智能系统构建


1.6 人工智能的研究与计算方法


    1.6.1 人工智能的研究方法


        (1)功能模拟方法
        (2)结构模拟方法
        (3)行为模拟方法
        (4)集成模拟方法


    1.6.2 人工智能的计算方法


        (1)概率计算
        (2)符号规则逻辑运算
        (3)模糊计算
        (4)神经计算
        (5)进化计算与免疫计算
        群优化计算、蚁群计算


1.7 人工智能的研究与应用领域


    (1)问题求解与博弈
        广义上说,问题求解包括AI中的所有问题。这里指的是研究求解难题的程序,如下棋的程序,有时称为博弈,是最早的AI研究领域
    (2)逻辑推理与定理证明
        通过对事实数据库的操作来进行逻辑推理或定理证明。
        证明方法有:自然演绎法﹑判定法﹑定理证明器﹑计算机辅助证明°
    (3)计算智能
        涉及神经计算﹑模糊计算﹑进化计算﹑粒群计算﹑自然计算﹑免疫计算和人工生命等研究领域。
    (4)分布式人工智能与Agent
        是分布式计算与人工智能结合的结果。
        研究目标创建一种能描逑自然系统和社会系统的精确概念模型
    (5)自动程序设计
        能够以各种不同的目的描逑来编写计算机程序。
    (6)专家系统
        专家系统是一个智能化的计算机程序系统,其内部具有大量的专家水平在某个领域的知识和经验,能够利用人类专家的知识和解决问题的方法来解决领域的问题。
        专家系统和传统的计算机程序之间的本质区别专家系统所要解决的问题一般没有算法解,并且经常在不完全﹑不精确﹑不确定的基础上得出结论。
    (7)机器学习
        机器学习是指机器自动获取新的事实和新的推理算法以达到具有智能的行为。
    (8)自然语言理解
        通过阅读文本材料和建立内部数据库,能够把句子从一种语言翻译为另一种语言,执行给出的指令和获取知识等。
    (9)机器人学
        机器人学是AI感兴趣的研究领域,两者互为促进·作为AI研究领域之一,指的是智能机器人(感知﹑规划﹑决策)。
    (10)模式识别
        计算机能有效地感知诸如声音﹑文字﹑图象﹑温度﹑震动等人类赖以发展自身,改造环境所运用的信息资料。
    (11)机器视觉
        计算机视觉通常可分为低层视觉与高层视觉两类·低层视觉主要执行预处理功能,高层视觉主要是理解所观察的形象。
    (12)神经网络
        神经网络已在模式识别·图象处理﹑组合优化﹑自动控制﹑信息处理﹑机器人学和人工智能的其它领域获得日益广泛的应用·
    (13)智能控制
        智能控制是同时具有以知识表示的非数学广义世界模型和数学公式模型表示的混合控制过程,也往往是含有复杂性﹑不完全性﹑模糊性或不确定性以及不存在已知算法的非数学过程,并以知识进行推理,以启发来引导求解过程。
    (14)智能调度与指挥
        寻找最佳调度和组合·NP完全类问题的求解﹑军事指挥系统等领域。
    (15)智能检索
        包括图书资料、人事资料和其它情报·目前国内使用的各种管理系统,一般都不具有智能。
    (16)系统与语言工具 
        计算机系统的一些概念得到发展新的编程语言与专用开发工具

第二章 知识表示方法

何为知识?
    知识是一个抽象术语,用于尝试描述人对某种特定对象的理解
    知识的一般性解释:知识是人们在改造客观世界实践中积累起来的认识和经验
    知识的信息加工观点:知识是对信息进行智能性加工所形成的对客观世界规律性的认识,即知识=信息+关联
    符号主义观点:知识是一切智能行为的基础,要使计算机具有智能,首先必须使他拥有,并且能够使用知识。
    知识系统是指基于知识表示和推理所形成的智能系统
    知识的表示
        在智能系统中,知识通常是特定领域的,为了能让智能系统理解、处理知识,并完成基于知识的任务,首先得对知识构建模型,即知识的表示
        知识表示是对知识描述,即用一组符号把知识编码成计算机可以接受的某种结构
            根据不同任务、不同知识类型,有不同放入知识表示方法
            对于同一问题,其表示方法不唯一
        问题表示的优劣,对求解结果及求解效率影响甚大


2.1状态空间表示


    状态空间法是一种基于解答空间的问题表示和求解方法,以状态和操作符为基础

《人工智能及其应用》1-6章_第2张图片
    从状态空间不断搜索出最优路径,因为需要扩展过多的节点,故只适用于简单问题,状态空间表示是问题归约的一种特例
        只含有或节点


    2.1.1问题状态描述


        操作符和算符:问题从一种状态变化为另一种状态的手段
        状态空间:是一个表示该问题全部可能状态及其关系的图,它包含三种说明的集合,即三原状态(S,F,G)。初始状态集合S、操作符集合F、目标状态集合G

《人工智能及其应用》1-6章_第3张图片

《人工智能及其应用》1-6章_第4张图片
    2.1.2状态图示法


        图有节点集合构成
        两节点间路径的代价等于连接该路径上各节点的所有弧线代价之和
        最优化问题即找到最小代价路径

《人工智能及其应用》1-6章_第5张图片
        例:猴子和香蕉问题


2.2问题规约表示


    问题归约思想:把问题分解为子问题及子-子问题,然后解决小的问题
    问题归约的实质:从目标出发逆向推理,建立子问题以及子问题的子问题,直至最后把初始问题规约为一个平凡的本原问题集合
    问题归约表示的组成部分
        (1)初始问题描述
        (2)把问题变换为子问题的操作符
        (3)本源问题描述


    2.2.1问题规约描述


        例:梵塔难题


    2.2.2与或图表示


        用一个似图结构表示把问题归约为后继问题的替换集合,这一似图结构叫做问题归约图(与或图)
        可解节点的一般定义
            终叶节点是可解节点(因为其与本原问题相关连)
            如果某个非终叶节点含有或后继节点,那么只要有一个后继节点是可解的,此非终叶节点就是可解的
            如果某个非终叶节点含有与后继节点,那么只有其全部后继节点为可解时,此非终叶节点才是可解的
        不可解节点的一般定义
            没有后裔的非终叶节点为不可解节点
            如果某个非终叶节点含有或后继节点,那么只有其全部后裔为不可解时,此非终叶节点才是不可解的
            如果某个非终叶节点含有与后继节点,那么只要有一个后裔为不可解时,此非终叶节点就是不可解的
        与或图:由与节点及或节点组成的结构图


2.3谓词逻辑表示


    谓词逻辑法采用谓词合式公式和一阶谓词演算把要解决的问题变为有待证明的问题,如果一个新语句是从已知的正确语句导出的,那么这新语句也是正确的
    谓词语句是一种形式化的语言,其根本目的在于把数学中的逻辑论证符号化
    数学演绎:如果一个新语句是从已知正确语句中导出,则此新语句正确
    谓词逻辑的基本组成部分
        谓词符号、变量符号、函数符号和常量符号,并用圆括弧、方括弧、花括弧和逗号隔开,以表示论域内的关系。如

《人工智能及其应用》1-6章_第6张图片


    2.3.1谓词演算

《人工智能及其应用》1-6章_第7张图片


    2.3.2谓词公式

《人工智能及其应用》1-6章_第8张图片

《人工智能及其应用》1-6章_第9张图片
    2.3.3置换与合一


        常用的推理规则
            假元推理
            全称化推理
            综合推理
        置换
            在该表达式中用置换项置换变量
            可结合
                ( Ls1)s2=L(s1s2)
            不可交换
                s1s2≠s2s1
        合一
            寻找项对变量的置换,以使两表达式一致

《人工智能及其应用》1-6章_第10张图片


2.4语义网络表示


    语义网络是把事物的属性以及事物间的各种语义联系显式地表示出来,由节点和弧线或链线组成、结构化表示方法,节点表示概念、实体、情况等,弧线表示节点间的关系
        带标志的有向图
    语义网络是知识的一种结构化图解表示方法
    语义网络的结构组成部分
        词法:词汇表中允许有那些符号,涉及各个节点和弧
        结构:符号排列的约束条件,指定各弧线连接的节点对
        过程:访问过程,这些过程能用来建立和修正描述,以及回答相关问题
        语义:确定有关节点的排列及其占有物和对应弧线


    2.4.1二元语义网络


        表示简单事实

《人工智能及其应用》1-6章_第11张图片
        表示占有关系

《人工智能及其应用》1-6章_第12张图片
        表示事件

《人工智能及其应用》1-6章_第13张图片
        表示动作

《人工智能及其应用》1-6章_第14张图片
        常用语义联系
            (1)表示事物的性质、属性:ISA(Is-A)、AKO(A-Kind-OF)、HAVE、AMO(A-Member-Of)
            (2)构成关系:Composed-of
            (3)时间关系:Before、After、At
            (4)位置关系:Located-on、Located-at、Located-under
            (5)相似或接近关系:Similar-to、Near-to表示

《人工智能及其应用》1-6章_第15张图片

《人工智能及其应用》1-6章_第16张图片

《人工智能及其应用》1-6章_第17张图片

《人工智能及其应用》1-6章_第18张图片

《人工智能及其应用》1-6章_第19张图片
    2.4.2多元语义网络的表示


        谓词逻辑与语义网络等效
        多元语义网络表示的本质:语义网络本质只能表示二元关系,表示多元关系需要转化为一组二元关系的组合,或二元关系的合取


    2.4.3语义网络的推理过程


        用语义网络表示知识的问题求解系统主要由两大部分组成、一部分是由语义网络构成的知识库,另一部分是用于问题求解的推理机构
        两种推理机制
            继承
                值继承
                    把知识从某一层直接传递到另一层【is-a,AKO(a kind of)】
                如果需要继承
                    利用已知信息计算,if-needed程序
                默认继承
                    “缺省”继承
                    把具有相当程度的真实性,但又不能十分肯定的值放入槽的DEFAULT(缺省)侧面中
                把对事物的描述从概念节点/类节点传递到实例节点。通过继承可以得到所需结点的一些属性值,它通常是沿着ISA、AKO等继承弧进行的
            匹配
                匹配是指在知识库的语义网络中寻找与带求解问题相符的语义网络模式
                匹配的过程
                    (1)根据待求解的问题的要求构造一个网络片断,该网络片断中有些结点或弧的标识是空的,称为询问处,它反映的是带求解的问题
                    (2)根据该语义片断到知识库中去寻找所需要的信息
                    (3)当待求解问题的网络片断与知识库中的某语义网络片断相匹配时,则与询问处相匹配的事实就是问题的解


2.5框架表示


    框架是一种结构化表示法,通常采用语义网络中的节点-槽-值表示结构
   

2.6本体技术


    本体是一种概念化的显示规范说明或表示
    本体是一种比框架更有效的表示方法
  

2.7过程表示


    过程式表示就是将有关某一问题领域的知识,连同如何使用这些知识的方法,均隐地表达为一个求解问题的过程

2.8剧本表示


    剧本是框架的一种特殊形式,它用一组槽来描述某些事件的发生序列

第三章 确定性推理

何为推理?
    推理是由一个或几个已知的判断(前提)推出新判断(结论)的过程
确定性推理指的是推理所用的知识都是精确的,推出的结论也是精确的。如一个事件是否为真,其推理结果只能是真或假,不可能出现第三种可能性
传统人工智能的三大核心研究内容:知识表示、知识推理、知识应用


3.1 图搜索策略


    状态空间表示:用图结构描述问题的所有可能状态,每个节点对应一个状态,每条连线对应一个操作符。其问题的求解过程转化为在状态空间图中寻找一条从初始节点到目标节点的路径
    OPEN表(记录还没有扩展的点)-必须记住下一步还可以走哪些点
        OPEN表中节点的不同顺序决定了不同的搜索策略
    CLOSED表(记录已经扩展的点)-必须记住哪些点走过了
    必须记住从目标返回的路径-每个表示状态的节点结构中必须有指向父节点的指针
    图搜索的一般过程如下:
        

(1)  建立一个只含起始节点S的搜索图G,把S放到一个叫做OPEN 的未扩展节点表

(2)  建立一个叫做CLOSED的已扩展节点表,其初始为空

(3) LOOP:若OPEN表是空表,则失败退出

(4)  选择OPEN表上的第一个节点,把它从OPEN表移出并放进CLOSED表中。称此节点为节点 n

(5)  n 一目标节点,则有解并成功退出

          解是追踪图G中沿着指针nS这条路径而得到的(指针将在第7步中设置)

(6)  扩展节点n,同时生成不是n的祖先的那些后继节点的集合M。把M的这些成员作为n的后继节点添入图G中。

(7)  对那些未曾在G中出现过的M成员设置一个通向n的指针。把M的这些成员加进OPEN

已经在OPENCLOSED表上的每一个M成员,确定是否需更改通到n的指针方向
已在CLOSED表上的每个M成员,确定是否需要更改图G中通向它的每个后裔节点的指针方向。

(8)  按某一任意方式或按某个探试值,重排OPEN表。

(9)   GO  LOOP

《人工智能及其应用》1-6章_第20张图片



3.2 盲目搜索


    一般只适用于求解比较简单的问题

 特点
        搜索过程中不使用与问题有关的经验信息
        搜索效率低
        不适合大空间的实际问题求解
        不需重排OPEN表
    种类
        宽度优先搜索
        深度优先搜索
        有界深度优先搜索
        等代价搜索
        迭代加深搜索

    3.2.1 宽度优先策略

宽度优先搜索算法如下:

(1)  把起始节点放到OPEN表中

             (如果该起始节点为一目标节点,则求得一个解答)。

(2)  如果OPEN是空表,则没有解,失败退出;

             否则继续。

(3) 把第一个节点(节点n)OPEN表移出,并把它放入CLOSED的扩展节点表中。

(4)  扩展节点n。

            如果没有后继节点,则转向上述第(2)步。

(5)  把n的所有后继节点放到OPEN表的末端,并提供从这些后继节点回到n的指针。

(6)  如果n的任一个后继节点是个目标节点,则找到一个解答,成功退出;否则转向第(2)步。

《人工智能及其应用》1-6章_第21张图片
        以接近起始节点的程度逐层扩展节点的搜索方法

    特点
                    逐层进行
                    高代价搜索
                    若有解必能找到
                OPEN表中节点先进先出(FIFO)-队列


    3.2.2 深度优先策略


                首先扩展最新产生的(即最深的)节点
                深度相同的节点可以任意排列

深度优先搜索算法如下:

(1) 把起始节点S放到未扩展节点OPEN表中

               如果此节点为一目标节点,则得到一个解。

(2) 如果OPEN为一空表,则失败退出。

(3) 把第一个节点(节点n)OPEN表移CLOSED表。

(4) 如果节点n的深度等于最大深度,则转向(2)

(5) 扩展节点n,产生其全部后裔,并放OPEN表前头。 如果没有后裔,则转向(2)

(6) 如果后继节点中有任一个为目标节点,则求得一个解,成功退出;否则,转向(2)

《人工智能及其应用》1-6章_第22张图片

      深度优先算法中节点进出OPEN表的顺序是后进先出,OPEN表是一个栈。
        首先扩展最新产生的(即最深的)节点
        深度相同的节点可以任意排列
        与宽度优先搜索算法的不同在于-将扩展的后继节点放在OPEN表的前端
        深度界限-防止搜索过程沿着无益的路径扩展下去,往往给出一个节点扩展的最大限度


    3.2.3 等代价策略

宽度优先搜索的一种推广,沿等代价路径断层扩展
                搜索树中每条连接弧线上的有关代价,表示时间、距离等花费

                把从节点i到其后续节点 j 连接弧线记c(i, j)

                把从起始节点S到任一节点 i 路径代价记 g(i)。               

                在搜索树上,假设g(i)也是从起始节点S节点 i 最少代价路径上的代价
Dijkstra-迪杰斯特拉搜索-计算一个节点到其他节点的最短路径
  算法如下:

(1) 把起始节点S放到未扩展节点表OPEN中。

如果起始节点为目标节点,则求得一个解。否则令g(S)=0

(2) 如果OPEN是个空表,则没有解而失败退出。

(3) OPEN表中选择一个节点i,使其g(i)为最小。如果有几个节点都合格,那么就要选择一个目标节点作为节点i(要是有目标节点的话);否则,就从中选一个作为节点i。把节点iOPEN表移至扩展节点表CLOSED中。

(4) 如果节点i为目标节点,则求得一个解。

(5) 扩展节点i。如果没有后继节点,则转向第(2)步。

(6) 对于节点i的每个后继节点j,计算g(j)=g(i)+c(ij),并把所有后继节点j放进OPEN表。提供回到节点i的指针。

(7) 转向第(2)

《人工智能及其应用》1-6章_第23张图片


3.3 启发式搜索

    启发式搜索和盲目搜索的不同就体现在-对OPEN表按估价函数的大小排序。
    不同的估价函数所体现出来的搜索效率不同
    不同的估价函数也决定了不同的启发式搜索算法

有信息搜索(启发式搜索)

        搜索过程中利用与问题有关的经验信息(启发式信息)
        特点
            重排OPEN表,选择最有希望的节点加以扩展
        种类
            有序搜索
            (1)A算法
            (2)A*算法


    3.3.1 启发式搜索策略和估价策略


        启发式信息-用来加速搜索过程的有关问题领域的特征信息
        启发式搜索-利用启发信息的搜索方法
        估价函数-用于确定哪个节点最有可能在通向目标的最佳路径上,即估计节点位于解路径上的“希望”、函数值越小,希望越大。估价函数是启发式搜索中最重要的因素
            f ( n )表示节点n的估价函数值


    3.3.2 有序搜索


        应用估价函数值重排OPEN表,每次选择估价函数值最小的节点作为下一步考察的节点
        陷入局部最优-与估价函数的定义有关


    3.3.3 A*算法


       特征-估价函数由两部分组成
       估价函数
            f(x)= g  ( x ) [ 从起始状态到当前状态x的代价 ] + h ( x ) [ 从当前状态x到目标状态的估计代价(启发函数)]
            虽提高了算法效率,但是不能保证找到最优解
            f(x)=g(x)--等代价搜索,h(x)=0,非启发式算法
            f(x)=h(x)--贪婪算法,无法保证找到解。贪婪算法:在对问题求解时,总是做出在当前看来是最好的选择
       估价函数满足一定限制条件的算法称为A*算法。A*算法的限制条件 f ( x ) = g ( x ) [ 大于0 ] + h ( x ) [ 不大于x到目标的实际代价 ]

A*算法的定义:
       定义在图搜索过程中,如果第8步的重排OPEN表是依据f(x)=g(x)+h(x)进行的,则称该过程为A算法。

定义A算法中,如果对所有的x存在h(x)≤h*(x),则称h(x)h*(x)的下界,它表示某种偏于保守的估计。

定义采用h*(x)的下界h(x)为启发函数的A算法,称为A*算法。当h=0时,A*算法就变为有序搜索算法。

即使采用同样的形式  f (x) = g (x) + h (x)

不同的定义和不同的值也会影响搜索过程

  

3.4消解原理

美国数学家 鲁滨逊 提出消解原理 1965 年)
基本的出发点:要证明一个 命题为真 都可以通过证明 其否命题为假 来得到
将多样的推理规则简化为一个 —— 消解
消解 谓词演算公式进行分解和化简,消去一些符号 ,以求得 导出子句
消解 只能在仅含 否定 析取 联接词的公式(子句)间 进行
必须先把公式化成规范的形式(范式,子句集)


    3.4.1 子句集的求取

(1) 消去蕴涵符号

只应用∨和~符号,以 A∨B 替换  A Þ B

(2) 减少否定的辖域范围
每个否定符号只用到一个谓词符号上

~A ~B  代替  ~ (AB)

~A ~代替  ~ (A ∨B)

(\existsx) (~A) 代替  ~ ( \forallx) (A)

           以 (\forall x ) (~A) 代替  ~ ( \exists x ) (A)
(3) 变量标准化

        虚构变量改名,以保证每个量词有其自己唯一的变量符号

(\forallx) (P(x) (\existsx) Q(x) )

替换为  (\forall x) (P(x) (\exists y) Q(y) )

(4) 消去存在量词

情况1$"的辖域范围内——使用Skolem函数替换

例: "x $y Height(x, y) =>"x Height(x, f(x))

Skolem函数f(x)表明了yx之间的依赖或映射关系

例: "x "y $z P(x, y, z) => "x "y P(x, y, f(x, y))

情况2$"的辖域范围内——使用常量替换

$x "y P(x, y)  => "y P(A, y)

(5) 化为前束形

                   前束= {前缀}             {母式}

                                全称量词串     无量词公式

(6) 母式化合取范式

(7) 消去全称量词

(8) 消去连词符号∧

               用{A, B}代替(A∧B),消去符号∧,得到一个有限集,其中每个公式是文字的析取(子句)

              (9) 更换变量名

               使一个变量符不出现在一个以上的子句中。


    3.4.2 消解推理规则

消解式的定义
      令
L1L2为两任意原子公式;L1L2具有相同的谓词符号,但一般具有不同的变量。

      已知子句 L1α 和  L2β,如果L1L2具有最一般合一者σ,那么通过消解可以从这两个父辈子句推导出一个新子句 (α∨β)σ。      

                                          —— 这个新子句叫做消解式

《人工智能及其应用》1-6章_第24张图片

《人工智能及其应用》1-6章_第25张图片

《人工智能及其应用》1-6章_第26张图片


    3.4.3 含有变量的消解式

         含有变量的子句之消解式

                   要把消解推理规则推广到含有变量的子句,必须找到一个作用于父辈子句的置换,使父辈子句含有互补文字。

《人工智能及其应用》1-6章_第27张图片


    3.4.4 消解反演求解过程

给出公式集{S} 目标公式 L

 否定L,得~L

 把~L添加到S中去;

 把新产生的集合{LS}化成子句集;

 应用消解原理,力图推导出一个表示矛盾的空句。

《人工智能及其应用》1-6章_第28张图片

反演求解过程

把由目标公式的否定产生的每个子句添加到目标公式否定之否定的子句中去。

按照反演树,执行和以前相同的消解,直至在根部得到某个子句止。

用根部的子句作为一个回答语句。

实质

把一棵根部有NIL的反演树变换为根部带有回答语句的一棵证明树。

3.5 规则演绎系统

思想
基于规则的问题求解系统运用 If Þ Then 规则来建立。
每个 If 可能与某断言集中的一个或多个断言匹配。
该断言集为工作内存, Then 部分用于获得放入工作内存的新断言。
主要组成
If Þ Then Rules
Facts
推理机制
正向演绎

                逆向演绎


    3.6.1 规则正向演绎系统

定义

    正向规则演绎系统是从事实到目标进行操作的,即从状况条件到动作进行推理的,也就是ifthen的方向进行推理的。

求解过程

    事实表达式的与或形变换

    在基于规则的正向演绎系统中,我们把事实表示为非蕴涵形式的与或形,作为系统的总数据库。


    3.6.2 规则逆向演绎系统

定义

    逆向规则演绎系统是thenif 进行推理的,即从目标或动作向事实或状况条件进行推理的。

求解过程

目标表达式的与或形式

与或图的B规则变换

作为终止条件的事实节点的一致解图


    3.6.3 规则双向演绎系统

正向和逆向组合系统是建立在两个系统相结合的基础上的。

此组合系统的总数据库由表示目标和表示事实的两个与或图结构组成。

这些与或图结构分别用正向系统的F规则和逆向系统的B规则来修正。

3.6 产生式系统

定义

用来描述若干个不同的以一个基本概念为基础的系统。这个基本概念就是产生式规则或产生式条件和操作对的概念。

产生式系统中,论域的知识分为两部分

事实表示静态知识,如事物、事件和它们之间的关系

用产生式规则表示推理过程和行为。

由于这类系统的知识库主要用于存储规则,因此又把此类系统称为基于规则的系统。

    3.6.1 产生式系统的组成

总数据库

存放求解过程中各种当前信息的数据,如:问题的初始状态、事实或证据、中间推理结论和结果等。

产生式规则(规则库)

存放于求解问题相关的某个领域知识的规则集合

完整性、一致性、准确性、灵活性和合理性

控制策略(推理机)

           由一组程序组成,用来控制产生式系统的运行

《人工智能及其应用》1-6章_第29张图片
    3.6.2 产生式系统的推理

正向推理:从一组表示事实的谓词或命题出发,使用一组产生式规则,用以证明该谓词公式或命题是否成立。

逆向推理:从表示目标的谓词或命题出发,使用一组产生式规则证明事实谓词或命题成立,即首先提出一批假设目标,然后逐一验证这些假设。

双向推理:双向推理的推理策略是同时从目标向事实推理和从事实向目标推理,并在推理过程中的某个步骤,实现事实与目标的匹配。


    3.6.3 产生式系统举例


3.7 非单调推理

第四章 非经典推理

何为推理?

推理是一个或几个已知的判断(前提)推出新判断(结论)过程。

即,从已知事实(证据)出发,通过运用相关知识逐步推出结论或者证明某个假设成立或不成立的思维过程

4.1 经典推理和非经典推理

何为确定性推理?

确定性推理指的是推理所用的知识都是精确的,推出的结论也是精确的

一个事件是否为真,其推理结果只能是,不能出现第三种可能性。

确定性推理建立经典逻辑形式逻辑、数理逻辑等)基础上。

何为不确定性推理?

不确定性推理指的是从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度不确定性,但却是合理或者近乎合理的结论的思维过程。

不确定性推理建立在非经典逻辑基础上,泛指除精确推理以外的其它各种推理问题,包括不完备、不精确知识的推理模糊知识的推理非单调性推理

为何需要不确定性推理?

现实世界客观存在许多不确定性,需要在不完全和不确定的情况下运用不确定的知识进行推理。

求解过程中得到的有关问题的结论也并非随知识的增加而单调地增加

多种 原因导致同一结论

           解题方案不唯一

确定性推理和不确定性推理的区别?

   (1) 辖域取值:经典逻辑都是二值逻辑,非经典是多值逻辑

   (2) 推理方法:经典采用演绎逻辑推理,非经典采用归纳逻辑推理。

    演绎 :从普遍性的理论知识( 一般原理 )出发,去认识个别的、特殊的现象,推出 特殊 性结论
    归纳 :从许多个别的事物中 概括出一般性 概念、原则或 结论
(3) 运算 法则:经典逻辑中的许多法则在非经典逻辑中不成立。( ~(~P)  ≡  P

(4) 逻辑算符:非经典逻辑具有更多的逻辑算符。(什么可能真、必然假、应该真、允许?     ——模态算符

(5) 是否单调:经典逻辑单调,而非经典逻辑是非单调逻辑。(随着新事实出现原有事实不变(可能为假)

4.2 不确定性推理

    4.2.1 不确定性的表示与量度

不确定性推理是从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度不确定性,但却是合理或者近乎合理的结论的思维过程。

不确定性有程度区别

三种不确定性

关于 知识 不确定性
关于 证据 不确定性

关于结论不确定性

关于结论的不确定性——规则不确定

由于使用知识和证据具有的不确定性,使得出的结论也具有不确定性,这种不确定性叫做规则的不确定性。

即,当规则的条件被完全满足时,产生某种结论的不确定程度。

关于证据的不确定性——证据的动态强度

①用户求解问题时提供的初始证据

②用前面推出的结论作为当前推理的证据

证据的类型: 按证据组织: 基本证据,组合证据

              按证据来源:初始证据,中间结论

   基本证据:常与知识表示方法一致

   组合证据:组合方式:析取、合取

             计算方法:最大最小、概率、有界法等。

表示方法: 概率,可信度,隶属度等
关于知识的不确定性——知识的表态/静态强度

专家系统中知识的不确定性一般由领域专家给出。

表示: 用概率: [0,1] 区间取值,越接近于 0 越假,越接近于 1 越真
           ② 用可信度: [-1,1] 区间取值,大于 0 接近于真,小于 0 接近于假
           ③ 隶属 度: [0,1] 区间取值,越接近于 0 隶属度越低,反之越
不确定性的量度

需要采用不同的数据和方法来量度确定性的程度,考虑不确定性的度量方法时必须注意:

量度应能充分表达相应知识和证据不确定性的 程度
必须确定 量度 取值 范围
量度范围应 便于领域专家和用户对不确定性的 估计
量度 应便于对不确定性的传递进行 计算
量度 的确定应是直观的,并有相应的 理论依据

    4.2.2 不确定性的算法

不确定性的匹配算法

为了找到推理需的知识,需要用知识的前提条件与已知证据进行匹配

相似度匹配:所有前提条件及已知证据指定一个相似限度(称为阈值),用来衡量匹配双方相似的程度是否落在指定的限度内

在指定限度内,可匹配的,相应的知识可被应用,否则称不可匹配的,相应的知识不可应用。

不确定性的更新算法

不确定性推理是从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度不确定性,但却是合理或者近乎合理的结论的思维过程。——知识不确定性的动态积累和传递

已知规则前提,即证据E的不确定性C(E)规则的轻度f(H,E), 其中H表示假设,求H得不确定性C(H)

定义算法 g1 ,使得 C(H) g1 [C(E),  f(H,E) ]

4.3 概率推理

目前用得较多的不精确推理模型有:概率推理、贝叶斯推理、可信度方法、证据理论以及模糊推理等。

概率推理

假设有产生式规则IF   E  THEN  H

证据(或前提条件) E 不确定性的概率为P(E)

概率方法不精确推理目的就是求出在证据 E 下结论 H 发生的概率 :P( H | E)

    4.3.1 概率的基本性质和计算公式

《人工智能及其应用》1-6章_第30张图片

《人工智能及其应用》1-6章_第31张图片


    4.3.2 概率推理方法

假设已知前提E的概率结论H 的先验概率P(H)及条件概率P(E|H), 根据贝叶斯公式有:

先验概率 P(H ) 事件发生前的预判 概率,基于 历史 数据统计、由 背景常识 得出 的主观观点给出等。
条件概率 P(E|H) :一个事件发生后另一个事件发生的概率,又叫似然概率,一般是通过历史数据统计得到。
后验概率 P( H |E) 考虑 / 出相关证据或数据后所得到的条件概率, 限定 目标事件为隐变量取值 条件 为观测 结果
《人工智能及其应用》1-6章_第32张图片

4.4 主观贝叶斯方法

实际应用中,先验概率 P(Hi) 及证据 E 的条件概率 P(E|Hi) 很难求出的。

许多情况下,同类事件发生的频率不高,甚至很低,无法进行概率统计,这时一般根据观测到数据凭领域专家的经验给出一些主观上的判断。——主观概率:证据和规则的主观信任

1976年,杜达、哈特等人提出了主观贝叶斯方法,并在地矿勘探专家系统Prospector中得以成功应用。

    4.4.1 知识不确定性的表示

主观Bayes知识采用产生式规则表示:

           IF  E  THEN  (LS, LN)   H

其中(LS, LN) 表示该知识的静态强度,

LS为充分性度量——衡量证据 E 对结论 H 的支持程度

LN为必要性度量——衡量证据~E对结论H 的支持程度

LS LN 的取值范围是 [0,+∞)

《人工智能及其应用》1-6章_第33张图片

《人工智能及其应用》1-6章_第34张图片

《人工智能及其应用》1-6章_第35张图片

《人工智能及其应用》1-6章_第36张图片

《人工智能及其应用》1-6章_第37张图片

《人工智能及其应用》1-6章_第38张图片

《人工智能及其应用》1-6章_第39张图片
    4.4.2 证据不确定性的表示

实际应用中,除了需要考虑证据E的先验概率与先验几率外,往往还需要考虑在当前观察下证据E的后验概率或后验几率

初始证据E,用户可以根据当前观察S将其先验概率P(E)更改为后验概率P(E|S),即相当于给出证据E的动态强度。

《人工智能及其应用》1-6章_第40张图片

《人工智能及其应用》1-6章_第41张图片

《人工智能及其应用》1-6章_第42张图片

《人工智能及其应用》1-6章_第43张图片

《人工智能及其应用》1-6章_第44张图片

《人工智能及其应用》1-6章_第45张图片


    4.4.3 主观贝叶斯方法的推理过程

若采用 初始证据 进行推理,则通过用户得到 C(E|S) ,根据 CP 公式 求得 P(H|S)。
若采用推理过程中得到的 中间结论 作为证据进行推理,则通过 EH 公式 求得 P(H|S)。
n 知识支持同一结论 H 且每条 知识的前提分别是 n 个相互独立的证据 E 1 ,E 2 ,…, E n ,而这些证据又分别与观察 S 1 ,S 2 ,…,S n 对应,则 根据以下公式可 求得 H 的后验几率:

主观贝叶斯的优点:

(1)  计算公式具有比较坚实的理论基础;

(2) 规则中的LSLN来自领域专家的实践经验,较全面地反映了证据与结论间的因果关系。

(3)  同时给出了证据确定与证据不确定情况下推理方法。

主观贝叶斯的缺点:

(1) 要求领域专家给出规则的同时,给出H的先验概率P(H),这是比较困难的;

(2)  关于事件独立性的要求使方法在使用中受限。

4.5 可信度方法

可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断/相信程度

,沈强昨天没来上课,理由是头疼

可信度具有一定的主观性,较难把握。但对某一特定领域,让该领域专家给出可信度还是可行的。

可信度方法是肖特里菲(Shortliffe)等人在确定性理论基础上结合概率论等理论提出的一种不精确推理模型

    4.5.1 基于可信度的不确定性表示

根据经验对一个事物或现象为真的程度称为可信度。每条规则和每个证据都具有一个可信度。

推理规则的一般形式:

 IF   E   THEN   H  (CF(H, E))

其中CF(H , E) 是规则可信度,称为可信度因子/规则强度

例如:IF   发烧    AND  流鼻涕   THEN   感冒   (0.8)

 表示当某人确实有“发烧”及“流鼻涕”症状时,则有80%的把握是患了感冒。

可信度因子

 IF   E   THEN   H  (CF(H, E))

可信度因子CF(H , E) 的作用域[-1, 1]

CF(H , E) > 表示证据 E 增加 结论 H 真的程度, 且值 越大则结论 H 越真;
CF(H , E) = 1   表示证据 E 使结论 H 为真。
CF(H , E) <0   表示证据 E 增加 结论 H 假的程度, 且值 越小则结论 H 越假;
CF(H , E) =- 1 表示证据 E 使结论 H 为假。
CF(H , E) =0 表示证据 E 和结论 H 没有关系。
《人工智能及其应用》1-6章_第46张图片
《人工智能及其应用》1-6章_第47张图片
MB与MD的关系

    (1) 互斥性

同一证据,它不可能既增加对H的信任程度,又同时增加对H的不信任程度,说明MBMD是互斥的。即:MB(H, E)>0时,MD(H, E)=0;MD(H, E)>0时,MB(H, E)=0

《人工智能及其应用》1-6章_第48张图片

(2)典型值

《人工智能及其应用》1-6章_第49张图片

(3)H的信任增长度等于对非H的不信任增长

《人工智能及其应用》1-6章_第50张图片

(4)一证据E,若支持若干个不同的结论Hi(i=1,2,…,n),则

    因此,如果发现专家给出的知识有如下情况

        CF(H1, E)=0.7,                     CF(H2, E)=0.4

则因0.7+0.4=1.1>1为非法,应进行调整或规范化。

证据不确定性的表示

在可信度方法中,证据E的不确定性用证据的可信度CF(E)表示

CF(E)的取值范围:-1CF(E)1

证据以某种程度为真时,CF(E)>0

证据肯定为真时,CF(E)=1;

证据以某种程度为假时,CF(E)<0

证据肯定为假时,CF(E)=-1;

证据一无所知时,CF(E)=0

    4.5.2 可信度方法的推理算法

组合证据的不确定性算法

(1)合取证据

当组合证据为多个单一证据的合取时

 CF(E)=min{CF(E1), CF(E2), … ,CF(En)}

(2)析取证据

当组合证据是多个单一证据的析取,

 CF(E)=max{CF(E1), CF(E2), … ,CF(En)}

不确定性的传递算法

证据和知识的不确定性去计算结论的不确定性。

不确定性的更新公式:

           CF(H)=CF(H, E)×max{0, CF(E)}

CF(E)>0 CF(H)=CF(H,E)CF(E)     

CF(E)<0, 则 CF(H)=0,即该模型没考虑E为假对H的影响。

CF(E)=1, 则CF(H)=CF(H,E),即规则强度CF(H,E)实际上是在E为真时,H的可信度

多个独立证据推出同一结论的合成算法

有多条知识支持同一个结论,且这些知识的前提相互独立,结论的可信度又不相同时,可利用不确定性的合成算法求出结论的综合可信度

设有知识:IF  E1   THEN   H  (CF(H, E1))

            IF  E2   THEN   H  (CF(H, E2))

结论H 的综合可信度可分以下两步计算:

    (1) 分别对每条知识求出其CF(H)。即

         CF1(H)=CF(H, E1) ×max{0, CF(E1)}

         CF2(H)=CF(H, E2) ×max{0, CF(E2)}

    (2) 用如下公式求E1E2H的综合可信度

《人工智能及其应用》1-6章_第51张图片

设有一组知识r1IF  E1  THEN  H  (0.9)

                                   r2IF  E2  THEN  H  (0.6)

                                   r3IF  E3  THEN  H  (-0.5)

                                   r4IF  E4  AND  ( E5  OR  E6THEN  E1  (0.8)

已知:CF(E2)=0.8, CF(E3)=0.6, CF(E4)=0.5, CF(E5)=0.6, CF(E6)=0.8

求:CF(H)=?

r4得到:

    CF(E1)=0.8×max{0, CF(E4  AND  (E5  OR   E6))}

          = 0.8×max{0, min{CF(E4),  CF(E5  OR   E6)}}

          =0.8×max{0, min{CF(E4),  max{CF(E5),  CF(E6)}}}

          =0.8×max{0, min{CF(E4),  max{0.6,  0.8}}}

          =0.8×max{0, min{0.5,  0.8}}

          =0.8×max{0,  0.5} = 0.4

    r1得到:CF1(H)=CF(H, E1)×max{0,  CF(E1)}

                =0.9×max{0,  0.4} = 0.36

    r2得到:CF2(H)=CF(H, E2)×max{0,  CF(E2)}

               =0.6×max{0,  0.8} = 0.48

    r3得到:CF3(H)=CF(H, E3)×max{0,  CF(E3)}

               =-0.5×max{0,  0.6} = -0.3

    根据结论不精确性的合成算法,CF1(H)CF2(H)同号,有:

《人工智能及其应用》1-6章_第52张图片

    CF12(H)CF3(H)异号,有:

《人工智能及其应用》1-6章_第53张图片

即综合可信度为CF(H)=0.53

4.6 证据理论

证据理论又称为D-S理论,处理的是集合上的不确定性问题,为此需要先建立命题与集合之间的一一对应关系,以把命题的不确定性问题 集合的不确定性问题。

用集合表示命题,集合中各元素互斥

D-S理论主要优点:只需满足比概率论更弱的公理系统,且能处理由“不知道”所引起的不确定性

    4.6.1 证据理论的形式化描述
    4.6.2 证据理论的不确定性推理模型
    4.6.3 推理实例


4.7 小结

非单调推理、时序推理和不确定性推理等属于非经典推理。

非单调推理推出的结论不随条件的增加而增加,新推出的定理很可能会修正以至否定原有定理。

时序推理不是建立在逻辑的基础上,消除了一阶谓词的局限性。

不确定性推理是从不确定性的证据出发,通过不确定性知识,推出具有一定程度的不确定性的或近乎合理的结论。

假设出门堵车的可能因素有两个:车辆太多和交通事故。

1)如果出门之前听到新闻说今天路上出个交通事故,我们想算一下堵车的概率,这个叫做条件概率,也就是P(堵车|交通事故)

——交通事故是事实,交通事故()导致堵车()

——由已知原因求未知结论的概率

2)如果出门后遇到堵车,我们想算一下堵车是由交通事故引起的概率有多大,这个叫做后验概率 ,也就是P(交通事故|堵车)

——堵车是事实,堵车()由交通事故()引发概率

——由事实求结果产生最可能的原因

第五章 计算智能

5.1 概述

何为计算智能?

计算智能依赖于数值数据,而非知识。

计算智能是信息科学与生命科学交叉的前沿领域,借鉴仿生学的思想,基于人们对生物体智能机理的认识,采用数值计算的方法去模拟和实现人类的智能

计算智能与人工智能的区别和联系

《人工智能及其应用》1-6章_第54张图片

计算智能是一种智力方式的低层认知,它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识(精品),低层系统则没有。

人工智能系统:当一个智能计算系统非数值方式加上知识,即成为人工智能系统。

计算智能系统应当只涉及数值(低层)数据,含有模式识别部分,而且能够呈现出:计算适应性\计算容错性、接近人的速度、近似于人的误差率

《人工智能及其应用》1-6章_第55张图片

5.2 神经计算


    5.2.1 人工神经网络研究的进展

1960威德罗和霍夫率先把神经网络用于自动控制研究。

60年代末期至80年代中期,神经网络控制与整个神经网络研究一样,处于低潮。

80年代后期以来,随着人工神经网络研究的复苏和发展,对神经网络控制的研究也十分活跃。这方面的研究进展主要在神经网络自适应控制和模糊神经网络控制及其在机器人控制中的应用上。

神经网络的基本特性

Ø 并行分布处理
Ø 非线性映射
Ø 通过训练进行学习
Ø 适应与集成
Ø 硬件实现

   
    5.2.2 人工神经网络结构

生物神经网络

生物神经网络一般指生物的大脑神经元,细胞,触点等组成的网络,用于产生生物的意识,帮助生物进行思考行动。

神经网络是一种模拟生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型计算模型,以期能够实现类人工智能的机器学习技术

神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应1[Kohonen 1988]

M-P神经元模型

“M-P神经元模型神经元接收到来自其它神经元传递过来的输入信号,这些输入信号通过带权重的连接进行传递,神经元接收信号的总输入值将与神经元的阈值进行比较,然后通过激活函数处理以产生神经元的输出。

《人工智能及其应用》1-6章_第56张图片

《人工智能及其应用》1-6章_第57张图片

《人工智能及其应用》1-6章_第58张图片

《人工智能及其应用》1-6章_第59张图片

感知机

多个神经元按一定的层次结构连接起来,就构成了神经网络,感知机是最简单的神经网络。

感知机由两层神经元组成,只有输出层单元进行激活函数处理,即只有一层功能神经元

《人工智能及其应用》1-6章_第60张图片

感知机输入层接收外界信号传递给输出层,输出层是M-P神经元,也称为“阈值逻辑单元”。、

感知机是二分类线性模型

《人工智能及其应用》1-6章_第61张图片

《人工智能及其应用》1-6章_第62张图片

如果两类模式线性可分,即存在一个线性超平面将其分开,则感知机的学习过程一定收敛,否则感知机的学习过程动荡,不能求得合适的解。

求得最优参数

《人工智能及其应用》1-6章_第63张图片

《人工智能及其应用》1-6章_第64张图片

如果线性不可分?-增加功能神经元

《人工智能及其应用》1-6章_第65张图片

《人工智能及其应用》1-6章_第66张图片

多层前馈神经网络-前馈为了计算,后馈为了调参

每层神经元与下一层神经元全互连;同层神经元之间无连接;跨层无连接;


    5.2.3 人工神经网络示例及其算法

有师学习算法: 能够根据期望的和实际的网络输出(对应于给定输入)间的差来调整神经元间连接的强度或
无师学习算法: 不需要知道 期望输出
强化学习算法: 采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度(质量因数

  ——强化学习算法的一个例子是遗传算法(GA


    5.2.4 基于神经网络的知识表示与推理

基于神经网络的知识表示

某一问题的若干知识在同一网络中表示

如,用神经网络所对应的有向权图的邻接矩阵及阈值向量进行知识表示。

《人工智能及其应用》1-6章_第67张图片

基于神经网络的知识推理

基于神经网络的推理是通过网络计算把用户提供的初始证据用作网络的输入,通过网络计算最终得到输出结果。

一般来说,正向网络推理的步骤如下:

Ø 已知 数据输入网络输入层的各个 节点
Ø 利用激活函数 分别计算网络中各层的 输出
Ø 用阈值函数对输出层的输出进行判定 ,得到 输出 结果


5.3 模糊计算


    5.3.1 模糊集合、模糊逻辑及其运算
    5.3.2 模糊逻辑推理


5.4 进化算法与遗传算法

进化计算包括:

Ø 遗传算法 ( genetic algorithms GA)
Ø 进化策略 ( evolution strategies)
Ø 进化编程 ( evolutionary rogramming )
Ø 遗传编程 ( genetic programming)

人类不满足于模仿生物进化行为,希望能够建立具有自然生命特征的人造生命和人造生命系统。

人工生命是人工智能和计算智能的一个新的研究热点


5.5 人工生命
5.6 粒群优化算法

定义为某种交互作用的组织或agent之结构集合。

在群智能计算研究中,群的个体组织包括蚂蚁、白蚁、蜜蜂、黄蜂、鱼群和鸟群等。

社会组织的全局群行为是由群内个体行为以非线性方式实现的。

群行为不能仅由独立于其他个体的个体行为所确实。个体间的交互作用在构建群行为中起到重要作用。

粒群优化概念:

粒群优化算法是一种基于群体搜索的算法,它建立在模拟鸟群社会的基础上。

粒群概念的最初含义是通过图形来模拟鸟群优美和不可预测的舞蹈动作,发现鸟群支配同步飞行和以最佳队形突然改变飞行方向并重新编队的能力。


5.7 蚁群算法

第六章 专家系统


    6.1 专家系统概述

何为专家系统?

专家系统是一个应用知识和推理过程来求解那些需要大量的人类专家解决难题经验的智能计算机程序。

定义:是一个含有大量的某个领域专家水平的知识与经验智能计算机程序系统,能够利用人类专家的知识和解决问题的方法来处理该领域问题

专家系统的基本功能取决于它所含有的知识,因此,有时也把专家系统称为基于知识的系统

专家系统使用人类专家推理的计算机模型来处理现实世界中需要专家做出解释的复杂问题,并得出与专家相同的结论。

—— 模拟人类专家解决领域问题的计算机程序系统

《人工智能及其应用》1-6章_第68张图片

《人工智能及其应用》1-6章_第69张图片

《人工智能及其应用》1-6章_第70张图片

专家系统的主要功能:(1) 具有丰富的专门知识(2) 并行分布式处理功能(3) 多专家协同工作机制(4) 强大的自学习能力(5) 多种类推理机制

专家系统具有下列3特点:启发性、透明性、灵活性

一般应用程序与专家系统的区别:

一般应用程序:把问题求解的知识隐含地编入程序;把知识组织为两级:数据级和程序

专家系统:把其应用领域的问题求解知识单独组成一个实体,即为知识库;将知识组织成三级:数据、知识库和控制。

专家系统的建造步骤:采用原型技术的专家系统开发过程如下图所示,它可分为设计初始知识库原型系统开发与试验知识库的改进与归纳三个主要步骤。

    6.2 基于规则的专家系统

基于规则的专家系统是指采用产生式知识表示方法的专家系统,以产生式系统为基础,是专家系统开发中常用的一种方式,其最基本的工作模型如图所示:

《人工智能及其应用》1-6章_第71张图片
    6.3 基于框架的专家系统

基于框架的专家系统是指采用框架知识表示方法的专家系统,以框架系统为基础,具有较好的结构化特性基本结构与基于规则的专家系统类似

《人工智能及其应用》1-6章_第72张图片

主要区别在于知识库中知识表示和组织方式,综合数据库中事实的表示方式,推理机的推理方法和系统推理过程的控制策略等。


    6.4 基于神经网络的专家系统

神经网络专家系统是神经网络与传统专家系统集成所得到的一种专家系统

将传统专家系统的显式的知识表示方法变为基于神经网络及其连接权值的隐式知识表示;
把基于逻辑的串行推理技术变为基于神经网络的并行联想和自适应推理。

基于神经网络专家系统的结构


    6.5 基于Web的专家系统

基于Web的专家系统是Web数据交换技术与传统专家系统集成所得到的一种先进专家系统

利用Web浏览器实现人机交互:基于Web专家系统中的各类用户都可通过浏览器访问专家系统

结构,由浏览器、应用服务器和数据库服务器三个层次所组成,包括Web接口、推理机、知识库、数据库和解释器。

基于Web专家系统的结构

《人工智能及其应用》1-6章_第73张图片
    6.6 新型专家系统
    6.7 专家系统的设计
    6.8 专家系统的开发工具

你可能感兴趣的:(杂,人工智能,机器学习,数据挖掘)