以下内容是2017年尾学习的一些资料,今天来做一下整理,之前是发布在我的个人公众号《良阁》上,不过由于长期没有更新已经被注销。将内容放在这里,打卡学习~
人工智能的应用:
1.机器思维:搜索(博弈对决时,状态空间搜索和与或树搜索)
推理(理论基础是数理逻辑)
规划(完整的规划系统是斯坦福研究所问题求解系统,它是一种基于F规则和状态空间的规划系统)
2.机器感知:机器视觉(实现人类的视觉功能)
模式识别(鉴别并归入到相应的模式中)
自然语言处理(人类与计算机进行有效的交流)
3.机器行为:机器控制(在极少或没有人工干预的情况下,独立驱动智能机器,实现目标的控制过程)
机器制造
4.机器学习:符号学习
神经学习
知识发现和数据挖掘(在数据库的基础上实现的一种知识发现系统)
5.机器计算:模糊计算
神经计算(也叫神经网络、抑制和兴奋两种状态、最常用的是传统感知器模型、具有误差反向传播功能的BP神经网 络模型)
进化计算(包括遗传算法、进化策略、进化规则、遗传规则)
人工生命
典型应用:
1.智能机器人(工业机器人、水下机器人、家用机器人)
2.智能网络(智能搜索引擎---------是一种可以为用户提供内容识别、信息过滤等人性化服务的搜索引擎、智能网络;是一种
物理结构和物理分布无关的网络环境,它能实现各种资源的充分共享,能为不同的用户提供个 性化得到网络服务)
3.智能检索(能理解自然语言提出的各种问题具有一定的推理能力,拥有一定的常识性知识)
4.智能游戏(游戏中用到的智能技术)
智能感知:实现对玩家角色的感知
智能行为:负责根据选择的行为对游戏状态进行更新
智能推理和决策:负责对当前信息的认知和决策
智能记忆:用于寻找不同的行动序列
智能学习:非玩家角色在游戏过程中学到一定的知识
**神经网络算法:
历史:1.1943年,心理学家Mcculloch和数理逻辑学家Pitts在分析、总结神经元基本特征的基础上首先提出神经元的数学模型
2.1945年,冯·诺依曼领导的设计小组试制成功存储程序式电子计算机,标志着电子计算机时代的开始。1948年,他在研究工作中比较了人脑结构与存储程序式计算机的根本区别,提出了以简单神经元构成的再生自动机网络结构
3.20世纪50年代末,Rosenblatt设计制作了“感知器”,付诸于工程实践
4.1968年一本《感知器》,感知器功能有限,对前景失去信心
5.20世纪60年代初期,Widrow提出了自适应线性原件网络,这是一种连续取值的线性加权求和阈值网络。后来在这个基础上发展了非线性多层自适应网络
6.80年代初计算机的发展在若干领域遇到困难
7.美国物理学家Hopfiled与1982年和1984年在美国科学学院院刊上发表了两篇关于人工神经网络研究的论文,引起了巨大的反响
人工神经网络的发展趋势:
1.与小波分析的结合
1981年,法国地质学家Morlet在寻找地质数据时,通过对Fourier变换和加窗Fourier变换的异同、特点及函数构造进行创造性的研究,首次提出了“小波分析”的概念。后人也做研究补充。小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质,而且对低频信号在频域和对高频信号在时域里都有很好的分辨率,从而可以聚集到对象的任意细节。
小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合,因而具有较强的逼近能力和容错能力。
在结合方法上,可以将小波函数作为传递函数构造神经网络形成小波网络,或者小波变换作为前馈神经网络的输入前置处理工具,即以小波变换的多分辨率特性对过程状态信号进行处理,实现性噪分离,并提取出对加工误差影响最大的状态特性,作为神经网络的输入
2.混沌神经网络
混沌的定义是二十世纪七十年代才被LiYorke提出。表示一种确定的系统中出现无规则的运动。1990年,Aihara、Takabe和Toyoda等根据生物神经元的混沌特性首次提出混沌神经网络模型,使得神经网络更加接近人脑神经网络,成为神经网络主要研究之一
3.基于粗集理论
粗集理论是1982年由于、波兰华沙理工大学教授Pawlak首先提出,它是一个分析数据的数学理论,研究不完整数据、不精确知识的表达、学习、归纳等方法。
目前粗集与神经网络的结合已应用于语音识别、专家系统、数据挖掘、故障诊断等领域,将神经网络和粗集用于专家系统的知识获取中,取得比传统专家更好地效果,其中粗集进行不确定和不精确数据的处理,神经网络进行分类工作。
4.与分形理论的结合
美国哈佛大学数学系教授Mandelbrot与20世纪70年代中期引入分形这一概念,分形几何学已经发展成为科学的方法论---------分形理论,且被誉为开创了20世纪数学重要阶段,是很多学科的前沿研究领域
分形神经网络的应用领域有图像识别、图像编码、图像压缩、以及机械设备系统的故障诊断等。分形压缩、解压缩方法有着高压缩率和低遗失率的优点,但运算能力不强,由于神经网络用于图像压缩、解压缩中,提高了原有方法的运算能力
*将神经网络与分形结合用于果实形状的识别,首先利用分形得到几种水果轮廓数据的不规则性,然后利用三层神经网络对这些数据进行辨识,继而对其不规则性进行评价。
**粒子群算法(PSO:容易实现、精度高、收敛快从随机解出发,通过迭代寻找,是一个优化工具)
历史:1995年美国电气工程师Eberhart和社会心理学家Kenndy基于鸟群觅食行为提出PSO
与进化算法相比PSO算法是更高效的并行搜索算法
粒子群算法的应用:
1.约束优化(当枚举法很难或者不可能求出精确最优解)
2.函数优化
3.机器人智能控制:机器人的控制与协调,机器人的路径规划
4.电力系统领域:配电网扩展规划、检修计划、机组组合、电力市场竞价交易领域
5.工程设计问题:解决复杂调度问题的有效工具
6.生物医学领域:参数估计
7.通信领域:包括路由选择和移动通信基站布置优化,在顺序码分多址链接方式(DS-CDMA)通信系统中使用粒子群算法,可获得可移植的有力算法并提供并行处理能力
8.交通运输领域:在物流配送供应领域中要求以最少的车辆数、最小的车辆总行程来完成货物的派送任务;城市交通
遗传算法(GA)、模拟退火算法(SA)、粒子群算法属于智能优化算法。
人工网络算法是现在很火的AI的一个分支,AI还包括深度学习和超限学习机。
遗传算法适合大海捞针,可以并行运算,离散型的,如反潜艇搜索。
神经网络适合无确定规律的,如下围棋,有神经网络芯片,离散型的。
粒子群算法适合撒网捕鱼 ,解决目标难定行踪问题,用于投资撒网。
模拟退火算法是跳山搜索,防止陷入局部最优,适合组合优化问题,并行运算难。
深度学习的崛起让神经网络算法运用到图像识别,围棋,语音等领域。
现在智能算法结合大数据平台,GPU运算,并行计算,HPC,多模式来完成更多的业务需求
基于仿生或模拟的算法:
人工神经网络
深度学习
遗传算法
人工免疫算法
蚁群算法
粒子群算法
人工鱼群算法
文化算法
禁忌搜索算法
模拟退火算法
基于数学理论算法:
线性回归
回归分析
梯度下降
K紧邻算法
SVM支持向量机
朴素贝叶斯
决策树
图论算法
并行算法
模糊数字
混沌算法
马尔科夫链,这个很常用,比如在语音识别和无人驾驶的路径决策上
-------------------------------------------END
如果你想成为一名数据科学家,数据科学家的学习计划:
1.基本面
2.统计
3.程序设计
4.机器学习
5.文本挖掘/自然语言处理
6.数据可视化
7.大数据
8.数据摄取
9.数据传输
10.工具箱