【期末总复习】神经网络与深度学习蒲公英书

浅层学习

【期末总复习】神经网络与深度学习蒲公英书_第1张图片

 

one-hot向量【期末总复习】神经网络与深度学习蒲公英书_第2张图片

相似度的概念【期末总复习】神经网络与深度学习蒲公英书_第3张图片

 

局部表示和分布式表示示例【期末总复习】神经网络与深度学习蒲公英书_第4张图片

 

学习器

 

准确率

【期末总复习】神经网络与深度学习蒲公英书_第5张图片

 

机器学习的三个基本要素:模型、学习准则、优化算法【期末总复习】神经网络与深度学习蒲公英书_第6张图片

 

【概念】期望风险【期末总复习】神经网络与深度学习蒲公英书_第7张图片

 【概念】损失函数

【期末总复习】神经网络与深度学习蒲公英书_第8张图片

 【运用】三分类问题

 【概念】过拟合

 【概念】欠拟合【期末总复习】神经网络与深度学习蒲公英书_第9张图片

超参数【期末总复习】神经网络与深度学习蒲公英书_第10张图片 【选择 / 判断】验证集概念

【期末总复习】神经网络与深度学习蒲公英书_第11张图片

线性回归 

经验风险最小化中的平方损失函数 

 

什么时候出现不可逆的情况

【期末总复习】神经网络与深度学习蒲公英书_第12张图片 

机器学习模型的四种偏差和方差组合情况(左下过拟合,右上欠拟合)

 【期末总复习】神经网络与深度学习蒲公英书_第13张图片

 监督学习【期末总复习】神经网络与深度学习蒲公英书_第14张图片

两类线性可分 

感知器收敛性【期末总复习】神经网络与深度学习蒲公英书_第15张图片

 支持向量机超平面距离【期末总复习】神经网络与深度学习蒲公英书_第16张图片

 

 【概念】支持向量

【期末总复习】神经网络与深度学习蒲公英书_第17张图片

sigmoid型函数【期末总复习】神经网络与深度学习蒲公英书_第18张图片 

零中心化

【期末总复习】神经网络与深度学习蒲公英书_第19张图片 

死亡relu问题【期末总复习】神经网络与深度学习蒲公英书_第20张图片

理论上无限逼近 

【期末总复习】神经网络与深度学习蒲公英书_第21张图片 

 误差的反向传播【期末总复习】神经网络与深度学习蒲公英书_第22张图片

【简单计算】一维卷积示例 【期末总复习】神经网络与深度学习蒲公英书_第23张图片

常用卷积:窄卷积、宽卷积、等宽卷积

【期末总复习】神经网络与深度学习蒲公英书_第24张图片 

【期末总复习】神经网络与深度学习蒲公英书_第25张图片 

 汇聚层、最大汇聚【期末总复习】神经网络与深度学习蒲公英书_第26张图片

 汇聚层中最大汇聚过程示例【期末总复习】神经网络与深度学习蒲公英书_第27张图片

 转置卷积【期末总复习】神经网络与深度学习蒲公英书_第28张图片

 【选择 / 名词解释】空洞卷积

循环神经网络特点:短期记忆 

简单循环网络+层内连接

【期末总复习】神经网络与深度学习蒲公英书_第29张图片 

 循环神经网络的通用近似定理

【期末总复习】神经网络与深度学习蒲公英书_第30张图片

图灵完备【期末总复习】神经网络与深度学习蒲公英书_第31张图片 计算梯度的两个概念

【期末总复习】神经网络与深度学习蒲公英书_第32张图片 梯度爆炸、梯度消失【期末总复习】神经网络与深度学习蒲公英书_第33张图片

【期末总复习】神经网络与深度学习蒲公英书_第34张图片 

 

权重消失【期末总复习】神经网络与深度学习蒲公英书_第35张图片 

长程依赖问题【期末总复习】神经网络与深度学习蒲公英书_第36张图片 

门控机制

【期末总复习】神经网络与深度学习蒲公英书_第37张图片

 

 长短期记忆【期末总复习】神经网络与深度学习蒲公英书_第38张图片

 

更新门【期末总复习】神经网络与深度学习蒲公英书_第39张图片

 【概念】小批量梯度下降法【期末总复习】神经网络与深度学习蒲公英书_第40张图片

 

学习率与批量之间的关系【期末总复习】神经网络与深度学习蒲公英书_第41张图片

 

哪些方法需要调整参数以实现最小化代价函数

 

学习速率大会发生什么问题【期末总复习】神经网络与深度学习蒲公英书_第42张图片

 

【概念】逆时衰减公式

【概念】ADAgrad【期末总复习】神经网络与深度学习蒲公英书_第43张图片

【期末总复习】神经网络与深度学习蒲公英书_第44张图片 

 

【概念】权重衰减【期末总复习】神经网络与深度学习蒲公英书_第45张图片

 

新架构的测试时间(加隐藏层)会涉及哪些因素

【概念、计算方法】软、硬注意力【期末总复习】神经网络与深度学习蒲公英书_第46张图片

【期末总复习】神经网络与深度学习蒲公英书_第47张图片 

 

阐述bagging和boosting的关联性和关系【期末总复习】神经网络与深度学习蒲公英书_第48张图片

 

图灵机结构概念、功能、组成部分【期末总复习】神经网络与深度学习蒲公英书_第49张图片

【期末总复习】神经网络与深度学习蒲公英书_第50张图片 

 

输入归一化的目的

【期末总复习】神经网络与深度学习蒲公英书_第51张图片

【期末总复习】神经网络与深度学习蒲公英书_第52张图片

 

adam算法的阐述

【期末总复习】神经网络与深度学习蒲公英书_第53张图片 

 

自适应学习率的方法有哪些

【概念】学习率预热的描述

 

【概念 / 选择】rmsprop阐述【期末总复习】神经网络与深度学习蒲公英书_第54张图片

 

【概念 / 判断】adadelta相关说法【期末总复习】神经网络与深度学习蒲公英书_第55张图片

【期末总复习】神经网络与深度学习蒲公英书_第56张图片

 

神经网络中什么方法处理过拟合【期末总复习】神经网络与深度学习蒲公英书_第57张图片

【期末总复习】神经网络与深度学习蒲公英书_第58张图片

 

【概念】丢弃法的阐述【期末总复习】神经网络与深度学习蒲公英书_第59张图片

 

【期末总复习】神经网络与深度学习蒲公英书_第60张图片 

 

【概念】三角循环学习率

常见的超参数、超参数优化方法和计算【期末总复习】神经网络与深度学习蒲公英书_第61张图片

 

【概念】L1L2正则化、用处【期末总复习】神经网络与深度学习蒲公英书_第62张图片

【期末总复习】神经网络与深度学习蒲公英书_第63张图片 

 

记忆网络典型结构的概念、各部分作用、功能【期末总复习】神经网络与深度学习蒲公英书_第64张图片

【期末总复习】神经网络与深度学习蒲公英书_第65张图片 

【期末总复习】神经网络与深度学习蒲公英书_第66张图片 

 

自训练算法的伪代码(框图)介绍【期末总复习】神经网络与深度学习蒲公英书_第67张图片

 

adaboost伪代码【期末总复习】神经网络与深度学习蒲公英书_第68张图片

【期末总复习】神经网络与深度学习蒲公英书_第69张图片 

 

你可能感兴趣的:(深度学习,神经网络,人工智能)