1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)

 CNN

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第1张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第2张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第3张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第4张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第5张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第6张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第7张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第8张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第9张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第10张图片

损失函数

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第11张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第12张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第13张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第14张图片

KL散度,交叉熵

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第15张图片

B部分是训练集的真实实际值,是常数,C部分是训练结果,目的是要让这个损失最小化,与模型参数紧密相关,取出C(带负号),C非负

就是更精简的损失函数1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第16张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第17张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第18张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第19张图片

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第20张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第21张图片

v1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第22张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第23张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第24张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第25张图片

所谓M个空间,N个小球在其中的排列组合方式为熵

对应概率是,M次抽样,一共N种情况,每次抽样都意味着要确定M个空间里的其中一个空间是怎样的,也就是N个小球(情况)里占了多少个小球(分配到了多少个小球、情况),如果分配到的小球数量多,这个空间(抽样)里的情况(小球)数量多,即

点积矩阵计算,CPU、GPU、NPU

点积,先相乘再相加

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第26张图片

车机需要

1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第27张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第28张图片1.27CNN(输入层,特征提取(卷积,最大池化),输出),损失函数(KL散度,交叉熵推导),熵(物理、信息熵推导),点积矩阵运算(CPU,GPU,NPU)_第29张图片

小规模可以用CPU,大规模用GPU,NPU

你可能感兴趣的:(机器学习&神经网络,数模,cnn,人工智能,算法)