深度学习笔记（1）——张量

深度学习笔记

（由于项目需要，开始了深度学习的学习，留下笔记自用）
参考书目：《Python深度学习》2018中文版
深度学习是机器学习的一个分支，近年来发展迅速
机器学习有三个要素：
1、输入数据点
2、预期输出示例
3、衡量算法效果好坏的算法
在深度学习中，前两点对应训练数据集，第三点对应损失函数
损失函数对于深度学习非常重要，后续再详细讲解。
深度学习引入新的数据类型——张量
准确来说张量是一个数据容器，由于我们常见的其中都是数字，所以也可以说是数字的容器。
张量是矩阵向任意维度的推广（张量的维度通常称为轴，也叫做阶）

标量（0D张量）：仅含一个数字的张量
向量（1D张量）：数字组成的数组，含一个轴
矩阵（2D张量）：向量组成的数组
3D张量与更高维度的张量：将多个矩阵组合成新的数组就可以得到一个3D蟑螂，将多个3D张量组合为新数组即4D张量，以此类推。深度学习处理的一般是0D到4D的张量，但处理视频数据时可能会用到5D张量

张量的关键属性:
轴的个数——阶；
形状：一个整数元组，表示张量沿某个轴的维度大小（这里的维度是指在这个轴上的元素个数，例如1D张量中数组中元素的个数）
数据类型：张量中包含数据的类型

图像：4D张量：形状为（样本，高度，宽度，颜色通道）

张量运算：
逐元素运算：relu运算

加法运算

广播：将两个形状不同的张量相加，较小的张量会被广播以匹配较大张量的形状，包含以下两步：
1、向较小的张量添加轴（叫做广播轴），使其维度与较大的张量相同
2、将较小的张量沿着新轴重复，使其形状与较大的张量相同

张量点积：与矩阵点积类似，需要有元素个数相同的轴，高维度的点积与矩阵点积类似，只是其中各个单元的点积变成了矩阵的点积

张量变形：改变张量的行和列，以得到想要的形状，变形后的张量的元素总个数与初始张量相同