第二章 神经网络的数学基础

要理解深度学习，需要熟悉很多的数学概念：张量、张量运算、微分、梯度下降等。

初始神经网络

关于类和标签的说明

在机器学习中，分类问题中某个类别称为类（class）。数据点称作样本（sample），每个样本对应的类叫做标签（label）。

神经网络的核心组件是层（layer），他是一种数据处理模块，可以看做数据过滤器。具体讲，他从输入数据中提取表示，使其更有助于解决当前问题。大多数深度学习都是将简单的层连接起来，从而实现渐进式的数据蒸馏（data distillation）。

想要训练网络，需要选择编译步骤的3个参数：
1、损失函数（loss function）：衡量数据性能，使其往正确方向发展；
2、优化器（optimizer）；
3、在训练和测试过程中需要监控的指标（metric）：如：精度。