吴恩达机器学习训练神经网络08

1.逻辑回归训练模型的三个步骤：

（1）.第一步：建立逻辑回归模型，指定在给定输入特征X,参数w和b的情况下，计算输出。
（2）.指定损失函数（loss function）或代价函数(cost function)。给定损失函数的定义，然后我们定义代价函数，代价函数是参数W和B的函数，这是M个训练样本，计算的损失函数的平均值（x1,y1）到（xm,ym）。
注意：
·损失函数（loss function）是对一个训练样本（x,y）的衡量，输出预测和真实标签的计算值
·代价函数(cost function)是在整个训练集上计算的损失函数的平均值。
（3）用一个具体的梯度下降算法来最小化代价函数J,作为参数w和b的函数.

2.TensorFlow中训练神经网络的三个步骤：

同样上边的三个步骤也是我们在TensorFlow中训练神经网络的三个步骤
（1）确定在给定输入x和参数b的情况下如何计算输出
（2）编译这个模型，告诉它你想用的损失函数，而这里是你用来指定损失函数的代码，这个损失函数也就是你模型的代价函数（cost function）
例：分类数字0，1
这里使用的损失函数是和逻辑回归一样的损失函数，其中y是真实标签，有时也被成为目的标签，f(x)现在是神经网络的输出，在神经网络中这个函数被称为二元交叉熵（this loss function is called binary cross entropy.），在Tensorflow的术语中，这个函数被称为二元交叉熵，这个语法是要求TensorFlow利用该损失函数编译神经网络

(3)调用函数去最小化神经网络函数的代价

TensorFlow知道你想最小化的代价是平均值，即取训练集上所有训练样本损失的平均值，优化这个代价函数，使得神经网络和你的二分类数据相拟合，如果你想解决回归问题，而不是分类问题，你也可以告诉TensorFlow用不同的损失函数去编译模型

·神经网络的损失和代价函数

·参数的拟合
在之前的学习中，利用梯度下降进行参数的调整。而在TensorFlow中,我在标准的神经网络训练中，我们使用的是反向传播算法，我们只需要调用model.fit(X,y)函数，告诉它要迭代多少次或者多少个epoch