人工智能—— 关于权重与偏置


1、人工智能的本质

         人工智能是使用程序模拟人类神经感知的技术,他从根本上改变了传统程序的思维。传统程序采用断言的方式来进行,而人工智能则采用抽取规律来实现对应的功能

        这种方式其实是对分析归纳法的一种体现,随着算力与数据量的提升使得人工智能技术变得可能。人工智能涵盖很多领域、如机器学习、深度学习、神经网络等。本文的内容默认都在神经网络的架构下采用tensorflow进行实现。

2、从线性方程说起

    线性方程是我们开到的最简单的数学公式,在二维空间中可以表示为一条直线、直线的特征可以用权重 W 与 偏置 b 来确定,从数学角度也可以表示为斜率与截距。只要这两个特征确定,那么直线也就确定了。所以权重 W 与 偏置 b是这个直线分布的关键特征。

  

    人工智能可以通过给定一系列的训练值来确定整体分布状态

    

3、关于求解模型

    我们可以模拟一些符合这个分布的x值与y值用于确定这个分布状态

4、关于代价函数

    我们需要衡量我们学习到的参数值W与b是否真实的反应了直线的状态,需要有一个值来衡量误差,这个往往是一个数学函数,在这里我们选择最为常见的方差函数。

    在人工智能进行训练的时候是要是的代价函数最小,也就是使预测值更加接近真实值。可以采用梯度下降方法来进行此操作。关于梯度下降算法不再本文的涉及范围之内。可以这样简单粗暴的理解。

    如果要想让C越来越小,那么W,B必须适当的进行调整,C的最快变小的方向W与b调整的方向,这个方向我们称之为梯度。如下图所示,代价函数是一个关于y’的抛物线。y'是关于W与b的线性函数。

人工智能—— 关于权重与偏置_第1张图片

你可能感兴趣的:(人工智能,深度学习)