【AI】《动手学-深度学习-PyTorch版》笔记(七):自动微分

AI学习目录汇总

1、什么是自动微分

自动微分:automatic differentiation,深度学习框架通过自动计算导数,即自动微分,自动微分使系统能够随后反向传播梯度。
计算图:computational graph,根据设计好的模型,系统会构建一个计算图, 来跟踪计算是哪些数据通过哪些操作组合起来产生输出。
反响传播:backpropagate,是指着跟踪整个计算图,填充关于每个参数的偏导数。

2、自动微分示例1:向量点乘

1)原函数如下:
y = 8 x ⊤ x y=8\mathbf{x}^{\top}\mathbf{x}

你可能感兴趣的:(AI,人工智能,深度学习,pytorch)