矩阵求导（笔记）

【手推机器学习】矩阵求导--合集_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1xk4y1B7RQ/?spm_id_from=333.337.search-card.all.click&vd_source=cabce9f6a21440f6bf8b6a262724ebc4

1. 绪论

MIT线性代数：

麻省理工学院 - MIT - 线性代数（我愿称之为线性代数教程天花板）_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV16Z4y1U7oU/?spm_id_from=333.337.search-card.all.click

MML书“Vectors calculus”

Mathematics for Machine Learning | Companion webpage to the book “Mathematics for Machine Learning”. Copyright 2020 by Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong. Published by Cambridge University Press. (mml-book.github.io)https://mml-book.github.io/

两位up主视频：

空狐公子：

计量经济学入门专题2——矩阵求导（分母布局）【上】_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1fK411W7oh/?vd_source=cabce9f6a21440f6bf8b6a262724ebc4西凉阿土伯：

5字诀搞定BP反向传播算法推导_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV13J41157Wq/?vd_source=cabce9f6a21440f6bf8b6a262724ebc4

The Matrix Cookbook

imm3274.pdf (dtu.dk)http://www2.imm.dtu.dk/pubdb/edoc/imm3274.pdf

2.为什么ML中需要矩阵求导

 

 3. 向量函数与矩阵求导初印象

 

4. 求导秘籍之YX拉伸术

5. 常见矩阵求导公式举例

 

 

 

 

 

6. 求导细节补充

 

The Matrix Cookbook

 imm3274.pdf (dtu.dk)http://www2.imm.dtu.dk/pubdb/edoc/imm3274.pdf

 7. 最小二乘法举例