流形学习的数学基础

1 Optimization Algorithms on Matrix Manifolds

Optimization Algorithms on Matrix Manifolds - Full Online Text
P.-A. Absil, R. Mahoney, and Rodolphe Sepulchre

文章来源：
124页哈佛数学系本科论文，带你了解流形学习的数学基础

2 Riemannian gradient descent

Optimization and Gradient Descent on Riemannian Manifolds

3 一些流形优化的博客

【1】流形优化方法求解约束问题

一句话概括就是：传统的优化方法是在欧氏空间考虑问题，而流形优化是在黎曼流形中考虑问题，这个黎曼流形哪来的呢？约束给的！也就是把欧氏空间的约束看成是一个流形。

【2】什么是流形？
参考知乎博主：主要看逼近极限

【3】微分流形参考书及推荐

参考文献

这篇文章的目的是让大家对这个方向有个大概的理解。详细的入门书籍建议看【1】【2】

另外综述文章看【3】还有一些博士论文：【4】【5】.

【1】 Absil, P-A., Robert Mahony, and Rodolphe Sepulchre.Optimization algorithms on matrix manifolds. Princeton University Press, 2009.

【2】Nicolas Boumal. An introduction to optimization on smooth manifolds. 2020.

【3】Hu, Jiang, Xin Liu, Zai-Wen Wen, and Ya-Xiang Yuan. "A brief introduction to manifold optimization."Journal of the Operations Research Society of China(2019): 1-50.

【4】Zhang, Hongyi. “Topics in non-convex optimization and learning.” PhD diss., Massachusetts Institute of Technology, 2019.

【5】Huang, Wen. “Optimization algorithms on Riemannian manifolds with applications.” (2013).

【6】微分流形（英）讲义 王作勤老师