NMF

这一章随笔主要讲一下看Algorithm for non negative matrix factorization这篇文章的几个难点

lemma 1主要是要明白，这是更新的方法，在此方法下更新，保证F不减

argmin，是使得目标函数值最小的自变量取值。

lemma 2 第16式的证明，要展开F（ht）的定义和F（h）的定义，然后对比得到。之所以写成这样是为了下面的证明尽可能约去多项

注意F的梯度应该是一个向量。

17式之后，其实问题转化为证明矩阵的正定性

正定性证明，暂时没有看懂。。。

后面的证明，假设lemma1和2都已证，那么用定义过的G(h,ht)去得到它在lemma1下的更新规则，即找出使目标函数值G最小的h，那么当然就可以求导啦。求导得到的答案就是24式。

24式通过畸形的线性代数（其实是符号逻辑）可以得到25式。记得计算的时候一定要保持头脑清醒。。。