参数估计之L1-范数正则化

b站上有关优化理论的讲解,适合优化入门,会讲很多例子,并做几何解释,全程听下来压力不大。视频链接https://www.bilibili.com/video/BV1jz411q7Uo ,主讲老师天津大学电气自动化与信息工程学院杨挺教授(官网个人主页http://seea.tju.edu.cn/info/1016/1526.htm)。有人整理了这个老师讲课PPThttps://mp.weixin.qq.com/s/VigKBYeZwv2Ddy93peDY3Q。

上一次提到了《凸优化》这本书,我在b站上找到了相关解释视频,这个up对里边很多问题都做了详细解释https://space.bilibili.com/364872099?from=search&seid=8803865180187999174

《数值分析》有讲:病态性是指如果输入数据有微小扰动(即误差),引起输出数据(即问题解)相对误差很大,这就是病态问题,一般相对误差条件数Cp大于10则认为是病态的。

上一节讲了约束正则化测角问题,这节再具体说一下原理;

上一篇文章“约束正则化 & MUSIC 实现DOA”中提到的约束条件,是基于L1-范数正则化的方法的方法,一般的考虑

参数估计之L1-范数正则化_第1张图片

该问题是一种双准则式(双目标)优化问题,两个目标分别是||Ag-x||和||g||,含义是在这两个优化目标中找到一个权衡,使两个优化之和最小。第一项是通常意义上的参数估计的准则,第二项在估计领域可以认为是先验知识,||g||不是很大。L1-范数正则化的求解方法可以用二阶锥规划求解。

你可能感兴趣的:(参数估计之L1-范数正则化)