体系化学习运筹学基础算法的实践和总结
文章目录
- 引言
- 目标设计
- 目标实践
- 文章汇总
- 经验总结
- 一则预告
引言
眨眼间已经12月了，眼看着2023年马上要过完了。
女朋友最近总说，工作以后感觉时间过的好快。事实上，我也是这么认为的。年纪越大，越会担心35岁危机的降临。所以，人还是应该持续学习和进步的。具体来说，就是在工作时间之外，每年都能有一些关于自身的成长。
23年初，我给自身成长设置了一系列目标，其中之一就是体系化。这里的体系化，主要包含两项，第一项是运筹学基础算法的体系化，第二项是机器学习算法的体系化。到了年尾，应该为一年的工作做一个总结了。
本文将着重分享今年在第一项（运筹学基础算法）上的实践和总结，后续文章将再聊另外一个内容。
正文见下。
目标设计
科学体系化的方式，私以为应该是参考各种专业书的目录，然后结合自己的认知，做个性化设计。 举个例子，《运筹学》（清华大学出版社）这本书是直接从线性规划问题开始的，但是求解线性规划问题的单纯形法，对我来说已经比较复杂，不能算入门了。
下图是我今年初给自己安排的体系化学习目标。
我认为，学习过程要从简单到复杂。而最简单的运筹问题，应该是一维无约束问题，在此基础上再提升问题维度和增加不同类型的约束条件。这些内容，在我年初的体系化学习目标中被归类为非线性规划模块。现在想来，“非线性规划”这个模块的标题并不是很准确，不过也没想到更好的，就继续用这个吧。
理解了以上普适性较好的基本算法体系后，我觉得才适合来研究线性/整数规划这一类在实际业务中被广泛研究的问题和对应的求解算法。
除了非线性规划、线性规划和整数规划外，还要学习智能优化算法的主要原因，是我觉得这些算法的改进尝试中，针对迭代方向和迭代步长的设计很有艺术感，虽然缺乏严格的数学证明，但在实践中已经被证明为非常有效的手段。
目标实践
对于大部分算法，我给自己预设的目标是两周学习完，这样最终评估下来能有19周的剩余时间。
从剩余时间来说，我给自己安排的计划，算是比较宽松的。我一直觉得，工作和学习应该是为生活服务的，如果发生了冲突，那幸福的生活体验应该放在第一位。所以我从一开始就没想着给自己太大的压力，如果觉得有些累了，偷懒玩游戏、看视频，甚至只是无聊发呆，也不会有太大的负罪感。
实际也是如此——从完成度来看，我最后一篇文章是VNS，11月12号完成的，距离12月31号只剩6周，也就是说我在年中的时候荒废了13周左右的时间。
我对算法学习完成的定义是，写一篇与算法内容对应的文章，里面至少应该包含2个模块：
第一个是用自己的逻辑描述清楚算法原理。我对自己的要求是，让算法小白都能看懂内容，如果未来真的有机会教书育人，这应该是我宝贵的财富了；
第二个是自己编写代码实现算法全过程。我对自己的要求是，分别用Python和Java编程实现，以验证自己是否真的理解了算法原理，同时提升代码能力。
从实际完成度来看，每一个算法相关的文章都算是及格了。对算法原理的描述，我还是比较满意的，特别是收到小伙伴们的暖心评论和留言时，都会备受鼓舞。在代码实现方面，并没有达到预期，开始阶段一些简单的算法还能用Python和Java分别实现，到了中后期算法复杂度提升后就有些力不从心了。在认清现实后，我去掉了使用Java实现算法过程的目标。针对特别复杂的算法，甚至都不要求自己手写了。
看，我就是这么容易和自己和解。
文章汇总
本节汇总了近一年运筹学基础算法的相关文章和链接，并按照此前的目标设计进行了分类。
| 分类 | 文章和链接 |
|---|---|
| 非线性规划-黄金分割法 | Python和Java代码实现：黄金分割法求解一维最优化问题 |
| 非线性规划-切线法 | Python和Java代码实现：切线法求解一维最优化问题 |
| 非线性规划-坐标轮转法 | Python代码实现：坐标轮换法求解多维最优化问题 |
| 非线性规划-梯度类算法 | 梯度类算法原理：最速下降法、牛顿法和拟牛顿法 拟牛顿法：python代码实现 |
| 非线性规划-间接法 | 求解包含约束的最优化问题：拉格朗日乘子法和KKT条件 |
| 非线规划-直接法 | 求解包含约束的最优化问题：罚函数法 |
| 线性规划-单纯形法 | 线性规划和单纯形法-原理篇 线性规划模型-工程应用篇 |
| 线性规划-整数规划 | 求解整数规划问题的割平面法和分支定界法 稍微憋个招，聊聊为什么不能止步于会调求解器 |
| 线性规划-对偶问题 | 线性规划对偶问题：理论推导和实际应用 |
| 智能优化-DE | 差分进化算法，依旧强势 |
| 智能优化-ACO | 蚁群算法求包含34个国内城市的TSP，和最优解相差没那么大 |
| 智能优化-ALNS | 着实不错的自适应大邻域搜索算法ALNS |
经验总结
关于这一年来对于运筹算法的学习和感悟，总结如下：
首先，这些算法在运筹学中算是基础内容。通过对这些知识点的学习和总结，我自身受益匪浅，在一定程度上弥补了我因为非科班出身导致基础知识储备的欠缺。不过这只是一个开始，随着认知的提升，可能会发现未知的内容也越来越多，后续还有很多内容需要去慢慢探索。
其次，在学习上我是偏应用导向的。当初选择运筹学作为自己未来长期从事的行业，主要是觉得把这些算法策略应用到实际场景中能带来极大的成就感，所以我不太会执着于理论上的推导，在学习知识时，会优先选择工业实践中最常用的运筹算法，并辅以部分基础的算法原理，以知其然并知其所以然。
最后，这些知识点的串联方式是基于我目前的认知。图中的分类仅依赖于我当前体系化学习的实践路径，算不上权威，可以作为大家构建自己知识体系的参考。
一则预告
明年运筹优化领域的文章主题，偷偷预告一下，大概率是随机优化和鲁棒优化，即，模型输入存在不确定性情况下的最优决策。
具体的学习路径，我还没思考清楚——当然了，即使已经想清楚了，我也不会直接公开出来，大概率会类似于这样，等明年年底总结吧！
最后的最后，愿大家都能持之以恒地做一件件小事，慢慢努力，惊艳众人。