baidu进阶训练笔记十20200728

百度Apollo规划技术介绍（三）

optimization inside motion planning

• 动态规划通过类似于有限元的方式，把问题从连续空间抽象成离散空间，然后在离散空间中进行优化。虽然这种方法可以逼近连续空间中的最优解，但是计算复杂度很高。针对计算时间长的问题，可以使用牛顿方法进行优化，它的收敛次数是指数平方，也叫二次收敛

• 牛顿法

  • 求解速度非常快
  • 思想：用 Taylor 展开逼近，但是它的求解过程涉及更复杂的情况。因为二次规划方法并不一定是处理一维问题，可能涉及更高阶求导。在实践中，二阶导数基本可以满足问题需求。
  • 牛顿法要求 locally convex 才能保证收敛，也就是导数是严格单调递增的。但是一般函数并没有这样的特性，动态规划或二次规划都无法获得全局最优解。为了解决这样的问题，通常使用启发式搜索方法

• 二次规划也涉及牛顿法与泰勒逼近

• 处理函数形式比较复杂或者更高阶情况的时候，二次规划与牛顿法都不适用

  • divide conquer，分段，牛顿法求每一段的最优解，然后进行比较

divide conquer

解决函数的组合优化用到的一个很重要的思想

以撒的点中最小的点作为牛顿法迭代的起始点—>hot start—>QP problem,就可以以更大的概率收敛到gobal Minima,即启发式搜索

• 首先通过动态规划方式对整个问题有一个粗浅的认识，然后通过二次规划进行细化。这种启发式搜索方法也是目前百度 Apollo 的 EM 算法的核心思想。这种方法和人开车的过程是一样的，通常驾驶员会先形成一个大概的指导思想，指明往什么方向开，然后再规划一条最优路径

一个二次规划问题会写成一个二次函数

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-SG8psZF0-1595923700152)(C:\Users\xiaomeiyan\AppData\Roaming\Typora\typora-user-images\image-20200728154653035.png)]

其中，X 是向量参数，Q 是一个对称的正定矩阵， cTx是偏差项。对于这种没有约束的二次规划问题，只需要求导数等于0的那个点，使得 Qx=−C ，即可求解二次规划问题。这是一个线性方程组，它的求解速度是 O（N3）

对于有约束条件的二次规划问题（带等式条件的QP）

• Lagrangian method

增加了松弛变量，把松弛变量放入到Function中，把Equality去掉

每增加一个与线性无关的constraint，可行空间降了一个维度，增加了很多问题

• active set method

带不等式的约束条件，最优解可能落在边界上（active constraint）

边界的性质：inequality constraint会变成equality constraint，x>=3的条件就变成了了x=3这个条件

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Te2oRImc-1595923700154)(C:\Users\xiaomeiyan\AppData\Roaming\Typora\typora-user-images\image-20200728160322851.png)]

KKT condition

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-F7xKbrgJ-1595923700156)(C:\Users\xiaomeiyan\AppData\Roaming\Typora\typora-user-images\image-20200728160104358.png)]

现在求解所有的QP都是从KKT condition出发

总结

对于求解非线性优化问题（自动驾驶中的规划基本都是非线性的），通常就是用启发式方法来求解。先用动态规划给出一个粗略解，给出一个凸空间。然后用二次规划方法在凸空间里去寻找最优解

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jXVB4dYd-1595923700158)(C:\Users\xiaomeiyan\AppData\Roaming\Typora\typora-user-images\image-20200728160629550.png)]