文章目录与概览

摘要

随机动力学是一门结合概率论与数值分析方法研究承受随机载荷的机械与结构系统的稳定性、响应以及可靠性的技术学科 [1]。随机振动在日常生活中无处不在，包括大气湍流、风中湍流、喷漆噪声等，通常称作为随机振源（随机激励/随机噪声）。随机激励包括内在激励与外在激励，也分别称为随机参编激励与强迫激励。随机动力学的研究可为改善承受随机载荷的机械或结构的可靠性提供理论基础和帮助。

机器学习是一门多学科交叉专业，涵盖概率论知识，统计学知识，近似理论知识和复杂算法知识，使用计算机作为工具并致力于真实实时的模拟人类学习方式，并将现有内容进行知识结构划分来有效提高学习效率 [2]。机器学习是用数据或以往的经验，以此优化计算机程序的性能标准。随着测量工具与仿真软件的发展，模型的数据量越来越大，对于一些无法使用解析方法分析的数学模型，人们期望通过机器学习的方法从数据中寻找模型的规律——在动力学中视为现象、行为等——包括但不限于模型近似方程、模型降维形态。随机动力学新分支，数据驱动自此兴起。

本博客旨在学习与交流机器学习(Machine Learning)、深度学习(Deep Learning)、优化之相关方法以及随机动力学分析的部分解析方法以及数值方法。目的在于科研所需，一是复现论文所需，二是撰写论文所求。博客所涉仅是机器学习或是数据挖掘，随机动力学中较窄范围，根据自己后续所学，将会对以下目录进行扩展并撰写成文，供大家交流。

机器学习

MySQL

• MySQL理论
• MySQL使用

python

• Numpy库
• Pandas库
• Matplotlib库
• Scipy库
• Sklearn库

算法

• 数据切分与拟合问题
• 线性回归与sklearn的使用
• SVD与PCA
• 逻辑回归未分类与softmax多分类
• K近邻算法以及KD-Tree
• 聚类算法介绍
• 贝叶斯算法介绍
• 熵值法、灰色关联分析、层次分析法
• 决策树介绍
• 随机森林介绍
• Adaboost与GBDT
• 最大期望值算法与高斯混合模型(GMM)
• 支持向量机算法介绍(SVM)
• LightGBM介绍
• Xgboost介绍
• 前馈神经网络/感知器算法（MLP）
• 卷积神经网络
• 循环神经网络
• 长短期记忆神经网络（LSTM）
• 玻尔兹曼机介绍

优化方法

• 梯度下降
• 全梯度下降
• 小批量随机梯度下降
• 随机梯度下降
• 共轭梯度下降
• 牛顿法
• BFGS
• AdaGrad
• RMSProp
• Adam

随机动力学

理论与解析分析

• 常微分方程基础理论
• 随机微分方程
• 蒙特卡罗模拟
• 欧拉法、四阶龙格库塔
• 标准随机平均法
• 多尺度方法
• 有限差分法

数据驱动

• 非线性动力系统的稀疏识别
• 逐步稀疏回归
• 识别系统的稳态概率密度函数
• 识别系统慢变过程

Reference

[1] Zhu WQ. 随机振动.
[2] Li HP. 基于机器学习方法的智能机器人探究.
[3] Zhou ZH. 机器学习.
[4]