贝叶斯超参数优化算法-学习笔记

本文介绍三个实现贝叶斯优化的库，分别是：

1. beyesian-optimization,实现基于高斯过程的贝叶斯优化，适合大量连续型参数构成，避免大量离散型参数
2. hyperopt，实现基于TPE的贝叶斯优化，不支持基于高斯过程的贝叶斯优化
3. optuna，实现基于各类算法的贝叶斯优化，代码简洁，灵活性好。

三个库的安装方法：

• beyes_opt

pip install bayesian-optimization
#conda install -c conda-forge beyesian-optimization
pip download -d bayesian bayesian-optimization #下载所有的依赖包

• Hyperopt

pip install hyperopt

• optuna

pip install optuna
#conda install -c conda forge optuna
pip insatll scikit-optimize #optuna辅助包安装