出现报错：Unknown label type: ‘continuous‘

在超参数优化中,这个错误表示你试图对一个连续型超参数使用choice函数。choice函数只支持离散的选项,而不能对连续值区间进行搜索。举个例子,下面这个代码会产生该错误:

space = {
    'C': hp.choice('C', [0.1, 0.3, 0.5, 0.7, 0.9])  # 错误,C应为连续区间
}

因为C作为正则化强度,应取0-1之间的连续值,而choice只支持离散选项[0.1, 0.3, ...]的搜索。 correct 方式应使用针对连续区间的函数,如:

- uniform:均匀分布搜索
- loguniform:对数均匀分布搜索
- normal:正态分布搜索

space = {
    'C': hp.loguniform('C', np.log(0.01), np.log(1))   # 正确,搜索0.01-1的连续区间
}

所以,根据超参数的取值类型,我们应选择相应的定义函数:- 离散选项:choice
- 连续区间:uniform / loguniform / normal
- 离散与连续混合:可以同时使用多个函数定义一个完整的例子如下:

space = {
    'C': hp.loguniform('C', np.log(0.01), np.log(1)),   # 连续 
    'penalty': hp.choice('penalty', ['l1', 'l2']),      # 离散
    'n_estimators': hp.choice('n_estimators', [50, 100, 150, 200]), # 离散
    'gamma': hp.loguniform('gamma', np.log(0.0001), np.log(0.1))   # 连续
}

这个搜索空间混合了连续与离散的超参数,使用相应的定义函数提供了更为合理的搜索范围。