零散知识分享

lasso回归是L1正则化

岭回归才是L2正则化

lasso回归可以用作特征选取

机器学习的模型保存

import joblib
joblib.dump(model,'./iris.model')     # 模型保存
joblib.load('./iris.model')     # 模型加载

特征选择的方法

方差选择发

from sklearn.feature_selection import VarianceThreshold,chi2,SelectKBest
from sklearn.datasets import load_iris
x = load_iris()['data']
y = load_iris()['target']
vt = VarianceThreshold(threshold = 0.2     # 阈值
          )
vt.fit(x)
vt.transform(x).shape

卡方检验法

SelectKBest可以写的参数

• 回归：f_regression、mutual_info_regression
• 分类: chi2、f_classif、mutual_info_classif

skb = SelectKBest(chi2,k = 2)   # 必须包含y值
skb.fit(x,y)    # x值必须是正的
skb.transform(x)  
skb.get_feature_names_out()    # 打印出对应的列名

递归特征消除RFE