多项式特征

在使用单项式特征的时候,模型函数的型式是 y = a ∗ x + b ∗ y + c ∗ z + d y = a*x+b*y+c*z+d y=ax+by+cz+d,但我们还可以加入多项式作为新的特征,例如二项式增加以下特征 [ x ∗ y , x ∗ z , y ∗ z , x 2 , y 2 , z 2 ] [x*y,x*z,y*z,x^2,y^2,z^2] [xyxzyzx2y2z2]

多项式特征_第1张图片

在网络搜索中使用:

from sklearn.pipeline import Pipeline
from sklearn.preprocessing import PolynomialFeatures
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import GridSearchCV

pip_params = {'poly_features__degree':[1,2,3],'poly_features__interaction_only':[True,False],'classify__n_neighbors':[3,4,5,6]}

poly = PolynomialFeatures(include_bias=False)
knn = KNeighborsClassifier()
pipe = Pipeline([('poly_features',poly),('classify',knn)])

grid = GridSearchCV(pipe,pip_params)
grid.fit(x,y)

print(grid.best_score_,grid.best_params_)

你可能感兴趣的:(特征工程,机器学习)