为什么LR适用于离散型特征？

LR一般需要连续特征离散化原因：

• 1. 离散特征的增加和减少都很容易，易于模型快速迭代；
• 2. 稀疏向量内积乘法速廈快，计算结果方便存储，容易扩展；
• 3. 离散化的特征对异常数据有很强的鲁棒性(比如年龄为300异常值可归为年龄>30这一段)；
• 4. 逻辑回归属于广义线性模型，表达能力受限。单变量离散化为N个后，每个变量有单独的权重，相当于对模型引入了非线性，能够提升模型表达能力，加大拟合；
• 5. 离散化进行特征交叉，由 M+N 个变量为M*N个变量(将单个特征分成M个取值)，进一步引入非线性，提升表达能力;
• 6. 特征离散化后，模型会更稳定(比如对用户年龄离散化，20-30作为一个区间，不会因为用户年龄，增加一岁变成完全不同的人;

我们都说GBDT不能用离散特征不是因为它处理不了离散特征，而是因为离散化特征后会产生特别多的特征，决策树的叶子节点过多，遍历的时候太慢了。 所以海量离散特征＋LR是业内常见的一个做法。而少量连续特征+复杂模型是另外一种做法，例如GBDT。

李沐大佬指出，模型是使用离散特征还是连续特征，其实是一个“海量离散特征+简单模型” 同 “少量连续特征+复杂模型”的权衡。既可以离散化用线性模型，也可以用连续特征加深度学习。就看是喜欢折腾特征还是折腾模型了。通常来说，前者容易，而且可以n个人一起并行做，有成功经验；后者目前看很赞，能走多远还须拭目以待。

参考：
https://blog.csdn.net/yang090510118/article/details/39478033
https://testerhome.com/topics/11064/show_wechat