机器学习基础

了解机器学习的基本概念，如监督学习、无监督学习、强化学习、模型评估指标（准确率、召回率、F1分数等）。

机器学习（Machine Learning，ML）是人工智能（AI）的一个分支，它使计算机能够通过数据和经验自动改进，而无需明确编程。机器学习可以根据学习方式和数据的有无，分为以下几种基本类型：

1. 监督学习（Supervised Learning）

监督学习是一种机器学习类型，其中模型通过带标签的数据进行训练。每个训练样本都包括输入数据和对应的正确输出标签，模型的任务是学习输入与输出之间的映射关系。

• 应用场景：分类（如垃圾邮件检测、图像分类）和回归（如房价预测、温度预测）。
• 常见算法：线性回归、决策树、支持向量机（SVM）、随机森林、k-近邻（KNN）、神经网络等。

2. 无监督学习（Unsupervised Learning）

无监督学习是另一种机器学习方法，其中模型在没有标记数据的情况下进行训练。目标是挖掘数据中的潜在结构或模式。

• 应用场景：聚类（如客户细分、图像压缩）和降维（如PCA降维）。
• 常见算法：k-均值聚类、层次聚类、自编码器、主成分分析（PCA）等。

3. 强化学习（Reinforcement Learning, RL）

强化学习是一种通过与环境的互动来学习的机器学习方法。模型（通常被称为智能体）通过执行动作并观察结果（奖励或惩罚）来学习最优策略。

• 应用场景：游戏AI（如AlphaGo）、机器人控制、自动驾驶。
• 常见算法：Q学习、深度Q网络（DQN）、政策梯度方法等。

4. 模型评估指标

评估机器学习模型性能的指标有很多，常见的指标包括：

• 准确率（Accuracy）：

  • 定义：准确率是分类正确的样本占总样本数的比例。
  • 公式： Accuracy=TP+TNTP+TN+FP+FNAccuracy = \frac{TP + TN}{TP + TN + FP + FN} 其中，TP（True Positive）是真正例，TN（True Negative）是真负例，FP（False Positive）是假正例，FN（False Negative）是假负例。

• 召回率（Recall）（也叫敏感性或真正率）：

  • 定义：召回率是所有正类样本中被正确预测为正类的比例。
  • 公式： Recall=TPTP+FNRecall = \frac{TP}{TP + FN}

• 精确率（Precision）：

  • 定义：精确率是所有预测为正类的样本中，真正为正类的比例。
  • 公式： Precision=TPTP+FPPrecision = \frac{TP}{TP + FP}

• F1分数（F1 Score）：

  • 定义：F1分数是精确率和召回率的调和平均值，能够综合评估模型的精度和召回性能。
  • 公式： F1=2×Precision×RecallPrecision+RecallF1 = 2 \times \frac{Precision \times Recall}{Precision + Recall}

• ROC曲线和AUC（Area Under Curve）：

  • ROC曲线（Receiver Operating Characteristic Curve）用于评估二分类模型的性能，AUC（曲线下的面积）表示模型分类能力的总体水平。AUC值越接近1，表示模型越优秀。

其他指标：

• 特异性（Specificity）：对于负类样本中被正确分类为负类的比例，公式为：

  Specificity=TNTN+FPSpecificity = \frac{TN}{TN + FP}

• 均方误差（MSE）：用于回归问题，表示预测值与真实值之间的平均平方误差。

这些基本概念和评估指标可以帮助我们理解和评估机器学习模型的效果，在选择和调优模型时非常重要。