支持向量机（SVM）的超参数调整 C 和 Gamma 参数

作者：CSDN @ _养乐多_

支持向量机（Support Vector Machine，SVM）是一种广泛应用的监督式机器学习算法。它主要用于分类任务，但也适用于回归任务。在本文中，我们将深入探讨支持向量机的两个重要参数：C和gamma。在阅读本文前，我假设您对该算法有基本的了解，并专注于这些参数。

大多数机器学习和深度学习算法都有一些可以调整的参数，称为超参数。我们需要在训练模型之前设置超参数。超参数在构建健壮且准确的模型方面非常重要。它们帮助我们在偏差和方差之间找到平衡，从而防止模型过拟合或欠拟合。为了能够调整超参数，我们需要了解它们的含义以及它们如何改变模型。随机尝试一堆超参数值将是一项繁琐且永无止境的任务。

我们强调了超参数的重要性。让我们开始讨论C和gamma。SVM创建一个决策边界，用于区分两个或多个类别。如何绘制或确定决策边界是SVM算法中最关键的部分。当不同类别的数据点线性可分时，绘制决策边界是一项容易的任务。

图1 Linearly separable data points

然而，实际数据通常是带有噪声且不是线性可分的。标准的支持向量机试图将所有正例和负例（即两个不同的类别）分开，并且不允许出现任何误分类点。这导致了一个过拟合的模型，或者在某些情况下，无法使用标准的支持向量机找到决策边界。