David_Hdw

机器学习之支持向量机(Support Vector Machines)

支持向量机(Support Vector Machines, SVM)是一种二分类模型。其基本模型是定义在特征空间上的间隔最大化的线性分类器，通过引入核技巧的方式，可以实现非线性分类。支持向量机的学习策略就是间隔最大化。

间隔最大化的直观解释是：对训练数据集找到几何间隔最大的超平面意味着以充分大的确信度对训练数据进行分类。也就是说，不仅将正负实例分开，而且最难分的实例点(离超平面最近的点)也有足够大的确信度将他们分开。

下面我们就由简如繁地来认识一下支持向量机。

一、线性可分支持向量机

假设给定一个特征空间上的训练数据集

$D=\left \{ (x_1,y_1),(x_2,y_2),...,(x_m,y_m) \right \},{\ \ }y_i\epsilon \left \{ +1, -1 \right \}$

假设该数据集是线性可分的。分类学习最基本的想法就是基于训练数据集D在特征空间(样本空间)上找到一个划分超平面，将不同类别的样本分开。划分超平面对应于方程，它由法向量和截距b决定，法向量决定的划分超平面的方向，二截距b则决定了超平面与原点的距离。

线性可分支持向量机利用间隔最大化求最优划分超平面。如上图，对于给定的数据集，可以找到很多的划分超平面，但不难看出图中重黑的超平面才是间隔最大化的划分超平面。

线性可分支持向量机的定义为：给定线性可分训练数据集，通过间隔最大化或等价地求解相应的凸二次规划问题学习得到的划分超平面为，以及的相应的决策函数为，称为线性可分支持向量机。

支持向量机的学习策略是间隔最大化。那么说的是什么间隔呢？

函数间隔与几何间隔

在上图中，A,B,C三点表示三个实例，均在划分超平面的正类一侧，A离划分超平面较远，如预测为正类，就比较确信预测是正确的；点C离距离超平面较近，如预测为正类就没有那么确信。一般来说，一个点离划分超平面的远近可以表示为分类预测的确信程度。在划分超平面确定的情况下，能够相对地表示点x距离超平面的远近。而的符号与类标记y是否相同能够表示分类是否正确。所以可以用来表示分类的正确性及确信度，这就是函数间隔的概念。

函数间隔的定义：对于给定的训练数据集D和超平面(w,b),定义超平面关于点的函数间隔为

$\hat{\gamma _i}=y_i(w^Tx_i+b)$

定义超平面(w,b)关于训练数据集D的函数间隔为超平面(w,b)关于D中所有样本点的函数间隔最小的值，即

$\hat{\gamma }=\underset{i=1,2,..,m}{min}\hat{\gamma }_i$

函数间隔可以表示分类正确性与确信度，但是只要成比例地改变w和b，那么函数间隔也会以相同的比例改变，而划分超平面却没有改变。所以函数间隔不适用在间隔最大化中。所以我们对划分超平面的法向量w加某些条件，如规范化，使得间隔是确定的，这时函数间隔成为几何间隔(geometric margin)

几何间隔的定义：对于给定的训练数据集D和超平面(w,b),定义超平面关于点的几何间隔为

$\gamma _i=y_i(\frac{w}{||w||} \cdot x_i+ \frac{b}{||w||})$

定义超平面(w,b)关于训练数据集D的几何间隔为超平面(w,b)关于D中所有样本点的几何间隔最小的值，即

$\gamma =\underset{i=1,2,...,m}{min}\gamma _i$

由函数间隔和几何间隔的定义可知，他们有着如下的关系：

$\gamma =\frac{\hat{\gamma }}{||w||}$

如果超平面的参数w和b成比例改变时，超平面不变，函数间隔按相同比例改变，而几何间隔不变。

间隔最大化

支持向量机学习的基本想法是求解能够正确划分训练数据集并且几何间隔最大的划分超平面。在线性可分支持向量机中的间隔最大化又称为硬间隔最大化。

间隔最大化的直观解释就是：对训练数据集找到几何间隔最大的超平面意味着以充分大的确信度对训练数据进行分类。也就是说，不仅将正负实例分开，而且对最难分的实例点(离超平面最近的点)也有足够大的确信度将他们分开。

求一个几何间隔最大的分离超平面，即最大间隔超平面。具体的，可以转化为下面的约束最优化问题：

$\underset{w,b}{max} {\ \ \gamma }$

$s.t. {\ \ }y_i(\frac{w^Tx_i+b}{||w||})\geq \gamma {\ \ , \ \ i=1,2,...,m}$

也就是希望最大化超平面(w,b)关于训练数据集D的几何间隔 $\gamma$ ，约束条件的意思是超平面(w,b)关于每个训练样本的几何间隔都要大于或等于 $\gamma$ 。

由函数间隔与几何间隔的关系，可以将问题改写成

$\underset{w,b}{max} {\ \ \frac{\hat{\gamma }}{||w||}}$

$s.t. {\ \ }y_i(w^Tx_i+b)\geq \hat{\gamma} {\ \ , \ \ i=1,2,...,m}$

又因为函数间隔的取值不影响最优化问题，因为函数间隔的大小不影响几何间隔的大小，而我们的目的是几何间隔最大化。所以为方便计算令函数间隔 $\hat{\gamma }=1$ ，并带入上式中，发现最大化 $\frac{1}{||w||}$ 与最小化 $\frac {1}{2}||w||^2$ 是等价的，于是优化问题可以转化成如下：

$\underset{w,b}{min}\ \ \frac{1}{2}||w||^2$

$s.t. {\ \ }y_i(w^Tx_i+b)-1\geq 0 {\ \ , \ \ i=1,2,...,m}$

这就是支持向量机(Support Vector Machines, SVM)的基本型。

支持向量与间隔边界

在线性可分的情况下，训练数据集的样本点中与划分超平面距离最近的样本点的实例称为支持向量(support vector)，支持向量是使上述优化问题的约束条件中等号成立的点，即

上图中，使用圆圈圈起来的点就是支持向量，而两个不同类别的支持向量到达划分超平面的距离之和为 $\frac{2}{||w||}$ ,称为间隔，而支持向量所在的超平面，也就是距离划分超平面的为 $\frac{1}{||w||}$ 的两边的超平面称为间隔边界。

在决定划分超平面时只有支持向量机起作用，而其他实例点并不起作用。支持向量的个数一般很少，所以支持向量机由很少“重要的”训练样本确定。

学习的对偶算法

对于上面我们的优化问题(几何间隔最大)：

$\underset{w,b}{min}\ \ \frac{1}{2}||w||^2$

$s.t. {\ \ }y_i(w^Tx_i+b)-1\geq 0 {\ \ , \ \ i=1,2,...,m}$

是一个凸二次优化问题，可以直接使用现成的优化计算包来计算。但却可以使用更加高效的方法：应用拉格朗日对偶性，通过求解对偶问题得到原始问题的最优解。

转化为对偶问题的优点：

对偶问题往往更容易求解
自然的引入核函数，进而推广到非线性分类问题。

首先，构建拉格朗日函数(Lagrange function)。也就是对每一个约束条件不等式引进拉格朗日乘子

$\alpha _i\geq 0,\ \ i=1,2,...,m$

则该优化问题的拉格朗日函数为(不等式两边：减去大于号那边，加上小于号那边)

$L(w,b,\alpha )=\frac{1}{2}||w||^2-\sum_{i=1}^{m}\alpha _iy_i(w^Tx_i+b)+\sum_{i=1}^{m}\alpha _i$

其中 $\alpha=(\alpha _1,\alpha _2,...,\alpha _m)^T$ 为拉格朗日乘子向量。

根据拉格朗日对偶性，原始问题的对偶问题是极大极小问题：

$\underset{\alpha }{max} \ \underset{w,b}{min} {\ L(w,b,\alpha )}$

所以，为了得到问题的解，需要先求 $L(w,b,\alpha )$ 对w,b的极小，再求对 $\alpha$ 的极大。

(1)求 $L(w,b,\alpha )$ 对w,b的极小

因为极小值的导数为0，所以我们一般在求解极小值时，先求导，再令导数为0。即将拉格朗日函数 $L(w,b,\alpha )$ 分别对w,b求偏导数并令其等于0。

由 $\frac{\partial x^TA}{\partial x}=A$ 得，

$\frac{\partial L(w,b,\alpha )}{\partial w}=\frac{\partial (\frac{1}{2}||w||^2-\sum_{i=1}^{m}\alpha _iy_i(w^Tx_i+b)+\sum_{i=1}^{m}\alpha _i)}{\partial w}=w-\sum_{i=1}^{m}\alpha _iy_ix_i$

$\frac{\partial L(w,b,\alpha )}{\partial b}=\frac{\partial (\frac{1}{2}||w||^2-\sum_{i=1}^{m}\alpha _iy_i(w^Tx_i+b)+\sum_{i=1}^{m}\alpha _i)}{\partial b}=-\sum _{i=1}^{m}\alpha _iy_i$

所以，令导数为0有：

$w-\sum_{i=1}^{m}\alpha _iy_ix_i=0\ \ ===>{\ \ w=\sum_{i=1}^{m}\alpha _iy_ix_i}$

$-\sum _{i=1}^{m}\alpha _iy_i=0 {\ \ }===> {\ \ }\sum _{i=1}^{m}\alpha _iy_i=0$

将上面对w,b求导并令其为0得到的结果带回 $L(w,b,\alpha )$ ,即可得到第一的极小值，结果为：

$L(w,b,\alpha )=\frac{1}{2}||w||^2-\sum_{i=1}^{m}\alpha _iy_i(w^Tx_i+b)+\sum_{i=1}^{m}\alpha _i$

$L(w,b,\alpha )=\frac{1}{2}w^Tw-\sum_{i=1}^{m}\alpha _iy_iw^Tx_i-\sum_{i=1}^{m}\alpha _iy_ib+\sum_{i=1}^{m}\alpha _i$

$L(w,b,\alpha )=\frac{1}{2}w^T\sum_{i=1}^{m}\alpha _iy_ix_i-\sum_{i=1}^{m}\alpha _iy_iw^Tx_i-\sum_{i=1}^{m}\alpha _iy_ib+\sum_{i=1}^{m}\alpha _i$

$L(w,b,\alpha )=-\frac{1}{2}w^T\sum_{i=1}^{m}\alpha _iy_ix_i-b\sum_{i=1}^{m}\alpha _iy_i+\sum_{i=1}^{m}\alpha _i$

$L(w,b,\alpha )=-\frac{1}{2}(\sum_{i=1}^{m}\alpha _iy_ix_i)^T\sum_{i=1}^{m}\alpha _iy_ix_i-b\sum_{i=1}^{m}\alpha _iy_i+\sum_{i=1}^{m}\alpha _i$

注：因为 $\alpha _i$ ，都是实数，不是向量，所以其转置运算结果为自身。

$L(w,b,\alpha )=-\frac{1}{2}\sum_{i=1}^{m}\alpha _iy_ix_i^T\sum_{i=1}^{m}\alpha _iy_ix_i-b\sum_{i=1}^{m}\alpha _iy_i+\sum_{i=1}^{m}\alpha _i$

$L(w,b,\alpha )=-\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{m}\alpha _i\alpha _jy_iy_jx_i^Tx_j-b\sum_{i=1}^{m}\alpha _iy_i+\sum_{i=1}^{m}\alpha _i$

因为 $\sum _{i=1}^{m}\alpha _iy_i=0$ ，所以

$\underset{w,b}{min}\ L(w,b,\alpha )=-\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{m}\alpha _i\alpha _jy_iy_jx_i^Tx_j+\sum_{i=1}^{m}\alpha _i$

(2)求 $\underset{w,b}{min}\ L(w,b,\alpha )$ 对 $\alpha$ 的极大，即是对偶问题

$\underset{\alpha }{max} {\ }-\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{m}\alpha _i\alpha _jy_iy_jx_i^Tx_j+\sum_{i=1}^{m}\alpha _i$

$s.t. {\ \ }\sum _{i=1}^{m}\alpha _iy_i=0$

$\alpha _i\geq 0,{\ \ }i=1,2,...,m$

也就是如下的求最小问题(人们习惯于求解最小问题)：

$\underset{\alpha }{min} {\ }\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{m}\alpha _i\alpha _jy_iy_jx_i^Tx_j-\sum_{i=1}^{m}\alpha _i$

$s.t. {\ \ }\sum _{i=1}^{m}\alpha _iy_i=0$

$\alpha _i\geq 0,{\ \ }i=1,2,...,m$

解出 $\alpha$ 后，求出w,b即可得到分类模型：

其中为解，表达式如下：

$w^*=\sum _{i=1}^{m}\alpha _i^*y_ix_i$

那么如何求解呢？因为任意支持向量都有，即

$y_s(\sum _{i\epsilon S}\alpha _i^*y_ix_i^Tx_s+b)=1$

其中 $S=\left \{ i|\alpha _i> 0,i=1,2,...,m \right \}$ 为所有支持向量的下标。可以选择支持向量并通过求解上式得到，但现实任务中常采用一种更鲁棒的做法：使用所有支持向量求解平均值

$b^*=\frac{1}{|S|}\sum _{s\epsilon S}(y_s-\sum _{i\epsilon S=1}\alpha _i^*y_i(x_i^Tx_s))$

那么划分超平面可以表示为：

$\sum _{i=1}^{m}\alpha _i^*y_i(x_i^Tx)+b^*=0$

从对偶问题解出的 $\alpha _i$ 是拉格朗日乘子，其恰恰对应着样本点。注意到原问题的约束条件：

$\underset{w,b}{min}\ \ \frac{1}{2}||w||^2$

$s.t. {\ \ }y_i(w^Tx_i+b)-1\geq 0 {\ \ , \ \ i=1,2,...,m}$

中有不等式约束，所以上面的对偶方法过程需要满足KKT(Karush-Kuhn-Tucher)条件，即

$\alpha _i\geq 0$

$y_i(w^Tx_i+b)-1\geq 0$

$\alpha _i(y_i(w^Tx_i+b)-1)= 0$

综上所述，对于给定的线性可分训练数据集，可以首先求对偶问题的解 $\alpha ^*$ ，在求得，从而得到划分超平面及分类决策函数。这种方法称为线性可分支持向量机的对偶学习算法，是线性可分支持向量机的基本学习方法。

在线性可分支持向量机中，由

$w^*=\sum _{i=1}^{m}\alpha _i^*y_ix_i$

$b^*=\frac{1}{|S|}\sum _{s\epsilon S}(y_s-\sum _{i\epsilon S=1}\alpha _i^*y_i(x_i^Tx_s))$

两式可知，只依赖于训练数据中对应 $\alpha _i^*> 0$ 的样本点，而其他样本点对没有影响，所以训练数据集中 $\alpha _i^*> 0$ 对应的样本点为支持向量，即这些样本点在间隔边界上。

二、线性支持向量机

在上一小结的线性可分支持向量机中，我们假设给定的训练数据集是线性可分的，但往往很多数据是线性不可分的，此时，上面的线性可分支持向量的约束条件将不能满足。那么，如何才能够将它扩充到线性不可分的问题呢？这就需要修改硬间隔最大化，使其成为软件个最大化。

如上图，红色圈圈起来的点即为一些不满足约束条件：

$y_i(w^Tx_i+b)-1\geq 0 {\ \ , \ \ i=1,2,...,m}$

的点，即这些点不能满足函数间隔大于等于1的约束条件。为了解决这个问题，可以对每个样本点引进一个松弛变量 $\xi _i\geq 0$ ，使得函数间隔加上松弛变量后大于等于1.如此，则约束条件变为：

$y_i(w^Tx_i+b)\geq 1-\xi _i$

同时，我们对每个松弛变量 $\xi_i$ ，支付一个代价 $\xi _i$ 。那么目标函数由原来的 $\frac{1}{2}||w||^2$ 变成

$L = \frac{1}{2}||w||^2+C\sum _{i=1}^{m}\xi _i$

其中为惩罚参数，一般由应用问题决定，C值大时对误分类的惩罚增大，C值小时对误分类的惩罚减小，即对于同一个样本点的松弛变量 $\xi _i$ ，C值越大则目标函数(损失函数)的值越大，C值越小则目标函数的值越小。对于该最小化目标函数，包含两层含义：

使得 $\frac{1}{2}||w||^2$ 尽量小，即间隔尽量大
使误分类点的个数尽量小，C为这两者的调和。

此时，我们可以像考虑线性可分支持向量机一样考虑线性支持向量机，相应的硬间隔最大化，称为软间隔最大化。

那么，我们的原始优化(学习)问题(硬间隔最大化)：

$\underset{w,b}{min}\ \ \frac{1}{2}||w||^2$

$s.t. {\ \ }y_i(w^Tx_i+b)-1\geq 0 {\ \ , \ \ i=1,2,...,m}$

变成了软间隔最大化问题：

$\underset{w,b,\xi }{min}\ \ \frac{1}{2}||w||^2+C\sum_{i=1}^{m}\xi _i$

$s.t. {\ \ }y_i(w^Tx_i+b)\geq 1 -\xi _i{\ \ , \ \ i=1,2,...,m}$

$\xi _i\geq 0,{\ \ }i=1,2,...,m$

学习的对偶算法

对于硬间隔最大化的原始问题的对偶问题为：

$\underset{\alpha }{min} {\ }\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{m}\alpha _i\alpha _jy_iy_jx_i^Tx_j-\sum_{i=1}^{m}\alpha _i$

$s.t. {\ \ }\sum _{i=1}^{m}\alpha _iy_i=0$

$\alpha _i\geq 0,{\ \ }i=1,2,...,m$

那么对于软间隔最大化的原始问题的对偶问题呢？其拉格朗日函数为：

$L(w,b,\xi ,\alpha ,\mu )=\frac{1}{2}||w||^2+C\sum _{i=1}^{m}\xi _i-\sum _{i=1}^{m}\alpha _i(y_i(w^Tx_i+b)-1+\xi _i)-\sum _{i=1}^{m}\mu _i\xi _i$

(1) 求 $L(w,b,\xi ,\alpha ,\mu )$ 对 $w,b,\xi$ 的极小

对 $w,b,\xi$ 求导并令导数为0得

$\frac{\partial L(w,b,\xi ,\alpha ,\mu )}{\partial w}=w-\sum _{i=1}^{m}\alpha _iy_ix_i=0$

$\frac{\partial L(w,b,\xi ,\alpha ,\mu )}{\partial b}=-\sum _{i=1}^{m}\alpha _iy_i=0$

$\frac{\partial L(w,b,\xi ,\alpha ,\mu )}{\partial \xi _i}=C-\alpha _i-\mu_i=0$

可以得到

$w=\sum _{i=1}^{m}\alpha _iy_ix_i$

$\sum _{i=1}^{m}\alpha _iy_i=0$

$C-\alpha _i-\mu_i=0$

把上述结果带入 $L(w,b,\xi ,\alpha ,\mu )$ 得到

$\underset{w,b,\xi}{min}{\ }L(w,b,\xi ,\alpha ,\mu )=-\frac{1}{2}\sum_{i=1}^m\sum_{j=1}^m\alpha _i\alpha _jy_iy_jx_i^Tx_j+\sum_{i=1}^m\alpha _i$

(2)求 $\underset{w,b,\xi}{min}{\ }L(w,b,\xi ,\alpha ,\mu )$ 对 $\alpha$ 的极大并变号转成求极小，即得对偶问题

$\underset{\alpha }{min}{\ \ }\frac{1}{2}\sum_{i=1}^m\sum_{j=1}^m\alpha _i\alpha _jy_iy_jx_i^Tx_j-\sum_{i=1}^m\alpha _i$

$s.t. {\ \ \ }\sum _{i=1}^m\alpha _iy_i=0$

$C-\alpha _i-\mu _i=0$

$\alpha _i\geq 0$

$\mu _i\geq 0 ,{\ \ }i=1,2,...,m$

由约束条件可知 $\mu _i=C-\alpha _i$ ，所以优化问题转化成

$\underset{\alpha }{min}{\ \ }\frac{1}{2}\sum_{i=1}^m\sum_{j=1}^m\alpha _i\alpha _jy_iy_jx_i^Tx_j-\sum_{i=1}^m\alpha _i$

$s.t. {\ \ \ }\sum _{i=1}^m\alpha _iy_i=0$

$0\leq \alpha _i\leq C,{\ \ }i=1,2,...,m$

支持向量

由前面我们知道 $\alpha ^*=(\alpha _1^*,\alpha _2^*,...,\alpha _m^*)^T$ 中的对应于 $\alpha _i^*> 0$ 的样本点的实例称为支持向量(软间隔的支持向量）。

上图中，划分超平面有实线给出，间隔边界由虚线表示，圆表示正，打叉表示负。软间隔的支持向量或者在间隔边界上，或者在间隔边界与划分超平面之间，或者在划分超平面的另一侧。

由 $\alpha _i(y_if(x_i)-1+\xi _i)=0$ 可知，总有 $\alpha _i=0$ 或者 $y_if(x_i)=1-\xi _i$ ，当 $\alpha _i=0$ 时，该样本点不会对有任何影响。

若 $\alpha _i^*<C$ ，则 $\xi _i=0$ ，支持向量恰好落在间隔边界上；
若 $\alpha _i^*=C,0<\xi _i<1$ ，则分类正确，支持向量在间隔边界与划分超平面之间；
若 $\alpha _i^*=C,\xi _i=1$ ，则支持向量在划分超平面上；
若 $\alpha _i^*=C,\xi _i> 1$ ，则支持向量在划分超平面误分一侧。

三、非线性支持向量机

对解线性分类问题，线性分类支持向量机一种非常高效的方法。但是，又是分类问题是非线性的，这时可以使用非线性支持向量机。其主要特点是利用核技巧，把低维特征映射到到高维空间上，使得映射后在高维空间可以进行线性分类。

核技巧

用线性分类方法求解非线性分类问题分为两步：

首先使用一个变换将原空间的数据映射到新空间；
然后在新空间里用线性分类学习方法从训练数据中学习分类模型。

而核技巧就是属于这样的方法。下面来看个例子：

上图中左边图，无法使用直线(线性模型)将正负实例正确分开，却可以用一条椭圆曲线(非线性模型)将他们正确分开。而通过变换，把左图中椭圆换成右边的直线，将非线性分类问题转换成线性分类问题。

在支持向量机中应用核技巧，其基本想法就是通过一个非线性变换将输入空间对应于特征空间，使得在输入空间中的超曲面模型对应特征空间中的超平面模型，这样，分类问题的的学习任务通过在特征空间中求解线性支持向量机就可以完成。

核函数

假设这样的函数：

$K(x_i,x_j)=\left \langle \phi (x_i) ,\phi (x_j)\right \rangle =\phi (x_i)^T\phi (x_j)$

即和在特征空间的内积等于他们在原始样本空间中通过 $K(\cdot ,\cdot )$ 计算的结果。这样的 $K(\cdot ,\cdot )$ 称为核函数(kernel function).其中 $\phi (x_i,x_j)$ 为映射函数， $\phi (x_i)^T\phi (x_j)$ 与内积等同。

则原始的优化问题，我们可以将原优化问题(线性支持向量机)重写为如下：

$\underset{\alpha }{min}{\ \ }\frac{1}{2}\sum_{i=1}^m\sum_{j=1}^m\alpha _i\alpha _jy_iy_jK(x_i,x_j)-\sum_{i=1}^m\alpha _i$

$s.t. {\ \ \ }\sum _{i=1}^m\alpha _iy_i=0$

$0\leq \alpha _i\leq C,{\ \ }i=1,2,...,m$

四、序列最小最优化算法(SMO)

五、总结

六、参考

1、《机器学习》周志华 ---- 西瓜书

2、《统计学习方法》李航

3、《机器学习实战》李锐译

机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习 python
一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
数字里的世界17期：2021年全球10大顶级数据中心，中国移动榜首张三叨
你知道吗？2016年，全球的数据中心共计用电4160亿千瓦时，比整个英国的发电量还多40％！前言每天，我们都会创造超过250万TB的数据。并且随着物联网（IOT）的不断普及，这一数据将持续增长。如此庞大的数据被存储在被称为“数据中心”的专用设施中。虽然最早的数据中心建于20世纪40年代，但直到1997-2000年的互联网泡沫期间才逐渐成为主流。当前人类的技术，比如人工智能和机器学习，已经将我们推向
nosql数据库技术与应用知识点皆过客，揽星河 NoSQL nosql 数据库大数据数据分析数据结构非关系型数据库
Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)Hdfs、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink等)数据可视化数据挖掘、机器学习应用(Python、SparkMLlib等)大数据时代存储的挑战(三高)高并发(同一时间很多人访问)高扩展(要求随时根据需求扩展存储)高效率(要求读写速度快)
Python开发常用的三方模块如下：换个网名有点难 python 开发语言
Python是一门功能强大的编程语言，拥有丰富的第三方库，这些库为开发者提供了极大的便利。以下是100个常用的Python库，涵盖了多个领域：1、NumPy，用于科学计算的基础库。2、Pandas，提供数据结构和数据分析工具。3、Matplotlib，一个绘图库。4、Scikit-learn，机器学习库。5、SciPy，用于数学、科学和工程的库。6、TensorFlow，由Google开发的开源机
Python实现简单的机器学习算法 master_chenchengg python python 办公效率 python开发 IT
Python实现简单的机器学习算法开篇：初探机器学习的奇妙之旅搭建环境：一切从安装开始必备工具箱第一步：安装Anaconda和JupyterNotebook小贴士：如何配置Python环境变量算法初体验：从零开始的Python机器学习线性回归：让数据说话数据准备：从哪里找数据编码实战：Python实现线性回归模型评估：如何判断模型好坏逻辑回归：从分类开始理论入门：什么是逻辑回归代码实现：使用skl
遥感影像的切片处理 sand&wich 计算机视觉 python 图像处理
在遥感影像分析中，经常需要将大尺寸的影像切分成小片段，以便于进行详细的分析和处理。这种方法特别适用于机器学习和图像处理任务，如对象检测、图像分类等。以下是如何使用Python和OpenCV库来实现这一过程，同时确保每个影像片段保留正确的地理信息。准备环境首先，确保安装了必要的Python库，包括numpy、opencv-python和xml.etree.ElementTree。这些库将用于图像处理
ai绘画工具midjourney怎么下载？附作品管理教程设计师早上好
Midjourney是一款功能强大的AI绘画工具，它使用机器学习技术和深度神经网络等算法，可以生成各种艺术风格的绘画作品。在创意设计、广告宣传等方面有着广泛的应用前景。那么，ai绘画工具midjourney怎么下载？本文将为您介绍Midjourney的下载以及作品的相关管理。一、Midjourney下载Midjourney的下载非常简单，只需打开Midjourney官网（点击“GetMidjour
[实践应用] 深度学习之模型性能评估指标 YuanDaima2048 深度学习工具使用深度学习人工智能损失函数性能评估 pytorch python 机器学习
文章总览：YuanDaiMa2048博客文章总览深度学习之模型性能评估指标分类任务回归任务排序任务聚类任务生成任务其他介绍在机器学习和深度学习领域，评估模型性能是一项至关重要的任务。不同的学习任务需要不同的性能指标来衡量模型的有效性。以下是对一些常见任务及其相应的性能评估指标的详细解释和总结。分类任务分类任务是指模型需要将输入数据分配到预定义的类别或标签中。以下是分类任务中常用的性能指标：准确率(
机器学习-聚类算法不良人龍木木机器学习机器学习算法聚类
机器学习-聚类算法1.AHC2.K-means3.SC4.MCL仅个人笔记，感谢点赞关注！1.AHC2.K-means3.SC传统谱聚类：个人对谱聚类算法的理解以及改进4.MCL目前仅专注于NLP的技术学习和分享感谢大家的关注与支持！
未来软件市场是怎么样的？做开发的生存空间如何？ cesske 软件需求
目录前言一、未来软件市场的发展趋势二、软件开发人员的生存空间前言未来软件市场是怎么样的？做开发的生存空间如何？一、未来软件市场的发展趋势技术趋势：人工智能与机器学习：随着技术的不断成熟，人工智能将在更多领域得到应用，如智能客服、自动驾驶、智能制造等，这将极大地推动软件市场的增长。云计算与大数据：云计算服务将继续普及，大数据技术的应用也将更加广泛。企业将更加依赖云计算和大数据来优化运营、提升效率，并
python中zeros用法_Python中的numpy.zeros()用法江平舟 python中zeros用法
numpy.zeros()函数是最重要的函数之一,广泛用于机器学习程序中。此函数用于生成包含零的数组。numpy.zeros()函数提供给定形状和类型的新数组,并用零填充。句法numpy.zeros(shape,dtype=float,order='C'参数形状：整数或整数元组此参数用于定义数组的尺寸。此参数用于我们要在其中创建数组的形状,例如(3,2)或2。dtype：数据类型(可选)此参数用于
【NumPy】深入解析numpy.zeros()函数二七830 numpy
欢迎莅临我的个人主页这里是我深耕Python编程、机器学习和自然语言处理（NLP）领域，并乐于分享知识与经验的小天地！博主简介：我是二七830，一名对技术充满热情的探索者。多年的Python编程和机器学习实践，使我深入理解了这些技术的核心原理，并能够在实际项目中灵活应用。尤其是在NLP领域，我积累了丰富的经验，能够处理各种复杂的自然语言任务。技术专长：我熟练掌握Python编程语言，并深入研究了机
【中国国际航空-注册_登录安全分析报告】风控牛验证码接口安全评测系列安全行为验证极验网易易盾智能手机
前言由于网站注册入口容易被黑客攻击，存在如下安全问题：1.暴力破解密码，造成用户信息泄露2.短信盗刷的安全问题，影响业务及导致用户投诉3.带来经济损失，尤其是后付费客户，风险巨大，造成亏损无底洞所以大部分网站及App都采取图形验证码或滑动验证码等交互解决方案，但在机器学习能力提高的当下，连百度这样的大厂都遭受攻击导致点名批评，图形验证及交互验证方式的安全性到底如何？请看具体分析一、中国国际航空PC
机器学习流形数据降维：UMAP 降维算法小嗷犬 Python 机器学习 #数据分析及可视化机器学习算法人工智能
✅作者简介：人工智能专业本科在读，喜欢计算机与编程，写博客记录自己的学习历程。个人主页：小嗷犬的个人主页个人网站：小嗷犬的技术小站个人信条：为天地立心，为生民立命，为往圣继绝学，为万世开太平。本文目录UMAP简介理论基础特点与优势应用场景在Python中使用UMAP安装umap-learn库使用UMAP可视化手写数字数据集UMAP简介UMAP（UniformManifoldApproximatio
七.正则化愿风去了
吴恩达机器学习之正则化（Regularization）http://www.cnblogs.com/jianxinzhou/p/4083921.html从数学公式上理解L1和L2https://blog.csdn.net/b876144622/article/details/81276818虽然在线性回归中加入基函数会使模型更加灵活，但是很容易引起数据的过拟合。例如将数据投影到30维的基函数上，模
机器学习-------数据标准化罔闻_spider 数据分析算法机器学习人工智能
什么是归一化，它与标准化的区别是什么？一作用在做训练时，需要先将特征值与标签标准化，可以防止梯度防炸和过拟合；将标签标准化后，网络预测出的数据是符合标准正态分布的—StandarScaler()，与真实值有很大差别。因为StandarScaler()对数据的处理是（真实值-平均值）/标准差。同时在做预测时需要将输出数据逆标准化提升模型精度：标准化/归一化使不同维度的特征在数值上更具比较性，提高分类
分享一个基于python的电子书数据采集与可视化分析 hadoop电子书数据分析与推荐系统 spark大数据毕设项目（源码、调试、LW、开题、PPT) 计算机源码社 Python项目大数据大数据 python hadoop 计算机毕业设计选题计算机毕业设计源码数据分析 spark毕设
作者：计算机源码社个人简介：本人八年开发经验，擅长Java、Python、PHP、.NET、Node.js、Android、微信小程序、爬虫、大数据、机器学习等，大家有这一块的问题可以一起交流！学习资料、程序开发、技术解答、文档报告如需要源码，可以扫取文章下方二维码联系咨询Java项目微信小程序项目Android项目Python项目PHP项目ASP.NET项目Node.js项目选题推荐项目实战|p
两种方法判断Python的位数是32位还是64位 sanqima Python编程电脑 python 开发语言
Python从1991年发布以来，凭借其简洁、清晰、易读的语法、丰富的标准库和第三方工具，在Web开发、自动化测试、人工智能、图形识别、机器学习等领域发展迅猛。 Python是一种胶水语言，通过Cython库与C/C++语言进行链接，通过Jython库与Java语言进行链接。 Python是跨平台的，可运行在多种操作系统上，包括但不限于Windows、Linux和macOS。这意味着用Py
使用最大边际相关性(MMR)选择示例：提高AI模型的多样性和相关性 aehrutktrjk 人工智能 easyui 前端 python
使用最大边际相关性(MMR)选择示例：提高AI模型的多样性和相关性引言在机器学习和自然语言处理领域，选择合适的训练示例对模型性能至关重要。最大边际相关性(MaximalMarginalRelevance,MMR)是一种优秀的示例选择方法，它不仅考虑了示例与输入的相关性，还注重保持所选示例之间的多样性。本文将深入探讨如何使用MMR来选择示例，以提高AI模型的性能和泛化能力。什么是最大边际相关性(MM
LangChain集成指南:如何利用多样化的AI提供商 aehrutktrjk 人工智能 langchain python
LangChain集成指南:如何利用多样化的AI提供商引言在人工智能和机器学习领域,LangChain已成为一个强大而灵活的框架,允许开发者轻松集成各种AI服务提供商。本文将深入探讨LangChain的集成能力,介绍如何利用不同的AI提供商来增强你的应用程序,并提供实用的代码示例。LangChain集成概览LangChain支持多种AI提供商的集成,这些集成可以分为两类:独立包集成:这些提供商有独
机器学习VS深度学习 nfgo 机器学习
机器学习（MachineLearning,ML）和深度学习（DeepLearning,DL）是人工智能（AI）的两个子领域，它们有许多相似之处，但在技术实现和应用范围上也有显著区别。下面从几个方面对两者进行区分：1.概念层面机器学习：是让计算机通过算法从数据中自动学习和改进的技术。它依赖于手动设计的特征和数学模型来进行学习，常用的模型有决策树、支持向量机、线性回归等。深度学习：是机器学习的一个子领
大数据毕业设计hadoop+spark+hive知识图谱租房数据分析可视化大屏租房推荐系统 58同城租房爬虫房源推荐系统房价预测系统计算机毕业设计机器学习深度学习人工智能 2401_84572577 程序员大数据 hadoop 人工智能
做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。我先来介绍一下这些东西怎么用，文末抱走。（1）Python所有方向的学习路线（
【机器学习与R语言】1-机器学习简介苹果酱0567 面试题汇总与解析 java 中间件开发语言 spring boot 后端
1.基本概念机器学习：发明算法将数据转化为智能行为数据挖掘VS机器学习：前者侧重寻找有价值的信息，后者侧重执行已知的任务。后者是前者的先期准备过程：数据——>抽象化——>一般化。或者：收集数据——推理数据——归纳数据——发现规律抽象化：训练：用一个特定模型来拟合数据集的过程用方程来拟合观测的数据：观测现象——数据呈现——模型建立。通过不同的格式来把信息概念化一般化：一般化：将抽象化的知识转换成可用
Python前沿技术：机器学习与人工智能 4.0啊 Python 人工智能 python 机器学习
Python前沿技术：机器学习与人工智能一、引言随着科技的飞速发展，机器学习和人工智能（AI）已经成为了计算机科学领域的热门话题。Python作为一门易学易用且功能强大的编程语言，已经成为了这两个领域的首选语言之一。本文将深入探讨Python在机器学习和人工智能领域的应用，以及一些前沿技术和工具。二、Python机器学习基础2.1机器学习概述机器学习是人工智能（AI）的一个关键子集，它的核心在于让
chatgpt赋能python：如何在Python中计算平均值 tulingtest ChatGpt python chatgpt numpy 计算机
如何在Python中计算平均值计算平均值是数据分析、统计和机器学习等许多领域中的常见任务。Python作为一门功能强大且易于学习的编程语言，为计算平均值提供了多种方法。在本文中，我们将介绍如何在Python中计算平均值。什么是平均值简单来说，平均值是一组数字的总和除以数字的数量。例如，对于数字序列1，3，5，7，9，平均值是(1+3+5+7+9)/5=5。平均值在数据分析中非常有用，因为它可以提供
Python 初学者入门必知： Anaconda是什么？有什么作用？怎么使用？懒大王爱吃狼 Python基础 python 开发语言 python基础 python学习 anaconda anaconda安装 python教程
初学者在学习Python时，经常看到的一个名字是Anaconda。究竟什么是Anaconda，为什么它如此受欢迎？在这篇文章中，我们将探讨Anaconda，了解Anaconda的从安装到使用的。Anaconda是一个免费开源的Python和R编程发行版，包含上千个适用于数据科学和机器学习的包。同时，配备了Spyder和Jupyternotebook等工具，初学者可以使用它们来学习Python，使用
每天五分钟玩转深度学习PyTorch：模型参数优化器torch.optim 幻风_huanfeng 深度学习框架pytorch 深度学习 pytorch 人工智能神经网络机器学习优化算法
本文重点在机器学习或者深度学习中，我们需要通过修改参数使得损失函数最小化(或最大化)，优化算法就是一种调整模型参数更新的策略。在pytorch中定义了优化器optim，我们可以使用它调用封装好的优化算法，然后传递给它神经网络模型参数，就可以对模型进行优化。本文是学习第6步(优化器)，参考链接pytorch的学习路线随机梯度下降算法在深度学习和机器学习中，梯度下降算法是最常用的参数更新方法，它的公式
一切皆是映射：AI的去中心化：区块链技术的融合 AI大模型应用之禅计算科学神经计算深度学习神经网络大数据人工智能大型语言模型 AI AGI LLM Java Python 架构设计 Agent RPA
一切皆是映射：AI的去中心化：区块链技术的融合作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming关键词：AI，区块链，去中心化，智能合约，共识机制，数据安全，隐私保护，分布式账本技术，机器学习，数据隐私1.背景介绍1.1问题的由来随着人工智能（AI）技术的快速发展，其在各个领域的应用越来越广泛，从自动驾驶、智能医疗到金融服务，AI正在改变着我们的生活。
第五届核磁机器学习班（训练营：2023.6.5~6.17）茗创科技
茗创科技专注于脑科学数据处理，涵盖（EEG/ERP,fMRI,结构像,DTI,ASL,FNIRS）等，欢迎留言讨论及转发推荐，也欢迎了解茗创科技的脑电课程，数据处理服务及脑科学工作站销售业务，可添加我们的工程师（微信号MCKJ-zhouyi或17373158786）咨询。★课程简介★基于血氧水平依赖的功能磁共振成像(fMRI)技术,利用其数据构建的功能性脑网络后,发现脑并不是一个单纯对外界刺激进行
如何有效的学习AI大模型？ Python程序员罗宾学习人工智能语言模型自然语言处理架构
学习AI大模型是一个系统性的过程，涉及到多个学科的知识。以下是一些建议，帮助你更有效地学习AI大模型：基础知识储备：数学基础：学习线性代数、概率论、统计学和微积分等，这些是理解机器学习算法的数学基础。编程技能：掌握至少一种编程语言，如Python，因为大多数AI模型都是用Python实现的。理论学习：机器学习基础：了解监督学习、非监督学习、强化学习等基本概念。深度学习：学习神经网络的基本结构，如卷
关于旗正规则引擎下载页面需要弹窗保存到本地目录的问题何必如此 jsp 超链接文件下载窗口
生成下载页面是需要选择“录入提交页面”，生成之后默认的下载页面<a>标签超链接为：<a href="<%=root_stimage%>stimage/image.jsp?filename=<%=strfile234%>&attachname=<%=java.net.URLEncoder.encode(file234filesourc
【Spark九十八】Standalone Cluster Mode下的资源调度源代码分析 bit1129 cluster
在分析源代码之前，首先对Standalone Cluster Mode的资源调度有一个基本的认识：首先，运行一个Application需要Driver进程和一组Executor进程。在Standalone Cluster Mode下，Driver和Executor都是在Master的监护下给Worker发消息创建(Driver进程和Executor进程都需要分配内存和CPU，这就需要Maste
linux上独立安装部署spark daizj linux 安装 spark 1.4 部署
下面讲一下linux上安装spark，以 Standalone Mode 安装 1）首先安装JDK 下载JDK：jdk-7u79-linux-x64.tar.gz ，版本是1.7以上都行，解压 tar -zxvf jdk-7u79-linux-x64.tar.gz 然后配置 ~/.bashrc&nb
Java 字节码之解析一周凡杨 java 字节码 javap
一： Java 字节代码的组织形式类文件 { OxCAFEBABE ，小版本号，大版本号，常量池大小，常量池数组，访问控制标记，当前类信息，父类信息，实现的接口个数，实现的接口信息数组，域个数，域信息数组，方法个数，方法信息数组，属性个数，属性信息数组 } &nbs
java各种小工具代码 g21121 java
1.数组转换成List import java.util.Arrays; Arrays.asList(Object[] obj); 2.判断一个String型是否有值 import org.springframework.util.StringUtils; if (StringUtils.hasText(str)) 3.判断一个List是否有值 import org.spring
加快FineReport报表设计的几个心得体会老A不折腾 finereport
一、从远程服务器大批量取数进行表样设计时，最好按“列顺序”取一个“空的SQL语句”，这样可提高设计速度。否则每次设计时模板均要从远程读取数据，速度相当慢！！二、找一个富文本编辑软件（如NOTEPAD+）编辑SQL语句，这样会很好地检查语法。有时候带参数较多检查语法复杂时，结合FineReport中生成的日志，再找一个第三方数据库访问软件（如PL/SQL）进行数据检索，可以很快定位语法错误。
mysql linux启动与停止墙头上一根草
如何启动/停止/重启MySQL一、启动方式1、使用 service 启动：service mysqld start2、使用 mysqld 脚本启动：/etc/inint.d/mysqld start3、使用 safe_mysqld 启动：safe_mysqld&二、停止1、使用 service 启动：service mysqld stop2、使用 mysqld 脚本启动：/etc/inin
Spring中事务管理浅谈 aijuans spring 事务管理
Spring中事务管理浅谈 By Tony Jiang@2012-1-20 Spring中对事务的声明式管理拿一个XML举例 [html] view plain copy print ? <?xml version="1.0" encoding="UTF-8"?>&nb
php中隐形字符65279（utf-8的BOM头）问题 alxw4616
php中隐形字符65279（utf-8的BOM头）问题今天遇到一个问题. php输出JSON 前端在解析时发生问题:parsererror. 调试: 1.仔细对比字符串发现字符串拼写正确.怀疑是非打印字符的问题. 2.逐一将字符串还原为unicode编码. 发现在字符串头的位置出现了一个 65279的非打印字符.
调用对象是否需要传递对象(初学者一定要注意这个问题) 百合不是茶对象的传递与调用技巧
类和对象的简单的复习,在做项目的过程中有时候不知道怎样来调用类创建的对象,简单的几个类可以看清楚,一般在项目中创建十几个类往往就不知道怎么来看为了以后能够看清楚,现在来回顾一下类和对象的创建,对象的调用和传递(前面写过一篇) 类和对象的基础概念: JAVA中万事万物都是类类有字段(属性),方法,嵌套类和嵌套接
JDK1.5 AtomicLong实例 bijian1013 java thread java多线程 AtomicLong
JDK1.5 AtomicLong实例类 AtomicLong 可以用原子方式更新的 long 值。有关原子变量属性的描述，请参阅 java.util.concurrent.atomic 包规范。AtomicLong 可用在应用程序中（如以原子方式增加的序列号），并且不能用于替换 Long。但是，此类确实扩展了 Number，允许那些处理基于数字类的工具和实用工具进行统一访问。
自定义的RPC的Java实现 bijian1013 java rpc
网上看到纯java实现的RPC，很不错。 RPC的全名Remote Process Call，即远程过程调用。使用RPC，可以像使用本地的程序一样使用远程服务器上的程序。下面是一个简单的RPC 调用实例，从中可以看到RPC如何
【RPC框架Hessian一】Hessian RPC Hello World bit1129 Hello world
什么是Hessian The Hessian binary web service protocol makes web services usable without requiring a large framework, and without learning yet another alphabet soup of protocols. Because it is a binary p
【Spark九十五】Spark Shell操作Spark SQL bit1129 shell
在Spark Shell上，通过创建HiveContext可以直接进行Hive操作 1. 操作Hive中已存在的表 [hadoop@hadoop bin]$ ./spark-shell Spark assembly has been built with Hive, including Datanucleus jars on classpath Welcom
F5　往header加入客户端的ip ronin47
when HTTP_RESPONSE {if {[HTTP::is_redirect]}{ HTTP::header replace Location [string map {:port/ /} [HTTP::header value Location]]HTTP::header replace Lo
java-61-在数组中，数字减去它右边(注意是右边)的数字得到一个数对之差. 求所有数对之差的最大值。例如在数组{2, 4, 1, 16, 7, 5, bylijinnan java
思路来自： http://zhedahht.blog.163.com/blog/static/2541117420116135376632/ 写了个java版的 public class GreatestLeftRightDiff { /** * Q61.在数组中，数字减去它右边(注意是右边)的数字得到一个数对之差。 * 求所有数对之差的最大值。例如在数组
mongoDB 索引开窍的石头 mongoDB索引
在这一节中我们讲讲在mongo中如何创建索引得到当前查询的索引信息 db.user.find(_id:12).explain(); cursor: basicCoursor 指的是没有索引 &
[硬件和系统]迎峰度夏 comsci 系统
从这几天的气温来看，今年夏天的高温天气可能会维持在一个比较长的时间内所以，从现在开始准备渡过炎热的夏天。。。。每间房屋要有一个落地电风扇，一个空调(空调的功率和房间的面积有密切的关系) 坐的，躺的地方要有凉垫，床上要有凉席电脑的机箱
基于ThinkPHP开发的公司官网 cuiyadll 行业系统
后端基于ThinkPHP，前端基于jQuery和BootstrapCo.MZ 企业系统轻量级企业网站管理系统运行环境:PHP5.3+, MySQL5.0 系统预览系统下载：http://www.tecmz.com 预览地址：http://co.tecmz.com 各种设备自适应响应式的网站设计能够对用户产生友好度，并且对于
Transaction and redelivery in JMS (JMS的事务和失败消息重发机制) darrenzhu jms 事务承认 MQ acknowledge
JMS Message Delivery Reliability and Acknowledgement Patterns http://wso2.com/library/articles/2013/01/jms-message-delivery-reliability-acknowledgement-patterns/ Transaction and redelivery in
Centos添加硬盘完全教程 dcj3sjt126com linux centos hardware
Linux的硬盘识别: sda 表示第1块SCSI硬盘 hda 表示第1块IDE硬盘 scd0 表示第1个USB光驱一般使用“fdisk -l”命
yii2 restful web服务路由 dcj3sjt126com PHP yii2
路由随着资源和控制器类准备，您可以使用URL如 http://localhost/index.php?r=user/create访问资源，类似于你可以用正常的Web应用程序做法。在实践中，你通常要用美观的URL并采取有优势的HTTP动词。例如，请求POST /users意味着访问user/create动作。这可以很容易地通过配置urlManager应用程序组件来完成如下所示
MongoDB查询(4)——游标和分页[八] eksliang mongodb MongoDB游标 MongoDB深分页
转载请出自出处：http://eksliang.iteye.com/blog/2177567 一、游标数据库使用游标返回find的执行结果。客户端对游标的实现通常能够对最终结果进行有效控制，从shell中定义一个游标非常简单，就是将查询结果分配给一个变量（用var声明的变量就是局部变量），便创建了一个游标，如下所示： > var
Activity的四种启动模式和onNewIntent() gundumw100 android
Android中Activity启动模式详解　　在Android中每个界面都是一个Activity，切换界面操作其实是多个不同Activity之间的实例化操作。在Android中Activity的启动模式决定了Activity的启动运行方式。　　Android总Activity的启动模式分为四种： Activity启动模式设置： <acti
攻城狮送女友的CSS3生日蛋糕 ini html Web html5 css css3
在线预览：http://keleyi.com/keleyi/phtml/html5/29.htm 代码如下： <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <title>攻城狮送女友的CSS3生日蛋糕-柯乐义<
读源码学Servlet（1）GenericServlet 源码分析 jzinfo tomcat Web servlet 网络应用网络协议
Servlet API的核心就是javax.servlet.Servlet接口，所有的Servlet 类（抽象的或者自己写的）都必须实现这个接口。在Servlet接口中定义了5个方法，其中有3个方法是由Servlet 容器在Servlet的生命周期的不同阶段来调用的特定方法。先看javax.servlet.servlet接口源码： package
JAVA进阶：VO(DTO)与PO(DAO)之间的转换 snoopy7713 java VO Hibernate po
PO即 Persistence Object　　VO即 Value Object 　VO和PO的主要区别在于：　　VO是独立的Java Object。　　PO是由Hibernate纳入其实体容器（Entity Map）的对象，它代表了与数据库中某条记录对应的Hibernate实体，PO的变化在事务提交时将反应到实际数据库中。　实际上，这个VO被用作Data Transfer
mongodb group by date 聚合查询日期统计每天数据（信息量） qiaolevip 每天进步一点点学习永无止境 mongodb 纵观千象
/* 1 */ { "_id" : ObjectId("557ac1e2153c43c320393d9d"), "msgType" : "text", "sendTime" : ISODate("2015-06-12T11:26:26.000Z")
java之18天常用的类(一) Luob. Math Date System Runtime Rundom
System类 import java.util.Properties; /** * System: * out:标准输出,默认是控制台 * in:标准输入,默认是键盘 * * 描述系统的一些信息 * 获取系统的属性信息:Properties getProperties(); * * * */ public class Sy
maven wuai maven
1、安装maven：解压缩、添加M2_HOME、添加环境变量path 2、创建maven_home文件夹，创建项目mvn_ch01,在其下面建立src、pom.xml，在src下面简历main、test、main下面建立java文件夹 3、编写类，在java文件夹下面依照类的包逐层创建文件夹，将此类放入最后一级文件夹 4、进入mvn_ch01 4.1、mvn compile ,执行后会在

机器学习之支持向量机(Support Vector Machines)

一、线性可分支持向量机

函数间隔与几何间隔

间隔最大化

支持向量与间隔边界

学习的对偶算法

二、线性支持向量机

学习的对偶算法

三、非线性支持向量机

四、序列最小最优化算法(SMO)

五、总结

六、参考

你可能感兴趣的:(机器学习)