xiaoyaolangwj

《图解深度学习》学习笔记（三）

第四章受限玻尔兹曼机

受限玻尔兹曼机是起源于图模型的神经网络。这种网络是由Hopfield神经网络那样的相互连接型网络衍生而来的。

Hopfield神经网络、玻尔兹曼机、受限玻尔兹曼机、多个受限玻尔兹曼机堆叠组成的深度信念网络。

神经网络分为两大类：

前面介绍过的多层神经网络。分层。

相互连接型网络：不分层，单元之间相互连接，（可看做同层之间也互相连接）。它能够根据每个单元的值记忆网络状态，被称为：联想记忆。

人类的大脑能够根据某种输入信息记忆或者联想与之有关的信息，比如看到“苹果”能够想到“红色”，看到“香蕉”能够想到“黄色”。

联想记忆就是通过在事物之间建立对应关系来记忆的方法。多层神经网络和卷积神经网络可应用于模式识别，而相互连接型网络可通过联想记忆去除输入数据中的噪声。

一、Hopfield神经网络

Hopfield神经网络是最典型的相互连接型网络：具有以下优点：

单元之间的连接权重对称( $w_{ij} = w_{ji}$ )(无向或说双向对等)
每个单元没有到自身的连接( $w_{ii}=0$ )(无自环，无自联)
单元的状态变化采用随机异步更新方式，每次只有一个单元改变状态。

Hopfield神经网络是由n个二值单元组成的二值神经网络，每个单元i的输出只能是0或1两个值，故而网络由 $2^{n}$ 种状态。

联想记忆就是当输入模式为某种状态时，输出端要给出与之相应的输出模式y。

自联想记忆：输入模式与输出模式一致。

异联想记忆：输入模式与输出模式不一致。

所谓的输入模式，输出模式，或者说模式，就是指每个神经元的0或1状态的组合模式。每一种组合都是一种模式。每个模式对应一种状态。网络从这个神经元的0或1状态中记忆联想来调整权重使总能量最小。

训练过程：

设有由n个单元组成的Hopfield神经网络，第i个单元在t(t=0, 1, 2, ...)时刻的输入记作 $u_{i}(t)$ ，输出记作 $x_{i}(t)$ ，连接权重为 $w_{ij}$ ，阈值为 $b_{i}(t)$ ，则t+1时刻单元的输出 $x_{i}(t+1)$ 可用下式表示。

$x_{i}(t+1) = \left\{\begin{matrix} 1 \\ x_{i}(t) \\ 0 \end{matrix}\right.$ $\begin{matrix} u_{i}(t) > 0\\ u_{i}(t) = 0\\ u_{i}(t) < 0 \end{matrix}$ $u_{i}(t) = \sum_{j=1}^{n}w_{ij}x_{j}(t) - b_{i}(t)$

如果单元接收的来自其他单元的输入 $x_{j}(t)$ 的权重总和 $\sum_{j=1}^{n}w_{ij}x_{j}(t)$ 大于阈值 $b_{i}(t)$ ，则单元的输出就取值为1；如果小于阈值 $b_{i}(t)$ ，则单元的输出就取值为0。（直白点讲：就说神经元有没有被激活。大于阈值就激活。）

在Hopfield神经网络中，每个时刻都只有一个随机选择的单元发生状态变化。对于一个由n个单元组成的网络，如果要完成全部单元的状态变化，至少需要n个时刻。实际上，单元的状态变化会一直进行下去，直到网络达到稳定状态。各单元的最终状态就是输出模式y。

目标函数：

根据输入模式联想输出模式时，需要实现确定连接权重 $w_{ij}$ 。而连接权重 $w_{ij}$ 要对输入模式的训练样本进行训练才能确定。和神经网络一样，一次训练并不能确定连接权重，而是不断重复这个训练过程，直到满足终止判断条件。而这个满足条件的指标就是表示Hopfield神经网络状态的能量函数(误差函数)E。 $E= -\frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}w_{ij}x_{i}x_{j}+\sum_{i=1}^{n}b_{i}x_{i}$ 。（目标函数）

为研究能量函数如何变化，将能量函数分解成单元k的能量函数和k以外的单元的能量函数。

由于Hopfield神经网络采用随机异步更新方式，所以除单元k以外,其他单元的状态不发生变化。

从t时刻至t+1时刻，单元k的输出值变化如下：

$x_{k}(t)\rightarrow x_{k}(t+1)$ ：要么激活，要不激活。要么为1，要么为0。

$\Delta x_{k} = x_{k}(t+1) - x_{k}(t)$ ：结果会变为1或-1。要么从0变到1，要么从1变到0。1-0或者0-1。

单元k的状态变化量 $\Delta x_{k}$ 相对应的能量函数变化量 $\Delta E_{k}$ ：

$\Delta E_{k} = -u_{k}\Delta x_{k}$

分析这个 $\Delta E_{k}$ ：

当 $\Delta x_{k}$ > 0时，说明1-0，单元k的输出值 $x_{k}$ 从0变为了1。也就是说阈值激活， $u_{k}$ > 0。此时的 $\Delta E_{k}$ < 0;

当 $\Delta x_{k}$ < 0时，说明0-1，单元k的输出值 $x_{k}$ 从1变为了0。也就是说阈值激活， $u_{k}$ < 0。此时的 $\Delta E_{k}$ < 0;

如果k的状态不变，此时 $\Delta x_{k}$ = 0，那么 $\Delta E_{k}$ = 0；即：当输入模式与输出模式一致时，能量函数E的结果为0。

综上： $\Delta E_{k} \leqslant 0$ 。总是成立的。

也就是说随着时间的不断增加E逐渐减小，直到网络达到稳定状态为止。

接下来，我们将P个模式输入到网络中，训练网络的连接权重，以记忆这些模式。模式用 $\large x^{s} = (x_{1}^{s},x_{2}^{s},x_{3}^{s},..,x_{n}^{s})\left ( s = 1, 2, ..., P \right )$ 表示。

所谓记忆模式 $\large x^{s}$ ，就是求与模式对应的能量函数的极小值。

阈值为0时，与模式 $\large x^{s}$ ，对应的能量函数(误差函数)： $E^{s}= - \frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}w_{ij}^{s}x_{i}^{s}x_{j}^{s}$ 。为了使能量函数(误差函数)收敛于极小值，可以做出假设： $w_{ij}^{s} = x_{i}^{s}x_{j}^{s}$ 。这样能量函数(误差函数)就可以用公式 $E^{s}= - \frac{1}{2}\sum_{i=1}^{n}\sum_{j=1}^{n}(x_{i}^{s})^{2}(x_{j}^{s})^{2}$ 这样的相互影响矩阵来表示了。网络需要记忆P个模式，因此所有模式的连接权重： $w_{ij} = \frac{1}{p}\sum_{i=1}^{n}w_{ij}^{s} = \frac{1}{p}\sum_{i=1}^{n}x_{i}^{s}x_{j}^{s}$ 。

如图4.2(a)这样的两种模式为例，来进行Hopfield神经网络的联想训练。这两种训练模式的图像样本由5 $\times$ 5 个像素组成，像素值为1的是白色，为0的是黑色。

Hopfield神经网络会把每一个像素作为一个单元，用0对单元之间的连接权重 $w_{ij}$ 进行初始化。（零启动初始化。）

根据公式： $x_{i}(t+1) = \left\{\begin{matrix} 1 \\ x_{i}(t) \\ 0 \end{matrix}\right.$ $\begin{matrix} u_{i}(t) > 0\\ u_{i}(t) = 0\\ u_{i}(t) < 0 \end{matrix}$ $u_{i}(t) = \sum_{j=1}^{n}w_{ij}x_{j}(t) - b_{i}(t)$ ，调节连接权重后，得到的连接权重如图4.3所示。一些连接权重的值比较大，但是连接权重矩阵的对角线元素为0。

测试时，训练模式使用的是含有噪声的样本图像(图4.2(b))。虽然训练时使用所有的训练模式来更新连接权重，但在测试时是逐张添加图像的，最终分别得到相应的结果(图4.2(c))。由此可见，即使训练模式中含有噪声，Hopfield神经网络也能联想出原本的模式。

接下来再来看看如图4.4(a)所示的三种模式时的网络训练。使用如图4.4(b)所示的含有噪声的模式作为测试图像时，Hopfield神经网络输出的是如图4.4(c)所示的模式。虽然训练时使用的模式各不相同，但是Hopfield神经网络还是误把“1”识别成了“4”。这是因为“4”中包含了“1”中的全部竖线，所以网络根据竖线联想到了“4”。 $w_{ij} = \frac{1}{p}\sum_{i=1}^{n}w_{ij}^{s} = \frac{1}{p}\sum_{i=1}^{n}x_{i}^{s}x_{j}^{s}$ 是针对所有模式的近似连接权重，所以当需要记忆的模式之间较为相似，或者需要记忆的模式太多时，Hopfield神经网络就不能正确地辨别模式。这种相互干扰、不能准确记忆的情况称为串扰(crosstalk)。Hopfield神经网络能够记忆的模式数量有限，大约是网络单元数的15%左右。为了防止串扰，可以采用先把模式正交化再进行记忆等方法。

二、玻尔兹曼机

如果发生串扰或陷入局部最优解，Hopfield神经网络就不能正确地辨别模式。而玻尔兹曼机(Boltzmann Machine)则可以通过让每个单元按照一定的概率分布发生状态变化，来避免陷入局部最优解。

玻尔兹曼机：

各单元之间的连接权重是对称的，即 $w_{ij} = w_{ji}$ ，且没有到自身的连接 $w_{ii}=0$ 。
每个单元的输出要么是0，要么是1。（以上两个特点与Hopfield相同。）
玻尔兹曼机的输出是按照某种概率分布决定的。而Hopfield神经网络的输出是按照某种确定性决定的。（两者最大不同。）

输出： $\large \left\{\begin{matrix} p(x_{i}=1\mid u_{i}) = \frac{exp(\frac{x}{kT})}{1 + exp(\frac{x}{kT})}\\ p(x_{i}=0\mid u_{i}) = \frac{1}{1 + exp(\frac{x}{kT})} \end{matrix}\right.$ 。

T表示温度系数(>0)。如图4.5所示，随着kT值的增大， $\large x_{i}$ 等于1的概率没有显著变化；相反，随着kT值的减小，曲线在0附近的斜率急剧增大。当T趋近于无穷大时，无论 $\large u_{i}$ 取值如何， $\large x_{i}$ 等于1或0的概率都分别是1/2，这种状态称为稳定状态。

对于玻尔兹曼机来说，温度系数越大，跳出局部最优解的概率越高。但是温度系数增大时，获得能量函数极小值的概率就会降低；反之，温度系数减小时，虽然获得能量函数极小值的概率增加了，但是玻尔兹曼机需要经历较长时间才能达到稳定状态。不过，模拟退火算法能够解决这个问题，这个算法会先采用较大的温度系数进行粗调，然后逐渐减小温度系数进行微调。(调节显微镜也这么调的吧)。根据公式 $\large T = \frac{c}{log(t+1)}$ 就可以获得温度系数T的极小值。

训练过程：

玻尔兹曼机和Hopfield神经网络一样，也是相互连接型网络。两者的连接权重定义和训练过程也一样。

（网络结构一样，系数定义方式一样，训练流程一样。状态激活方式一样，唯独激活以后的输出不同。）前者输出 $x_{i}$ 等于1或0的概率，后者输出 $x_{i}$ 等于1或者0。一个是概率，一个是定值。

首先，使用随机数或相关系数矩阵初始化连接权重。接下来，选取一个单元 i，根据 $u_{i}(t) = \sum_{j=1}^{n}w_{ij}x_{j}(t) - b_{i}(t)$ 计算该单元的激活值 $u_{i}$ 。根据 $x_{i}(t+1) = \left\{\begin{matrix} 1 \\ x_{i}(t) \\ 0 \end{matrix}\right.$ $\begin{matrix} u_{i}(t) > 0\\ u_{i}(t) = 0\\ u_{i}(t) < 0 \end{matrix}$ 可知，当 $u_{i}$ > 0时 $x_{i}$ =1，当 $u_{i}$ < 0时 $x_{i}$ =0, 当 $u_{i}$ = 0时 $x_{i}$ = $x_{i}$ 。然后根据 $x_{i}$ 的值，利用公式 $\large \left\{\begin{matrix} p(x_{i}=1\mid u_{i}) = \frac{exp(\frac{x}{kT})}{1 + exp(\frac{x}{kT})}\\ p(x_{i}=0\mid u_{i}) = \frac{1}{1 + exp(\frac{x}{kT})} \end{matrix}\right.$ ，计算出 $x_{i}$ 等于1或0的概率值，并根据这个概率调整 $x_{i}$ 的值。

利用公式 $\large \left\{\begin{matrix} p(x_{i}=1\mid u_{i}) = \frac{exp(\frac{x}{kT})}{1 + exp(\frac{x}{kT})}\\ p(x_{i}=0\mid u_{i}) = \frac{1}{1 + exp(\frac{x}{kT})} \end{matrix}\right.$ 计算得到的是概率，不能直接作为 $x_{i}$ 的值使用，而应该把这个概率作为出现概率来决定 $x_{i}$ 的值。

在调整连接权重 $w_{ij}$ 时，按照相同的步骤计算单元j的值 $x_{j}$ 。如果 $x_{i}$ 和 $x_{j}$ 两者均为1，则增大 $w_{ij}$ ，并对所有单元迭代实施相同的处理。然后，向网络输入任意的训练样本，按照相同步骤计算 $x_{i}$ 和 $x_{j}$ 。如果两者均为1，则降低 $w_{ij}$ ，并对所有单元迭代实施相同的处理。这两种更新连接权重的处理分别称为训练和遗忘。迭代过程中使用的是模拟退火算法，逐渐减小温度系数T。

目标函数：

根据上述规则，调整连接权重 $w_{ij}$ 和偏执 $b_{i}$ 。这里使用似然函数 $L\left (\theta \right ) = \prod_{n=1}^{N}p(x_{n}\mid \theta )$ 导出调整值。这里的 $\theta$ 是一个参数，表示所有的连接权重和偏置。据此可以计算出所有组合的似然函数。此外，概率分布 $p(x_{n}\mid \theta )$ 的定义如下：

$p(x_{n}\mid \theta ) = \frac{1}{Z(\theta)} e^{-E(x, \theta )}$ 。该公式的概率分布就称为玻尔兹曼机。E表示能量函数(损失函数)目标函数。 $Z(\theta)$ 是一个归一化常数，能够使所有概率分布的总和等于1， $Z(\theta) = \sum_{x}e^{-E(x,\theta)}$ 。

玻尔兹曼机中引入概率分布后，似然函数 $L\left (\theta \right ) = \prod_{n=1}^{N}p(x_{n}\mid \theta )$ 转换为对数似然函数： $L\left (\theta \right ) = \sum_{n=1}^{N}logp(x_{n}\mid \theta )$ 。当对数似然函数的梯度为0时，就可以得到最大似然函数估计量。而对于对数似然函数，通过求连接权重 $w_{ij}$ 和偏执 $b_{i}$ 的相关梯度，可以求出调整值。但是，因为似然函数是基于所有单元组合来计算的，所以单元数过多将会导致组合数异常庞大，无法进行实时计算。为了解决这个问题，人们提出了一种近似算法，即对比散度算法（Contrastive Divergence, CD）。

两种玻尔兹曼机的构成形式：

全部由可见单元构成；
由可见单元和隐藏单元共同构成。

如上图：隐藏单元与输入数据没有直接联系。以图像为例，图像的像素点就相当于可见单元。前面的介绍就是在计算各像素点为黑=0或白=1的概率。隐藏单元虽然与输入数据没有直接联系，但是会影响可见单元的概率。假设可见单元为可见变量v、隐藏单元为隐藏变量h。玻尔兹曼机中含有隐藏变量时，概率分布仍然与前面计算的结果相同。所以，这并没有解决似然函数中组合数庞大的问题。与不含隐藏变量的情况相比，玻尔兹曼机中增加隐藏变量后，参数量相应增加了一个输入数据维度。因此组合数增加，计算愈发困难。

三、受限玻尔兹曼机

含有隐藏变量的玻尔兹曼机的网络训练非常困难。所以，辛顿（Hinton）等人在玻尔兹曼机中加入了“层内单元之间无连接”的限制，提出了受限玻尔兹曼机（Restricted Boltzmann Machine）。

受限玻尔兹曼机是由可见层和隐藏层构成的两层结构，可见层和隐藏层又分别由可见变量v和隐藏变量h构成。可见层与隐藏层之间是相互连接着的，而相同层内单元之间均无连接。

受限玻尔兹曼机的能量函数为： $E\left ( v,h,\theta \right ) = - \sum_{i=1}^{n}b_{i}v_{i}- \sum_{j=1}^{m}c_{j}h_{j} - \sum_{i=1}^{n}\sum_{j=1}^{m}w_{ij}v_{i}h_{j}$ 。 $b_{i}$ 是可见变量的偏置， $c_{j}$ 是隐藏变量的偏置， $w_{ij}$ 是连接权重， $\theta$ 是表示所有连接权重和偏置的参数集合。能量函数 $E(v, h, \theta )$ )中，可见变量 $\large v_{i}$ 和隐藏变量 $\large h_{j}$ 的乘积即表示两者之间的相关程度，其与权重 $w_{ij}$ 一致时，能够得到参数的最大似然估计量。

状态(v，h)的联合概率分布如下所示。

在受限玻尔兹曼机的训练过程中，需要计算的参数包括可见变量偏置 $b_{i}$ 、隐藏变量的偏置 $c_{j}$ ，以及连接权重 $w_{ij}$ 。和玻尔兹曼机一样，计算时也需要使用对数似然函数，然后求导计算梯度。然后迭代更新计算连接权重和偏置。

对于受限玻尔兹曼机的庞大计算量，可以使用Gibbs采样算法进行迭代计算近似求解。但是迭代次数仍然很多。人们提出了对比散度算法这种近似算法。

四、对比散度算法

Gibbs采样和对比散度算法都是近似求解算法。能够通过较少的迭代次数求出参数调整值。

五、深度信念网络

辛顿等人提出的深度信念网络由受限玻尔兹曼机通过堆叠组成，与多层神经网络或卷积神经网络最大的区别是网络的训练方法不同。

训练神经网络或卷积神经网络时，首先要确定网络结构，根据最顶层的误差调整连接权重和偏置。具体做法是：使用误差反向传播算法，把误差反向传播到下一层，调整所有的连接权重和偏置。链式法则。
深度信念网络则如下图所示，是使用对比散度算法，逐层来调整连接权重和偏置的。具体做法是：首先训练输入层和隐藏层之间的参数，把训练后得到的参数作为下一层的输入，再调整改层与下一个隐藏层之间的参数。然后逐次迭代，完成多层网络的训练。逐层训练。

深度信念网络既可以当做生成模式来使用，也可以当做判别模式来使用。

作为生成模式使用时，网络会按照某种概率分布生成训练数据。概率分布可根据训练样本导出，但是覆盖全部数据模式的概率分布很难导出。所以这里使用最大似然估计法训练参数，得到最能覆盖训练样本的概率分布。这种生成模式能够去除输入数据中含有的噪声，得到新的数据，也能够进行输入数据压缩和特征表达。
作为判别模式使用时，需要在模型顶层添加一层来达到分类的功能。就像手写字符识别那样，判别模型能够对输入进行分类。受限玻尔兹曼机不能单独作为判别模式使用，必须在顶层增加特殊的层才能进行数据分类。

深度信念网络作为判别模式使用时，如图4.10所示：在最顶层级联一个softmax层。进行分类时，需要同时提供训练样本和期望输出。除最顶层外，其他各层都可以使用无监督学习进行训练。接下来，把训练得到的参数作为初始值，使用误差反向传播算法对包含最顶层的神经网络进行训练。最顶层的参数使用随机数进行初始化。

六、小结

玻尔兹曼机起源于Hopfield神经网络这种相互连接型神经网络，在此基础上人们又提出了受限玻尔兹曼机。深度学习之所以变得如此流行，受限玻尔兹曼机功不可没，堆叠式的想法也是由此诞生的。虽然当前的主流技术是卷积神经网络和自编码器，但是受限玻尔兹曼机可用于卷积神经网络的预训练等，因此仍然是一项非常重要的技术。

小结：1、Hopfield网络，不分层，所有神经元可见且每个神经元之间互联，每个神经元的输出通过其他神经元与权重之积是否超过阈值来确定。如果超过阈值就为1；等于阈值维持原状变；如果不到阈值就为0。输出的值是确定的。

但是Hopfield记忆空间有限，容易发生串扰或者陷入局部最优解，所以一般采用模式正交化方法。

2、玻尔兹曼机对于Hopfield的改进，将神经元的输出改为状态概率，而不再直接输出状态值，可以避免陷入局部最优解。

3、受限玻尔兹曼机主要解决玻尔兹曼机隐藏层单元的训练困难这个问题，同时减小了计算量。取消了“层内单元之间的连接”（层内单元之间无连接）。

4、深度信念网络由玻尔兹曼机堆叠而成。可以用于生成模式和判别模式。

人工智能之数学基础：数学对人工智能技术发展的作用每天五分钟玩转人工智能机器学习深度学习之数学基础人工智能深度学习机器学习神经网络自然语言处理数学
本文重点数学是人工智能技术发展的基础，它提供了人工智能技术所需的数学理论和算法，包括概率论、统计学、线性代数、微积分、图论等等。本文将从以下几个方面探讨数学对人工智能技术发展的作用。概率论和统计学概率论和统计学是人工智能技术中最为重要的数学分支之一。概率论和统计学的应用范围非常广泛，包括机器学习、数据挖掘、自然语言处理、计算机视觉等领域。在人工智能技术中，概率论和统计学主要用于处理不确定性的问题，
人工智能之数学基础：线性子空间每天五分钟玩转人工智能机器学习深度学习之数学基础人工智能深度学习线性代数线性子空间线性空间
本文重点在前面的课程中，我们学习了线性空间，本文我们我们在此基础上学习线性子空间。在应用中，线性子空间的概念被广泛应用于信号处理、机器学习、图像处理等领域。子空间的性质子空间是线性空间的一部分，它需要满足下面的性质：设V是数域F上的线性空间，W是V的一个非空子集。如果W对于V中的加法运算和数乘运算也构成F上的一个线性空间，则称W为V的线性子空间（或称向量子空间）。具体来说，设V是一个线性空间，W是
详解离线安装Python库爱编程的喵喵 Python基础课程 python 离线安装 requirements
大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的知识进行总结与归纳，不仅形成深入且独到的理解，而且能够帮助新手快速入门。本文主要介绍了详解离线安装Python库，希望能对
YOLO11改进-模块-引入频率谱动态聚合模块FSDA 去除噪声一勺汤 YOLOv11模型改进系列目标检测魔改模块 YOLO YOLOv11 YOLOv11改进改进
在图像去雾领域，深度学习在白天图像去雾方面成果显著，但夜间雾图研究较少。夜间雾图面临诸多挑战，其中包括雾、辉光和噪声因多个低强度有源彩色光源而具有复杂特性，以及模拟与真实数据的域差异导致的亮度问题。为解决这些，我们使用FSDA模块，处理频率不一致特性。FSDA先对频谱信息聚合，再计算通道权重并应用，最后映射回空间域，以此优化频谱信息，使模型更好处理复杂干扰。本文将其与YOLOv11相结合，增强YO
基于多头注意机制的多尺度特征融合的GCN的序列数据（功率预测、故障诊断）模型及代码详解清风AI 深度学习算法详解及代码复现人工智能神经网络深度学习 python conda pip pandas
GCN基础在深度学习领域中，图卷积网络(GCN)是一种强大的图数据处理工具。它将卷积操作扩展到图结构上，能够有效捕捉图中节点之间的关系信息。GCN的核心思想是通过聚合邻居节点的特征来更新目标节点的表示，这种局部聚合机制使得GCN能够学习到图的拓扑结构和节点属性。GCN的主要构成要素包括节点特征矩阵、邻接矩阵和卷积核。通过多次迭代，GCN可以逐步学习到图中节点的高阶表示，为后续的分类、预测等任务提供
YOLO魔改之频率分割模块（FDM）清风AI YOLO算法魔改系列 YOLO 人工智能计算机视觉目标检测 python 深度学习
目标检测原理目标检测是一种将目标分割和识别相结合的图像处理技术，旨在从图像中定位并识别特定目标。深度学习方法，如FasterR-CNN和YOLO系列，已成为主流解决方案。这些方法通常采用两阶段或单阶段策略，通过卷积神经网络(CNN)提取特征并进行分类和定位。在小目标检测中，为克服分辨率低和特征不明显的问题，模型设计中会特别注重特征融合和多尺度处理，以增强对小目标的感知能力。YOLOv8基础YOLO
PyTorch模型训练实战指南：掌握动态图特性与工业级部署技巧 lmtealily pytorch 人工智能 python
前言在深度学习领域，PyTorch凭借其动态计算图、高效的自动微分系统及高度Pythonic的设计哲学，已成为学术界与工业界的主流框架。其即时执行模式大幅简化了模型调试流程，而灵活的模块化设计则为复杂模型的构建提供了坚实基础。然而，从实验原型到工业级部署的全链路实践中，开发者仍需系统性掌握框架核心特性与工程化技巧。本文以实战为导向，深入剖析PyTorch动态图机制与自动微分原理，详解从数据预处理、
ESG证书：AI预测未来十年职场人的黄金入场券 ESG学习圈 pandas python django
当ChatGPT开始撰写ESG报告，当机器学习模型精准预测企业碳排放轨迹，一场由AI驱动的ESG革命正在颠覆传统可持续发展领域。根据彭博新能源财经预测，到2030年全球ESG资产管理规模将突破50万亿美元，而AI技术将成为撬动这个万亿级市场的核心杠杆。一、AI透视下的ESG黄金时代在微软开发的AI模型ESG-NOW系统中，通过分析全球4300家上市公司近十年的环境数据，成功预测2025年新能源行业
目标检测YOLO实战应用案例100讲-基于毫米波雷达与摄像头协同的道路目标检测与识别（续）林聪木目标检测 YOLO 人工智能
目录3.2实测数据采集与分析3.2.1回波数据处理3.2.2毫米波雷达数据采集实验3.3基于传统图像特征的目标识别算法3.3.1基于灰度共生矩阵的时频图特征提取3.3.2支持向量机分类器3.3.3实验及结果分析3.4基于卷积神经网络的目标识别算法3.4.1卷积神经网络的基本理论3.4.2卷积神经网络框架设计3.4.3实验及结果分析基于图像的目标检测算法4.1目标检测算法一般流程4.2典型目标检测算
LeetCode 第30题：串联所有单词的子串 Gemini技术窝 leetcode 算法数据结构 java
大家好！今天我们要探讨的是一道非常有趣的字符串处理题目——LeetCode第30题：串联所有单词的子串。这个问题就像是在寻找字符串中的藏宝图，每个单词都是一个线索，我们需要把这些线索串联起来，找到它们在字符串中的位置。准备好了吗？让我们一起解锁这个问题的解决方案吧！文章目录问题描述解题思路高效代码实现详细讲解代码逻辑图解过程举例说明例子1：简单例子例子2：无匹配项例子3：重复单总结问题描述首先，让
【Dive Into Stable Diffusion v3.5】1：开源项目正式发布——深入探索SDv3.5模型全参/LoRA/RLHF训练 Donvink 大模型 #AIGC stable diffusion AIGC 人工智能机器学习深度学习
目录1引言2项目简介3快速上手3.1下载代码3.2环境配置3.3项目结构3.4下载模型与数据集3.5运行指令3.6核心参数说明3.6.1通用参数3.6.2优化器/学习率3.6.3数据相关4结语1引言在人工智能和机器学习领域，生成模型的应用越来越广泛。StableDiffusion作为其中的佼佼者，因其强大的图像生成能力而备受关注。今天，我的开源项目DiveIntoStableDiffusionv3
PyTorch 深度学习实战（19）：离线强化学习与 Conservative Q-Learning (CQL) 算法进取星辰 PyTorch 深度学习实战深度学习 pytorch 算法
在上一篇文章中，我们探讨了分布式强化学习与IMPALA算法，展示了如何通过并行化训练提升强化学习的效率。本文将聚焦离线强化学习（OfflineRL）这一新兴方向，并实现ConservativeQ-Learning(CQL)算法，利用Minari提供的静态数据集训练安全的强化学习策略。一、离线强化学习与CQL原理1.离线强化学习的特点无需环境交互：直接从预收集的静态数据集学习数据效率高：复用历史经验
知识库在意图识别中扮演着**数据支撑**和**语义理解辅助**的双重角色 PersistDZ 大数据与AI 人工智能
知识库在意图识别中扮演着数据支撑和语义理解辅助的双重角色，而训练智能客服的意图识别Agent需要结合知识库的结构化数据与机器学习技术。以下是详细解析：一、知识库在意图识别中的作用1.提供标注数据意图标签定义：知识库中存储了预先定义的意图分类体系（如“订单查询”“退换货”“投诉”等），为模型提供明确的训练目标。标注样本：知识库包含大量用户对话历史及其对应的意图标签，是训练监督学习模型的核心数据源。2
一切皆是映射：DQN训练加速技术：分布式训练与GPU并行 AI天才研究院计算 AI大模型企业级应用开发实战 ChatGPT 计算科学神经计算深度学习神经网络大数据人工智能大型语言模型 AI AGI LLM Java Python 架构设计 Agent RPA
1.背景介绍1.1深度强化学习的兴起近年来，深度强化学习（DeepReinforcementLearning，DRL）在游戏、机器人控制、自然语言处理等领域取得了令人瞩目的成就。作为一种结合深度学习和强化学习的强大技术，DRL能够使智能体在与环境交互的过程中学习最优策略，从而实现自主决策和控制。1.2DQN算法及其局限性深度Q网络（DeepQ-Network，DQN）是DRL的一种经典算法，它利用
大规模语言模型从理论到实践分布式训练的集群架构 AI智能涌现深度研究 DeepSeek R1 &大数据AI人工智能 Python入门实战计算科学神经计算深度学习神经网络大数据人工智能大型语言模型 AI AGI LLM Java Python 架构设计 Agent RPA
大规模语言模型从理论到实践分布式训练的集群架构作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着深度学习技术的飞速发展，大规模语言模型（LargeLanguageModels,LLMs）在自然语言处理（NaturalLanguageProcessing,NLP）领域取得了突破性进展。LLMs，如BERT、GPT-3等，通
图生视频技术的发展与展望：从技术突破到未来图景 Liudef06 Stable Diffusion 音视频人工智能深度学习 stable diffusion
一、技术发展现状图生视频（Image-to-VideoGeneration）是生成式人工智能（AIGC）的重要分支，其核心是通过单张或多张静态图像生成动态视频序列。近年来，随着深度学习、多模态融合和计算硬件的进步，图生视频技术经历了从基础研究到商业落地的快速演进。早期探索与GAN的奠基早期图生视频技术主要基于生成对抗网络（GAN），通过对抗训练生成低分辨率的视频片段。例如，DeepMind的DVD
近期计算机领域的热点技术 0dayNu1L 云计算量子计算人工智能
随着科技的飞速发展，计算机领域的新技术、新趋势层出不穷。本文将探讨近期计算机领域的几个热点技术趋势，并对它们进行简要的分析和展望。一、人工智能与机器学习人工智能（AI）和机器学习（ML）是近年来计算机领域最为热门的话题之一。AI和ML技术已经广泛应用于图像识别、自然语言处理、智能推荐等领域，并取得了显著的成果。随着技术的不断进步，AI和ML将更深入地渗透到各个行业，为人类社会带来更多便利和效益。在
Moodle + Websoft9：创新教育的强大组合，助力教学与学习开源软件
Moodle+Websoft9：构建未来课堂的技术基石一、Moodle：开源生态的深度解析•模块化设计：支持超800个官方插件，如H5P交互内容创作、BigBlueButton虚拟课堂，满足个性化教学需求。•学习分析引擎：内置LearningAnalyticsAPI，可集成Python/R语言进行深度学习，预测学生学业风险。•移动优先战略：MoodleApp支持离线学习、扫码签到，2023年新增A
书籍-《动手学深度学习（英文版）》
书籍：DiveintoDeepLearning作者：AstonZhang，ZacharyC.Lipton，MuLi，AlexanderJ.Smola出版：CambridgeUniversityPress编辑：陈萍萍的公主@一点人工一点智能下载：书籍下载-《动手学深度学习（英文版）》01书籍介绍深度学习已经彻底改变了模式识别，为计算机视觉、自然语言处理和自动语音识别等领域提供了强大的工具。应用深度学
Matlab基于BP神经网络与NSGA-II的多目标工艺参数优化方法天天酷科研工艺参数优化 matlab 神经网络工艺参数优化
Matlab基于BP神经网络与NSGA-II的多目标工艺参数优化方法一、方法原理与框架BP神经网络的作用BP神经网络通过建立工艺参数与目标性能（如翘曲变形、收缩率、硬度等）之间的非线性映射关系，作为代理模型替代复杂的物理仿真或实验。其优势在于：能够处理多输入-多输出的复杂非线性关系，例如激光功率、扫描速度与熔覆层性能的关联。在注塑成型中，预测体积收缩率和翘曲变形的相对误差可控制在5%以内。通过正交
计算机专业毕业设计题目推荐（新颖选题）本科计算机科学专业相关毕业设计选题大全✅ 会写代码的羊毕设选题课程设计计算机网络毕设选题毕设系统毕设题目计算机科学专业
文章目录前言最新毕设选题（建议收藏起来）本科计算机科学专业相关的毕业设计选题毕设作品推荐前言2025全新毕业设计项目博主介绍：✌全网粉丝10W+,CSDN全栈领域优质创作者，博客之星、掘金/华为云/阿里云等平台优质作者。技术范围：SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、大数据、机器学习等设计与开发。主要内容：免费功能设计
使用 TensorFlow 进行图像处理：深度解析卷积神经网络（CNN）一碗黄焖鸡三碗米饭人工智能前沿与实践 tensorflow 图像处理 cnn 人工智能机器学习 python ai
目录使用TensorFlow进行图像处理：深度解析卷积神经网络（CNN）1.什么是卷积神经网络（CNN）？CNN的基本结构为什么CNN适合图像处理？2.使用TensorFlow构建CNN2.1环境准备2.2加载并预处理MNIST数据集2.3构建CNN模型2.4编译和训练模型2.5评估模型3.CNN的优化与改进3.1使用数据增强3.2调整网络结构4.CNN在其他图像处理任务中的应用5.总结参考文献在
神经网络之参数初始化硬水果糖人工智能神经网络人工智能深度学习
引言：参数初始化是训练深度神经网络的一个关键步骤，目的是给网络中权重（weights）和偏置（biases）赋予初始值。合适的参数初始化方法有助于提高训练速度、避免梯度消失/爆炸问题，并且加速网络的收敛。一、参数初始化目的避免梯度消失和梯度爆炸：在深度神经网络中，参数初始化对梯度流动非常重要。如果初始权重值太大或太小，可能导致梯度爆炸或梯度消失，从而增加网络的训练难度。加速收敛：良好的初始化可以帮
Linux安装Anaconda和Jupyter 硬水果糖人工智能 Linux linux jupyter 运维
一、了解Anaconda和Jupyter引言：Anaconda是一个流行的开源数据科学平台，广泛用于数据分析、机器学习、人工智能等领域。它是一个集成了大量科学计算和数据科学工具的Python和R编程语言环境。Anaconda的主要目标是简化数据科学和机器学习的开发流程，提供一个易于安装和管理的环境。而预装了大量常用的Python和R库，这些库涵盖了数据科学的各个方面，包括：数据分析：Pandas、
ChatGPT、DeepSeek、GIS与Python机器学习强强联合！地质灾害风险评估、易发性分析、信息化建库及灾后重建 WangYan2022 DeepSeek ChatGPT 地下水地质灾害 DeepSeek ChatGPT GIS 灾后重建
在地质灾害频繁肆虐的当下，精准开展风险评价刻不容缓。如今，一门极具创新性的教程震撼登场，它将ChatGPT、DeepSeek等前沿技术与GIS、Python以及机器学习深度交融，为学员打造出前所未有的学习体验，助力大家在地质灾害风险评价领域强势突围，一路领先。前沿技术融合，铸就智能学习核心动力教程最闪耀的亮点之一，便是大胆引入了ChatGPT和DeepSeek技术。它们恰似无所不能的“数据魔法师”
Hessian 矩阵是什么 ZhangJiQun&MXP 教学 2021 AI python 2024大模型以及算力矩阵线性代数算法人工智能机器学习
Hessian矩阵是什么目录Hessian矩阵是什么Hessian矩阵的性质及举例说明**1.对称性****2.正定性决定极值类型****特征值为2（正），因此原点(0,0)(0,0)(0,0)是极小值点。****3.牛顿法中的应用****4.特征值与曲率方向****5.机器学习中的实际意义**一、定义与公式二、实例分析Hessian矩阵是多元函数二阶偏导数构成的方阵，用于分析函数局部曲率、判断极
LoRA中黑塞矩阵、Fisher信息矩阵是什么 ZhangJiQun&MXP 教学 2021 论文 2024大模型以及算力矩阵机器学习人工智能 transformer 深度学习算法线性代数
LoRA中黑塞矩阵、Fisher信息矩阵是什么1.三者的核心概念黑塞矩阵（Hessian）二阶导数矩阵，用于优化问题中判断函数的凸性（如牛顿法），或计算参数更新方向（如拟牛顿法）。Fisher信息矩阵（FisherInformationMatrix,FIM）统计学中衡量参数估计的不确定性，反映数据中包含的关于参数的信息量。在机器学习中常用于自然梯度下降（NaturalGradientDescent
神经网络基础之正则化硬水果糖人工智能神经网络人工智能机器学习
引言：正则化（Regularization）是机器学习中一种用于防止模型过拟合技术。核心思想是通过在模型损失函数中添加一个惩罚项（PenaltyTerm），对模型的复杂度进行约束，从而提升模型在新数据上的泛化能力。一、正则化目的防止过拟合：当模型过于复杂（例如神经网络层数过多、参数过多）时，容易在训练数据上“记忆”噪声或细节，导致在测试数据上表现差。简化模型：正则化通过限制模型参数的大小或数量，迫
《基于图神经网络的安卓应用检测系统设计与实现》开题报告大数据蟒行探索者毕业论文/研究报告神经网络 android 人工智能机器学习大数据深度学习 python
个人主页：@大数据蟒行探索者目录一、课题的研究目的和意义1.研究目的2.研究意义二、国内(外)研究现状及分析1.国内研究现状2.国外研究现状3.研究分析三、课题主要研究内容及可行性分析1.研究内容2.可行性分析四、研究方案和技术途径1.研究方案2.技术途径五、外部条件及解决办法1.开发环境2.解决办法六、主要参考文献一、课题的研究目的和意义1.研究目的随着智能手机的普及，安卓操作系统成为全球最为广
决策树算法全解析：从零基础到Titanic实战，一文搞定机器学习经典模型吴师兄大模型 0基础实现机器学习入门到精通算法机器学习决策树人工智能深度学习编程开发语言
Langchain系列文章目录01-玩转LangChain：从模型调用到Prompt模板与输出解析的完整指南02-玩转LangChainMemory模块：四种记忆类型详解及应用场景全覆盖03-全面掌握LangChain：从核心链条构建到动态任务分配的实战指南04-玩转LangChain：从文档加载到高效问答系统构建的全程实战05-玩转LangChain：深度评估问答系统的三种高效方法（示例生成、手
LeetCode[Math] - #66 Plus One Cwind java LeetCode 题解 Algorithm Math
原题链接：#66 Plus One 要求：给定一个用数字数组表示的非负整数，如num1 = {1, 2, 3, 9}, num2 = {9, 9}等，给这个数加上1。注意： 1. 数字的较高位存在数组的头上，即num1表示数字1239 2. 每一位（数组中的每个元素）的取值范围为0~9 难度：简单分析：题目比较简单，只须从数组
JQuery中$.ajax()方法参数详解 AILIKES JavaScript jsonp jquery Ajax json
url: 要求为String类型的参数，（默认为当前页地址）发送请求的地址。 type: 要求为String类型的参数，请求方式（post或get）默认为get。注意其他http请求方法，例如put和 delete也可以使用，但仅部分浏览器支持。 timeout: 要求为Number类型的参数，设置请求超时时间（毫秒）。此设置将覆盖$.ajaxSetup()方法的全局
JConsole & JVisualVM远程监视Webphere服务器JVM Kai_Ge JVisualVM JConsole Webphere
JConsole是JDK里自带的一个工具，可以监测Java程序运行时所有对象的申请、释放等动作，将内存管理的所有信息进行统计、分析、可视化。我们可以根据这些信息判断程序是否有内存泄漏问题。　　使用JConsole工具来分析WAS的JVM问题，需要进行相关的配置。　　首先我们看WAS服务器端的配置. 　　1、登录was控制台https://10.4.119.18
自定义annotation 120153216 annotation
Java annotation 自定义注释@interface的用法一、什么是注释说起注释，得先提一提什么是元数据(metadata)。所谓元数据就是数据的数据。也就是说，元数据是描述数据的。就象数据表中的字段一样，每个字段描述了这个字段下的数据的含义。而J2SE5.0中提供的注释就是java源代码的元数据，也就是说注释是描述java源
CentOS 5/6.X 使用 EPEL YUM源 2002wmj centos
CentOS 6.X 安装使用EPEL YUM源1. 查看操作系统版本[root@node1 ~]# uname -a Linux node1.test.com 2.6.32-358.el6.x86_64 #1 SMP Fri Feb 22 00:31:26 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux [root@node1 ~]#
在SQLSERVER中查找缺失和无用的索引SQL 357029540 SQL Server
--缺失的索引 SELECT avg_total_user_cost * avg_user_impact * ( user_scans + user_seeks ) AS PossibleImprovement , last_user_seek ,
Spring3 MVC 笔记（二） —json+rest优化 7454103 Spring3 MVC
接上次的 spring mvc 注解的一些详细信息！其实也是一些个人的学习笔记呵呵！
替换“\”的时候报错Unexpected internal error near index 1 \ ^ adminjun java “\替换”
发现还是有些东西没有刻子脑子里,,过段时间就没什么概念了,所以贴出来...以免再忘... 在拆分字符串时遇到通过 \ 来拆分，可是用所以想通过转义 \\ 来拆分的时候会报异常 public class Main { /*
POJ 1035 Spell checker(哈希表) aijuans 暴力求解--哈希表
/* 题意：输入字典，然后输入单词，判断字典中是否出现过该单词，或者是否进行删除、添加、替换操作，如果是，则输出对应的字典中的单词要求按照输入时候的排名输出题解：建立两个哈希表。一个存储字典和输入字典中单词的排名，一个进行最后输出的判重 */ #include <iostream> //#define using namespace std; const int HASH =
通过原型实现javascript Array的去重、最大值和最小值 ayaoxinchao JavaScript array prototype
用原型函数（prototype）可以定义一些很方便的自定义函数，实现各种自定义功能。本次主要是实现了Array的去重、获取最大值和最小值。实现代码如下： <script type="text/javascript"> Array.prototype.unique = function() { var a = {}; var le
UIWebView实现https双向认证请求 bewithme UIWebView https Objective-C
什么是HTTPS双向认证我已在先前的博文 ASIHTTPRequest实现https双向认证请求中有讲述，不理解的读者可以先复习一下。本文是用UIWebView来实现对需要客户端证书验证的服务请求，网上有些文章中有涉及到此内容，但都只言片语，没有讲完全，更没有完整的代码，让人困扰不已。但是此知
NoSQL数据库之Redis数据库管理(Redis高级应用之事务处理、持久化操作、pub_sub、虚拟内存) bijian1013 redis 数据库 NoSQL
3.事务处理 Redis对事务的支持目前不比较简单。Redis只能保证一个client发起的事务中的命令可以连续的执行，而中间不会插入其他client的命令。当一个client在一个连接中发出multi命令时，这个连接会进入一个事务上下文，该连接后续的命令不会立即执行，而是先放到一个队列中，当执行exec命令时，redis会顺序的执行队列中
各数据库分页sql备忘 bingyingao oracle sql 分页
ORACLE 下面这个效率很低 SELECT * FROM ( SELECT A.*, ROWNUM RN FROM (SELECT * FROM IPAY_RCD_FS_RETURN order by id desc) A ) WHERE RN <20; 下面这个效率很高 SELECT A.*, ROWNUM RN FROM (SELECT * FROM IPAY_RCD_
【Scala七】Scala核心一：函数 bit1129 scala
1. 如果函数体只有一行代码，则可以不用写{},比如 def print(x: Int) = println(x) 一行上的多条语句用分号隔开，则只有第一句属于方法体，例如 def printWithValue(x: Int) : String= println(x); "ABC" 上面的代码报错，因为，printWithValue的方法
了解GHC的factorial编译过程 bookjovi haskell
GHC相对其他主流语言的编译器或解释器还是比较复杂的，一部分原因是haskell本身的设计就不易于实现compiler，如lazy特性，static typed，类型推导等。关于GHC的内部实现有篇文章说的挺好，这里，文中在RTS一节中详细说了haskell的concurrent实现，里面提到了green thread，如果熟悉Go语言的话就会发现，ghc的concurrent实现和Go有点类
Java-Collections Framework学习与总结-LinkedHashMap BrokenDreams LinkedHashMap
前面总结了java.util.HashMap，了解了其内部由散列表实现，每个桶内是一个单向链表。那有没有双向链表的实现呢？双向链表的实现会具备什么特性呢？来看一下HashMap的一个子类——java.util.LinkedHashMap。
读《研磨设计模式》-代码笔记-抽象工厂模式-Abstract Factory bylijinnan abstract
声明：本文只为方便我个人查阅和理解，详细的分析以及源代码请移步原作者的博客http://chjavach.iteye.com/ package design.pattern; /* * Abstract Factory Pattern * 抽象工厂模式的目的是： * 通过在抽象工厂里面定义一组产品接口，方便地切换“产品簇” * 这些接口是相关或者相依赖的
压暗面部高光 cherishLC PS
方法一、压暗高光&重新着色当皮肤很油又使用闪光灯时，很容易在面部形成高光区域。下面讲一下我今天处理高光区域的心得：皮肤可以分为纹理和色彩两个属性。其中纹理主要由亮度通道（Lab模式的L通道）决定，色彩则由a、b通道确定。处理思路为在保持高光区域纹理的情况下，对高光区域着色。具体步骤为：降低高光区域的整体的亮度，再进行着色。如果想简化步骤，可以只进行着色（参看下面的步骤1
Java VisualVM监控远程JVM crabdave visualvm
Java VisualVM监控远程JVM JDK1.6开始自带的VisualVM就是不错的监控工具. 这个工具就在JAVA_HOME\bin\目录下的jvisualvm.exe, 双击这个文件就能看到界面通过JMX连接远程机器, 需要经过下面的配置: 1. 修改远程机器JDK配置文件 (我这里远程机器是linux).
Saiku去掉登录模块 daizj saiku 登录 olap BI
1、修改applicationContext-saiku-webapp.xml <security:intercept-url pattern="/rest/**" access="IS_AUTHENTICATED_ANONYMOUSLY" /> <security:intercept-url pattern=&qu
浅析 Flex中的Focus dsjt html Flex Flash
关键字：focus、 setFocus、 IFocusManager、KeyboardEvent 焦点、设置焦点、获得焦点、键盘事件一、无焦点的困扰——组件监听不到键盘事件原因：只有获得焦点的组件（确切说是InteractiveObject）才能监听到键盘事件的目标阶段；键盘事件（flash.events.KeyboardEvent）参与冒泡阶段，所以焦点组件的父项（以及它爸
Yii全局函数使用 dcj3sjt126com yii
由于YII致力于完美的整合第三方库，它并没有定义任何全局函数。yii中的每一个应用都需要全类别和对象范围。例如，Yii::app()->user;Yii::app()->params['name'];等等。我们可以自行设定全局函数，使得代码看起来更加简洁易用。(原文地址) 我们可以保存在globals.php在protected目录下。然后，在入口脚本index.php的，我们包括在
设计模式之单例模式二（解决无序写入的问题） come_for_dream 单例模式 volatile 乱序执行双重检验锁
在上篇文章中我们使用了双重检验锁的方式避免懒汉式单例模式下由于多线程造成的实例被多次创建的问题，但是因为由于JVM为了使得处理器内部的运算单元能充分利用，处理器可能会对输入代码进行乱序执行（Out Of Order Execute）优化，处理器会在计算之后将乱序执行的结果进行重组，保证该
程序员从初级到高级的蜕变 gcq511120594 框架工作 PHP android html5
软件开发是一个奇怪的行业，市场远远供不应求。这是一个已经存在多年的问题，而且随着时间的流逝，愈演愈烈。我们严重缺乏能够满足需求的人才。这个行业相当年轻。大多数软件项目是失败的。几乎所有的项目都会超出预算。我们解决问题的最佳指导方针可以归结为——“用一些通用方法去解决问题，当然这些方法常常不管用，于是，唯一能做的就是不断地尝试，逐个看看是否奏效”。现在我们把淫浸代码时间超过3年的开发人员称为
Reverse Linked List hcx2013 list
Reverse a singly linked list. /** * Definition for singly-linked list. * public class ListNode { * int val; * ListNode next; * ListNode(int x) { val = x; } * } */ p
Spring4.1新特性——数据库集成测试 jinnianshilongnian spring 4.1
目录 Spring4.1新特性——综述 Spring4.1新特性——Spring核心部分及其他 Spring4.1新特性——Spring缓存框架增强 Spring4.1新特性——异步调用和事件机制的异常处理 Spring4.1新特性——数据库集成测试脚本初始化 Spring4.1新特性——Spring MVC增强 Spring4.1新特性——页面自动化测试框架Spring MVC T
C# Ajax上传图片同时生成微缩图(附Demo) liyonghui160com
1.Ajax无刷新上传图片,详情请阅我的这篇文章。（jquery + c# ashx） 2.C#位图处理 System.Drawing。 3.最新demo支持IE7,IE8,Fir
Java list三种遍历方法性能比较 pda158 java
从c/c++语言转向java开发，学习java语言list遍历的三种方法，顺便测试各种遍历方法的性能，测试方法为在ArrayList中插入1千万条记录，然后遍历ArrayList，发现了一个奇怪的现象，测试代码例如以下： package com.hisense.tiger.list; import java.util.ArrayList; import java.util.Iterator;
300个涵盖IT各方面的免费资源（上）——商业与市场篇 shoothao seo 商业与市场 IT资源免费资源
A.网站模板+logo+服务器主机+发票生成 HTML5 UP:响应式的HTML5和CSS3网站模板。 Bootswatch:免费的Bootstrap主题。 Templated:收集了845个免费的CSS和HTML5网站模板。 Wordpress.org|Wordpress.com:可免费创建你的新网站。 Strikingly:关注领域中免费无限的移动优
localStorage、sessionStorage uule localStorage
W3School 例子 HTML5 提供了两种在客户端存储数据的新方法： localStorage - 没有时间限制的数据存储 sessionStorage - 针对一个 session 的数据存储之前，这些都是由 cookie 完成的。但是 cookie 不适合大量数据的存储，因为它们由每个对服务器的请求来传递，这使得 cookie 速度很慢而且效率也不