ldc1513

Machine Learning——A Probabilistic Approach学习笔记第二章概率

第二章概率(Probability)

2.1引言(Introduction)

在这一章，我们将会讲述关于概率论的更多细节。我们不会太过深入，但是我们至少会简要的了解一下我们在接下来的章节中所要涉及的思想。
让我们先来思考一下：什么是概率？
常见的解释有两种，第一种是frequentist解释。这种观点认为概率代表了一个事件发生的长期概率。例如，它对抛硬币的概率的解释是：如果抛很多次硬币，那么必然有一半左右是正面。另一种是贝叶斯解释，它认为概率是一种量化我们对事物的不确定性的认识。相比之下，它更加侧重信息表示而非重复试验。例如，它对抛硬币的解释则是：我们对硬币落下之后是正面或者反面的概率的期望相同。
贝叶斯解释的一个巨大的优势在于它可以被用来描述那些我们无法多次获取概率的事件。因此，我们在这本书中将会使用贝叶斯解释。好在，在不同的解释中，基本的概率论法则都是相同的，因此不会产生太大的影响。

2.2概率论初窥(a brief review)

这一部分是对于概率论的一个简单的介绍，为读者提供一个过渡。

2.2.1离散随机变量(discrete random variable)

：A发生的概率， $p\bar{(A)}$ ：A不发生的概率= A=1:A是真的 A=0:A是假的
我们可以通过定义一个离散随机变量X来延拓二元事件（即结果要么真要么假）的定义。X的取值范围可以是一个有限或可数无限集K。我们定义事件X=x的概率为，或者简记为，在这里p称为概率质量函数(probability mass function，简称pmf)，其满足 $0\leq p(x)\leq1$ ，且 $\sum _{x \in K} p(x)=1$

2.2.2基本法则

2.2.2.1两个事件同时发生的概率

$p(A \vee B)=p(A)+p(B)-p(A \wedge B)$

2.2.2.2联合概率(joint probabilities)

联合事件：（乘法原理：product rule）

$p(A,B)=P(A \wedge B)=p(A|B)p(B)$

边际分布(marginal distribution)：(加法原理：sum rule)

$p(A)=\sum _{b} p(A,b)=\sum _{b} p(A|B=b)p(B=b)$

2.2.2.3条件概率

$p(A|B)=\frac{p(A,B)}{p(B)},if \ p(B)>0$

2.2.3贝叶斯法则

2.2.3.1举例：医学诊断

一个人想要用X光检测自己有没有得乳腺癌。已知乳腺癌的患病率是0.004，如果得了乳腺癌，那么X光检测阳性的几率是0.8；如果没有得，那么假阳性的几率则是0.1，那么，如果检测为阳性，她得乳腺癌的几率是？

2.2.3.2举例：生成式分类器(generative classififier)

对上例的一般化：
这被称为生成式分类器，因为它规定(specify)了如何使用类条件密度(class conditional density) $p(\mathbf{x}|y=c)$ 和类先验(class prior)来获取信息。一个代替的方法是直接使用判别分类器求出(fit)类后验(class posterior) $p(y=c|\mathbf{x})$

2.2.4独立和条件独立(conditional independence)

若有，我们称X,Y无条件独立，记为 $X\bot Y$ ；一般地，如果集合里面的元素两两独立，我们也称其共同(mutal)独立
当然，在真实世界中变量太多，往往不能保证独立性，但是其他变量的干扰往往是间接的(mediated)而非直接的，因而我们可以使用条件概率进行描述：如果，则记 $X\bot Y|Z$
定理：如果存在函数g,h，使得对任意的x,y,z,p(z)>0，均有，则 $X\bot Y|Z$

2.2.5连续随机变量

如果X是一个连续的随机变量，那么定义函数 $F(q)=p(X\leq q)$ ，称为X的累积分布函数(cumulative distribution function,cdf)，显然为一个单调递增函数。再定义，称为概率密度函数(probability density function,pdf)，则
取间隔足够小，则
注意：在pdf中，p(x)可能会>1，因为它是F的导数，而只有F<1。而这里的p(x)并不是发生x的概率，因为x根本不是一个事件，发生的概率为0，这里的p(x)是在x附近的事件发生的密度。
笔者补充：事实上，一般的离散随机变量，通过定义定义域外的点处概率为0，可以延拓为连续随机变量。例如，在抛硬币的时候，p(X=0)=p(X=1)=1/2，则定义其余p(X=k)=0，我们得到了其cdf： $P(x)=\left\{\begin{matrix} 0 & {\ }x< 0 \\ \frac{1}{2} & 0\leqslant x < 1\\ 1 & x\geqslant 1 \end{matrix}\right.$ ，当然了，因为存在断点，其导函数(pdf)不存在。

2.2.6分位数(quantiles)

由于F单调递增，我们可以定义F的反函数 $F^{-1}(\alpha )$ ，称为 $\alpha$ 对的分位数。例如， $F^{-1}(0.5 )$ 即为X的分布的中位数‘；而 $F^{-1}(0.75 )$ 和 $F^{-1}(0.25 )$ 分别称为上下四分位数(quartiles)

2.2.7均值与方差(mean and variance)

一组数据中最为重要的指标就是均值，记为 $\mu$ ，描述了数据的期望：
方差记为 $\sigma^{2}$ ，描述了数据的广度(spread)，

2.3一些常见的离散分布(discrete distributions)

在这一部分，我们会回顾一些常见的定义在离散状态空间上的分布

2.3.1二项分布和伯努利分布(binomial&Bernoulli distribution)

假如我们投掷一个硬币n次，正面朝上的概率是 $\theta$ ，记正面朝上的次数为X，则X符合二项分布：
如果取n=1，则得到伯努利分布：

2.3.2多项分布和多项伯努利分布(multinomial)

抛一个K面体n次的概率分布记为多项分布：
n=1的时候得到多项伯努利分布：，也称为分类分布(catergorial distribution)，因此，我们记其为 $Cat(x|\boldsymbol{\theta })$

2.3.3泊松分布(Poisson distribution)

2.3.4经验分布(emperical distribution)

给定一组数据： $D=\left \{ {x_{1},x_{2},...,x_{N}} \right \}$ ，则其定义的经验分布为：，其中
此外，我们还可以为每一个样例加权后再求和。这样，我们就可以把权值和样例联系在一起，构成一个直方图

2.4一些常见的连续分布

2.4.1高斯分布(Gaussian distribution)

高斯分布：
我们经常讨论高斯分布的精确度(precision)，这里我们使用 $\lambda=\frac{1}{\sigma^{2}}$ 来表示，精确度越大则分布曲线越窄。
高斯函数的cdf：
这个积分并没有闭合形式表达式（closed form expression，即使用有限次初等运算得到的表达式），不过，我们可以用误差函数(error function, erf)对它进行估计：，其中 $z=(x-\mu)/\sigma$ ，
高斯分布是在统计中使用最为广泛的分布。一方面，它的两个变量都很容易进行解释，一个是方差，一个是均值；另一方面，中心极限定理(central limit theorem)告诉我们相互独立的随机变量的加和接近高斯分布，因此它在过滤噪声方面的效果非常优良；最后，高斯分布做出的预测的假设是最少的（可以操作的空间最大）；最后，它的数学形式很简洁，让结果易于进行调整。

2.4.2退化概率密度函数(degenerate pdf)

在高斯分布中，我们假设方差趋近于0，则其会变成一个类似“尖钉”的形状，中心为 $\mu$ ，可以表示为，称为狄拉克delta函数，其中 $\delta$ 为狄拉克函数(在自变量取0时值为无穷，在其他的时候取值为0)，并使得在实数域上的积分为1
delta函数的一个有用的性质就是它的筛性：
高斯分布的一个问题在于它对异常值比较敏感。这是因为它的log概率在远离中心点时以二次方速度衰减。因此，我们有一个鲁棒性更好的分布，即学生t分布(Student t distribution)：，其中 $\mu$ 为均值， $\sigma^{2}$ 为尺度参数， $\nu >0$ 为自由度。如下图的log-concave所示，边际点对高斯分布的影响显然更加明显（因为边际点很少，所以很小的边际波动就可以引发很大的扰动；而蓝色的student分布则明显好得多）

为了保证方差有限，我们需要自由度 $\nu>2$ ，因而常用 $\nu=4$ ，而当 $\nu\gg 5$ 时，student分布会向高斯分布收敛

2.4.3拉普拉斯分布(Laplace distribution)

另一个尾巴比较重(heavy tail，即异常值影响小)的分布是拉普拉斯分布，也被称为双边指数分布(double sided exponential distribution)。

，其中 $\mu$ 为位置参数，为规模参数

2.4.4伽马分布(gamma distribution)

，其中 $\Gamma$ 即为Gamma函数，由定义

一些特例分布：

指数分布：
Erlang分布：
$\chi^{2}$ (chi-squared)分布：
反Gamma分布：如果x满足Gamma分布，则1/x满足反Gamma分布

2.4.5beta分布

Beta分布：，为了保证积分为1，B(a,b)即为a,b定义的Beta函数：

2.4.6帕累托分布(Pareto distribution)

帕累托分布：

2.5联合概率分布

之前，我们一直着眼于单变量的概率分布。接下来我们将会讨论一个更具挑战性的问题：多个相关变量的分布；这也将会是本书的核心。

2.5.1协方差和相关系数(covariance&correlation)

协方差描述两个一维变量XY之间的线性相关程度，定义为：
如果x是d维的随机向量，记，那么x的协方差矩阵定义为，其中，为随机变量X的方差(variance)
注意这是一个半正定矩阵，证明可以看https://zhidao.baidu.com/question/920597155846911579.html，核心思路为： $y^Tcov[x]y=y^TE[(x-\mu)(x-\mu)^T]y=E[y^T(x-\mu)(x-\mu)^Ty]\ \ \ \ \ \ \\ \ \ =E[((x-\mu)^Ty)^T((x-\mu)^Ty)]$
协方差的取值可以为0到正无穷。有的时候我们希望使用一个有界的数值，因此会使用皮尔森(Pearson)的相关系数(correlation coefficient)
X和Y两个一维随机变量的相关系数定义为：
之后同样的定义d维变量x的相关矩阵：
容易发现，R中每一个corr[X,Y]的取值范围均在±1之间，且对角线全为1
（证明使用cauchy不等式可秒，并且可得出取±1条件即为X,Y正/负相关）
如果X和Y无关，那么p(X,Y)=p(X)P(y)，因此cov[X,Y]=corr[X,Y]=0
但是，corr[X,Y]=0不一定推出X,Y无关，如 $Y=X^2,X\sim U(-1,1)$ ，则，这实际上是因为协方差描述的是X,Y之间的线性相关程度，并不是一切相关程度

2.5.2多元高斯分布(multivariate Gaussian)

多元高斯分布，或者多元正态分布(multivariate normal,MVN)，是最为常用的连续变量的联合概率密度函数。
MVN的pdf的定义为：
其中 $\mu=E(X)$ 为D维均值向量， $\Sigma=cov[x]$ 为D阶协方差矩阵，有的时候我们会称其为精度矩阵(precision matrix)或浓缩矩阵(concentration matrix)， $\Sigma^{-1}$ 为协方差矩阵的逆矩阵，而前面的系数保证该分布的积分为1
关于多元高斯分布公式的来龙去脉，https://zhuanlan.zhihu.com/p/58987388解释的非常清楚，同时使用变量替换(Jacobi)给出了积分为1的证明。事实上，这就是协方差矩阵的本质之一：假设变换 $z=B^{-1}(x-\mu)$ 使得的各个变量变为相互无关，则‘： $cov[x]=E[(x-\mu)(x-\mu)^T]=E[(Bz)(Bz)^T]=Bcov[z,z]B^T=BB^T$ ，其中最后一步用到了z的无关性，同时我们便有 $|\Sigma|^{\frac{1}{2}}=|B|$
显然，不同的协方差矩阵定义了不同形状的多元正态分布，其中，满协方差矩阵有D(D+1)/2个参数，对角协方差矩阵有D个参数，球形(spherical)或各向同(isotropic)协方差矩阵有1个参数( $\sigma^2$ )

2.5.3多元学生t分布

与一元的情形相同，多元学生t分布的鲁棒性比多元正态分布更强，其pdf为：
其中 $\Sigma$ 称为尺度矩阵(scale matrix)，因为它不完全是协方差矩阵； $V=v\Sigma$
它的长尾性(即不受异常值影响的性质)比正态要好，而且越小就越好

2.5.4狄利克雷分布

对beta分布的一个自然推广即为狄利克雷分布，若，则其pdf为：
其中，其中

2.6随机变量的变量替换(transformation)

如果随机变量 $x\sim p()$ ，且，那么y的分布是怎么样的呢？这是本节将要解答的问题。

2.6.1线性变换

如果f是一个线性函数，即，则我们很容易算出y的方差和均值：
根据期望的线性性质(linearity of expectation)，我们知道 $E[y]=E[Ax+b]=A\mu+b$
对于方差，我们则有： $cov[y]=cov[Ax+b]=A \Sigma A^T$ ，证明使用直接分解法即可
当然了，只有高斯分布才被方差和均值完全确定，因此我们最好想个办法把y的整个分布求出来

2.6.2一般变换

如果X是一个离散变量，则
如果X是一个连续变量，则我们不能使用上面的等式，因为在pdf中p为密度，在单点处取值无意义，因此，我们使用cdf进行计算：
，之后我们再通过求导即可计算出y的pdf
若P为单调递增函数，则反函数存在，从而有，求导即得，其中 $x=f^{-1}(y)$
同时，由于pdf的非负性，我们两边取abs得到一个一般的表达式：，这个公式被称为变量替换公式(change of variables formula)，我们也可以用一下的方式更好地理解它：如果将 $(x,x+\delta x)$ 内的概率变为 $(y,y+\delta y)$ ，则有 $p_x(x)\delta x=p_y(y)\delta y$

2.6.2.1多元变量替换

与微积分相同，我们有Jacobi行列式：，从而我们有
例如，在变换 $(x,y)\rightarrow (r,\theta)$ 中，，
从而有

2.6.3中心极限定理(central limit theorem)

现在假设有N个随机变量，其pdf分别为，每一个的均值和方差都是 $\mu$ 和 $\sigma^2$ .我们假设每一个变量都是独立同分布的(independent and identically distributed,iid)，亦即在重复试验之间变量两两独立且分布函数相同。
https://zhuanlan.zhihu.com/p/52530189对iid进行了比较详细的解释，事实上iid本质上就是假设所有的样本都是由相同的随机分布产生的，只有这样才能明确机器学习的目标。（如果每一个样本的产生函数都不相同，那么要怎么才能学习这个函数？！）
令为所有随机变量的和，我们可以证明：随着N的增大，的分布趋近于正态分布：
也就是说，的分布收敛于标准正态分布
注：如果 $x\sim N(\mu,\sigma^2)$ ，则 $(x-\mu)/\sigma^2$ 符合标准正态分布
笔者注：那么，中心极限定理到底说了个什么东西呢？很简单，假如我们取一个[0,1]上随机分布（不一定均匀）的随机数N次，显然每次取数都是独立且相互同分布的，那么，根据中心极限定理，当N趋近于无穷的时候，这么多次取随机数的均值符合正态分布。但是，这个定理的诠释内容其实更加广泛。举个例子，假如我们随机地拍摄照片，每张照片上都有随机数量的鸟。我们假设鸟的数量的分布是独立同分布的，那么如果我们拍摄N次照片，把这些照片上的鸟的数量取平均值。即使我们不知道这些鸟的分布是什么，我们仍然可以知道这个平均值的分布一定符合正态分布。这就是中心极限定理的威力所在。
至于中心极限定理的证明，书上没有直接给出，但是https://zhuanlan.zhihu.com/p/85233692给出的证明非常简洁，可供参考。
图示为笔者对U(0,pi/2)做y=sin(x)的变换后进行30次求和后做10000次重复试验得到的分布，可以看出，非常符合正态分布。源码贴在这里：https://mp.csdn.net/console/editor/html/107770694

2.7蒙特卡洛近似(Monte Carlo Approximation)

通常情况下，给定 $x\sim p(x)$ 和，使用变量替换公式计算随机变量的分布函数是十分困难的。
这时，蒙特卡洛近似是一个简单高效的替代。
在蒙特卡洛近似中，我们将会使用S个样例的分布来估计的变量分布：，其中 $x_s\sim p(x)$
由于f的任意性，蒙特卡洛方法的应用非常广泛，例如：
取，得到
取 $f(x)=(x-\mu)^2$ ，得到 $f(x,y)=\Pi(x^2+y^2\leq r^2)$
取 $f(x)=\left\{\begin{matrix} x&x \leq c\\ 0& x >c \end{matrix}\right.$ ，得到

2.7.1举例：变量替换中的蒙特卡洛方法

假如 $x \sim U(-1,1)$ ，且，我们可以通过随机取样后求平方来计算的经验分布

2.7.2举例：用蒙特卡洛方法计算π值

半径为r的圆的面积为，我们要求 $\pi=I/r^2$
令 $f(x,y)=\Pi(x^2+y^2\leq r^2)$ 为指示函数，p(x),p(y)为[-r,r]上的均匀分布，则p(x)=p(y)=1/(2r)，则：
笔者注：为什么要取p(x),p(y)为[-r,r]上的均匀分布呢？其实并不是必须的。事实上，蒙特卡洛方法对p并没有什么要求，即使我们取x,y为μ=-100r的正态分布，也是可以成立的。但是，这样的话，均匀取样会是一个大问题，而增加系数把I转化为蒙特卡洛的形式也是另一个问题，所以，我们一般使用均匀分布。同样的，[-r,r]的选取也不是必须的。我们完全可以选择x,y为[-2r,5r]上的均匀分布，容易看出这不会影响我们得到的结果。但是，另一方面，我们不能选取[-r/2,r/2]，否则算出来的将会是正方形的面积。这则是因为在蒙特卡洛方法中我们对f(x,y)p(x)p(y)的积分的定义域事实上要求是 $[-\infty, \infty]$ ，只是本例中特征函数f(x,y)在[-r,r]²外一定取0，因此外面的部分略去不算罢了。

2.7.3蒙特卡洛近似的精度(Accuracy)

蒙特卡洛近似的精度随着样本数量的增大而增大。
如果我们假设样本数量为S，函数方差 $\sigma^2=var[f(X)]=E[f(X)^2]-E[f(X)]^2$ 实际均值为 $\mu=E[f(X)]$ ，并且蒙特卡洛估计的均值为 $\hat{\mu}$ ,则我们可以证明（这是中心极限定理的推论）
当然，虽然 $\sigma^2$ 是未知的，但是我们也可以使用MC(Monte Carlo)对其进行估计:
于是，我们有，其中被称为标准误差(standard error)，用以估计 $\mu$ 的不确定程度
因此，当我们希望在95%的数据上得到的精度在±ε之间时，我们应该令 $S\geq \frac{4\hat{\sigma}^2}{\epsilon^2}$

2.8信息论

信息论的目标是对数据进行压缩修饰(compact fashion)，即数据压缩(data compression)或者信息编码(source coding)；但是同时在传输和存储信息的时候，又要求容错率高(robust to errors)，即误差修正(error correction)或者信道编码(channel coding)。也就是说，即要求信息尽可能压缩，又要求保真度高。
这个任务看起来跟机器学习和概率论简直是风马牛不相及，但是它们其实有着密切的联系。在信息论中，我们的目标是把最短的密文分配给最常见的数据，而把较长的密文分配给不常见的数据。这一点与自然语言的情况完全相同—"a""the""and"是最为常用的单词，因此也最短。*另一方面，当我们将信息在噪声信道中传递时，我们希望建立一个良好的模型，以预测对方到底想要传达什么信息。这两种要求都需要我们建立一个可以预测数据类型的模型，而这正是机器学习的核心问题之一。
*笔者注：事实上汉语则不太是这样，这是因为英语等拼音文字的字母数量非常有限，事实上更加接近计算机中密文—明文的一一对应方式；而汉语等象形文字则基本上都是单字，一方面文字的结构和笔画有着特定的含义，不太容易更改；另一方面文字的笔画对书写时间的影响较小（在英语中长度为10个字母的单词的书写时间是1个字母的10倍，但是汉语因为单字的大小相同，10笔的汉字的书写时间至多是1笔的汉字的3倍，如果是拼音输入的话影响就更加有限了）
当然，我们不会介绍太多关于信息论的内容，只会介绍一些我们将要用到的基本概念。

2.8.1熵(entropy)

一个分布为p的随机变量X的熵定义为 $\mathbb{H}(x)$ ，用以描述它的不确定性。
特别的，一个存在K种状态的随机变量X的熵定义为：
一般我们使用以2为底的对数，此时单位元称为比特(bits,binary digits)；如果我们使用以e为底的对数，那么单位元则称为nat. 例如，如果X∈[1,2,3,4,5]的分布为p=[0.25,0.25,0.2,0.15,0.15]，则H=2.2855.
在离散变量中，熵值最大的是均匀分布。例如，若一个离散变量有K个取值，则其熵值的最大值在P(x=i, all i)=1/K时取得，值为；而其熵值的最小值为0，在某一状态处值为1，其余为0时取得（在连续取值时则用狄拉克delta函数取得），这样的分布不存在任何不确定性，称为确定分布(determintstic distribution)。

2.8.2KL散度(KL divergence)

通过KL散度(Kullback-Leibler divergence，又称相对熵relative entropy)，我们可以估计两个概率分布p和q的不相似程度。
KL散度定义如下：（如果连续，则求和变为pdf的积分），也可以记为
其中 $\mathbb{H}(p,q)=-\sum _k p_klogq_k$ 称为p,q的交叉熵(cross entropy)
注1：以上的 $\Sigma$ 在离散时均是对p的定义域求和。q的定义域不一定需要与p的相同
注2：KL散度恒大于0，但是具有不对称性(KL(P||Q)≠KL(Q||P))，因此不是距离的度量。如果需要具有对称性的表达，需要使用JS散度(Jensen-Shannon divergence)，定义为 $JS(p_1,p_2)=0.5\mathbb{K}\mathbb{L}(p_1||q)+0.5\mathbb{K}\mathbb{L}(p_2||q),{ }q=0.5p_1+0.5p_2$
交叉熵的实际含义为：分布为p的数据使用模型q进行编码时的平均比特数。而一般的熵 $\mathbb{H}(p)=\mathbb{H}(p,p)$ 则表示了使用真实模型模拟的时候我们所需要的比特数。因此，交叉熵的含义即为这两者之间的差值，也就是我们在编码数据时需要的额外的比特数。
下面我们证明KL散度恒≥0，取等当且仅当p=q：
使用琴生不等式(Jensen`s inequality)，结合 $\Sigma { }_{x\in A}p(x)=1$ ，我们有：
根据琴生不等式的取等条件： $\exists c,\forall x\in A,q(x)=cp(x)$ 和最后一步放缩的取等条件：p(x)的定义域与q(x)完全相同，结合和1性，显见p(x)=q(x)
这个定理的一个重要推论就是均匀分布的熵最大性：对任意的p(x)，代入q(x)为均匀分布，即可得到 $\mathbb{H}(x)\leq log|\chi |$ 的结论
这也是拉普拉斯的不充分推理原则(principle of insufficient reason)的表达方式之一：也就是说，当我们对分布的优劣没有什么直观感觉时，我们的先验分布应该取均匀分布。

2.8.3互信息(mutual information)

考虑两个随机变量X和Y，现在我们希望知道其中一个变量告诉了我们多少关于另一个变量的信息。我们可以使用相关系数来度量这种关系，即. 但是，根据我们之前的分析，相关系数度量的主要是两个变量之间的线性关系，即使是Y=X²这样紧密的关系也会被度量为不相关。
为此，我们引入互信息(mutual information, MI)的概念：（p(X,Y)：X,Y的联合概率，即同时发生X和Y的概率）；容易证明（真的只要展开一下），MI也可以写成下面的等价形式：，其中 $\mathbb{H}(Y|X)$ 为条件熵，定义为
变换后，我们就可以解释为什么互信息能够描述X和Y之间的相关性——它代表了X的不确定性和在观测到Y后X的不确定性的差值。
注：互信息确实是描述X，Y关系的极好工具——在相关系数中，我们只使用E[XY]-E[X]E[Y]来度量X,Y之间的差值。但是这样丢失了非常多的信息；而在互信息中，我们使用XY和X,Y的全空间分布的KL散度来度量X,Y的相关性，自然容纳了非常多的信息。
与MI紧密相关的一个数据为逐点互信息(pointwise mutual information, PMI)对于两个事件（不是随机变量）x,y，其PMI定义为：，这度量了x,y同时发生与分别发生的概率的差异

2.8.3.1连续随机变量的互信息

上面的关于MI的公式是为离散随机变量定义的。对于连续随机变量来说，最好的处理方式是将它们离散化(discretize/ quantize)，将每一个连续变量的取值范围分割成小的区间，然后计算这些区间上的频数分布(histogram)后转化为离散形式进行处理。
不幸的是，区间的数量、区间界限的选取，都可能会对结果造成非常显著的影响。因此，除了一开始就用密度估计以外，另一种方式是常数很多种不同的区间大小和位置，然后计算出获得的MI中的最大值。这种标准的统计方法称为最大信息系数法(maximal information coefficient)，用数学公式来写就是：
$\mathrm{MIC}={max}_{x,y:xy<B}m(x,y)$ ,其中 $m(x,y)=\frac{max_{G\in \vartheta (x,y)}\Pi (X(G);Y(G))}{logmin(x,y)}$ ，若我们将区间划分为x个×y个，且B为给定的xy的上界（不可能取得无限大），使用动态规划的方法很容易运算出这个最值问题。
这里的解释稍微有些贫瘠，因此可以观看https://www.omegaxyz.com/2018/01/18/mic/，通过一些例子学习如何计算MIC
笔者注：MIC的优点在于既能挖掘线性关系，又能挖掘非线性关系，和相关系数混合使用效果更佳。其本质我认为在于发掘x和y之间是否存在一一对应的关系。

为什么说仪式和习惯非常重要？章鱼老师zy
这是章鱼姐第【40】篇原创文章，日更计划第【37/100】天。阅读张萌萌姐【精力管理手册】第【6/7】章。一阅读摘要这一章萌姐讲到了习惯的重要性，为什么说养成一个习惯很重要？如何养成一个好习惯？如何建立自己的仪式感？二金句精力管理最重要的是产生什么效果。当你想做却没有动力去做一件事情时，你就应该把它养成习惯。习惯可以帮我们创造稳定框架。对于那些特别考验意志的事情，我们应该先行后思。三思考题，萌姐讲
2022-2-13晨间日记越亮也打烊
今天是什么日子起床：7:00就寝：12:08天气：晴心情：糟糕纪念日：无任务清单昨日完成的任务，最重要的三件事：寒假作业，网课，画画改进：作业时间剪短习惯养成：网课不逃～周目标·完成进度数学卷子100％学习·信息·阅读《傅雷家书》《钢铁是怎样炼成的》健康·饮食·锻炼我终于不喝饮料啦，喝茶～人际·家人·朋友邝姐姐带我吃火锅工作·思考啥时候开学，我还有几天赶完作业最美好的三件事1.卷子写完了2.我有冰
中国最美的100个地方，待“软禁”结束后，满血复活去一次旅行！是北河二1995
【阅读原文，请点击：原文，硬核100个】离成为一个倾国倾城、走路带风的女子还有365天！大家好，我是小草们的北河二~一转眼，2020年已过1/4，突如其来的病毒，搅得人心惶惶。原本的3月里，景区爆满、街道拥堵、小吃铺做无缺席。然而，地球妈妈不会一直宠着我们，给了我们好几个警告。如今，连CCTV-1播出的《人与自然》，我都可以看上好一会儿......高山、流水、湖泊、森林、大海.....它们也在这初
今日阅读任务扎西措的简书
四圣谛是总纲释迦牟尼佛开示的法很多，其中四圣谛是纲要。一般祖师们讲经或讲论时，会先讲“略”的，再讲“广”的，先讲纲要，把方向抓出来，再慢慢慢慢发展;如果一开始就从头讲到尾，可能会让听者东南西北都搞不清。先把大纲抓住，就容易与别的法连结。释尊所讲的所有法当中，包括小乘、大乘、显教、密教的法，总的来说，四圣谛是纲要，不论南传的小乘佛教、或是汉传与藏传的大乘佛教，四圣谛是大家共同承认的、大家共有的基础。
『阅读•思考•灵性新苑‖第九辑/358/1001』《冥想》2作者：[印]斯瓦米·拉玛（Swami Rama）译者：刘海凝景熙惟
部分节选当我们仔细审视生活，就会意识到：从幼年开始，我们接受的教育就仅仅止于观察和了解外部世界。从来没人教导过我们，应当如何向内看、发现和了解内在。因此我们在渴望了解别人的同时，对自己而言却依然是一个陌生人。由于缺乏自我了解，我们的人际关系并不那么称心如意，生活中也常常充满了困惑与失望。事实上，常规教育体系只开发了我们大脑的一小部分。而另外负责做梦、睡眠以及用于存储所有经历的无意识领域，仍不为人知
让孩子幸福的语言梓沐儿
#21本育儿书挑战今天阅读的是《让孩子幸福的语言》，全书写的“很日本”。没有多少指导性的步骤，却如同工匠般和你娓娓道来。全书最大的观点就是：让家长享受育儿的过程。孩子们成长过程是很快的，不要因为他们做不到某些事情就去苛责他们，要用鼓励性语言提供帮助，期待成长过程中的每一次收获。孩子们的成长确实转瞬即逝，我们一味地追求快、一味地攀比仅会带来无限焦虑。如果可以把成长的过程看成一次探险的话，我们收获的却
绘本讲师训练营【27期】1/21阅读——《绘本之力》 Miya儿童情商绘本讲师
27020-林玉霞图片发自App拿到这本书，就被封面所吸引。在一片广阔的树林里，高高低低的树，各种动物，在树林草地的中间，一位父亲陪着一位孩子在读着绘本。让人感觉充满了爱、宁静、和谐和拥有了整个世界。我想这就是绘本能够带给人类的境界吧！是的，接下来书中就提到了“绘本实是神奇的东西。”神奇之处有：1、0-100岁都能从中获得乐趣。2、好绘本看过一次后，能让人印象深刻，留存心底。3、好绘本跨越了文化的
图书馆服务，一切都是值得的攸小宁
进入大学，校园没符合我看到电视剧里的那种大校园，也没体验到做公交上学，没有所谓的林荫大道，没有故事中的男主角，却让我体会到了那个校园图书馆上书的环节，在图书馆上书原来就是那个推着小推车一本本的放在架子上，没有什么特别。今天已经是我到图书馆服务的第八次了，但却是迄今为止服务时间最长的一次，也是唯一听到老师和我说一声谢谢的一次，让我非常满意的一次。也许在服务之前有人会说，这个完全自愿，没有任何报酬的工
快速阅读每一天都来过
《快速阅读》这本书，看书名就知道他的核心思想是教导读者如何加快读书的速度。但同时，只求速度不求质量发展也不是良性的循环。所以，作者在介绍快速阅读的时候，也会兼顾如何提高我们的阅读质量，进行了大篇幅的尝试。作者认为一个人的阅读能力可以划分为两个部分，一个是阅读的速度，另外一个是理解的程度。根据阅读速度和理解程度，这两个维度，可以分辨出4种不同的阅读水平：第1种是速度快的，且理解力强的，这是最高水平，
育儿小课堂：如何尽早培养孩子良好的阅读习惯？嘉宁麻麻
对于培养阅读习惯有多种建议，下面介绍几种轻松实用的建议。阅读部分一，创建阅读仪式：留出一段特别的时间作为每日读书时间，把和孩子一起选“每日一书”变成惯例，然后坐在一个专门的位置读书。二，依偎：找一个安静、舒适的地方读书，让孩子紧紧依偎着你，也可以让孩子拿着一个喜爱的玩具，或者是揽着他喜爱的被子。三，富有表情地读：注意韵律和节奏，每个角色用不同声音，不要用“娃娃腔”。家庭环境部分：四，眼里有书：家里
遇见美好｜期待越来越好的自己｜复盘日记Day137 沫ma的1001页
遇见美好｜期待越来越好的自己｜复盘日记Day1372021年7月21日星期三晴喜马拉雅(沫沫成长记）亲子共读：Day42阅读学习践行Day.17/21晨间日记Day.17/21昨日晚安：23:02今日早安：05:00早起：Day806❥今日运动｜跑步0Km（未完成）❥今日自我成长｜学习新知识1.听书＋书写笔记,小花生阅读打卡2..阅读学习，听音频＋写作业3.时间管理2.0线上践行，听课+写作业4.
荷塘夜色开在夏末的花立在他山之石
葉子，水墨画读已经一周了，每天都有好的文章可以阅读。与志同道合的同伴一起分享创作，是一件快乐的事，在成长的路上，坚持阅读，坚持绘画，做更好的自己。
Ⅴ爱阅读，亲子互动——打卡第197天郭小郭0830
今天读《神奇数字123》，小熊很忙系列《小小宇航员》，《妈妈看从1到10》上午要去取快递和换面粉，不管怎么闹，一说坐车立马高兴！于是乎～上车走之～车开出去还没五分钟，没动静呢？一看早睡着了……脑袋里想到一个词“集贩子庙旋子”，大意就是爱凑热闹的很！下午妈妈和姥爷收拾院子，傍晚有点犯困的时候闹点气，不过小姨抱着一会儿就睡着了。等醒的时候，这个哭啊，哼哼唧唧了一个小时，抱了一个小时，其中抱着的时候尿湿
《天道》：真正厉害的人，都做对了这三点唐夕
去年偶然有一次在书店读到豆豆的小说《遥远的救世主》，读完大受震撼，有很多启发。随后一次性买全了豆豆三部曲，这部小说也一直放在书架上，又看了几遍。根据这本书改编的电视剧《天道》，豆瓣评分9.2分，相信你们也一定在短视频平台上刷到过相关的小视频。短视频以及知乎很多博主，都在解读丁元英和芮小丹。但我在几次的阅读过程中，反而觉得欧阳雪更值得我们学习。欧阳雪没有芮小丹那样的出身，没有肖雅文那样的高学历。因家
《唐阿姨的电脑》唐晓莉林浩（完结篇）全文免费阅读【笔趣阁】小说推书
《唐阿姨的电脑》唐晓莉林浩（完结篇）全文免费阅读【笔趣阁】主角：唐晓莉林浩简介：这天中午，林浩接到了唐晓莉的电话，说家里电脑坏了，问他有没有时间过去帮忙看一眼。可以关注微信公众号【枫叶赏文】去回个书號【唐晓莉】，即可免费阅读【唐阿姨的电脑】小说全文！这天中午，林浩接到了唐晓莉的电话，说家里电脑坏了，问他有没有时间过去帮忙看一眼。“当然有了，我今天没课，唐阿姨你在家等我，十分钟就到。”说完，林浩立马
PTE阅读考试比较难的句子该如何突破？气泡_2e06
PTE阅读是让很多小伙伴们头疼的一项，考完分数总是差2、3分。为什么PTE阅读比较难呢?如何提高自己的阅读分数呢?今天小编来教大家PTE比较难的句子该如何突破。Step1.找出下列句子的主语和谓语1)StudyingEnglishtakestimes.2)Thefirststepisalwaysthehardest.3)ChattingontheInternetbringsmealotoffun.
张爱玲。论吃与画饼充饥 2013-2-14 18:41 阅读(15) 何青猊
张爱玲。论吃与画饼充饥出门在外，吃确实是大问题。小时候引以为傲的一点，我毫不挑食，哪里的大学都可以去读--------我确实毫不挑食，只是一出浙江就水土不服。粤菜和我们家乡的菜肴差异并不很大。无奈香港的中餐快餐化的不彻底（因为快餐市场以为西方东瀛南亚菜式挤占的缘故？），类似于我们的快餐店的只有taste里的一个摊位，透明的玻璃罩十几道菜整齐码好，戴白帽的阿姨一手拿食盒一手拿锅铲，“要哪样？要哪样？
亲子日记37 HelloFox_447c
2018年10月31星期三天气晴马上要考试了，孩子们也进入了复习，晚上接到儿子，问了儿子今天在学校都学了什么，儿子说：我们复习了好多好多。回到家，吃过晚饭，让儿子玩了一会开始检查作业，我检查作业的同时让儿子把今天的字练完，然后做了两份前几天买的试题，其他都还好，就是这个阅读题目有待提高王子轩妈妈一年级五班
虐翻全场!全能女王每天都打脸（秦云岫小说）全文免费阅读窈窕求淑女
虐翻全场!全能女王每天都打脸（秦云岫小说）全文免费阅读主角：秦云岫简介：数学天才秦云岫穿书了，穿成了一个命运悲惨的豪门养女。养女丑陋阴郁，是个人人厌恶的草包废物，走到哪里就被嘲讽到哪里！可关注微信公众号【旺精灵】去回个书號【7182】，即可免费阅读【虐翻全场!全能女王每天都打脸】全文！第10章：无药可救，只能等秦云出自己醒来。这个时间不确定，有可能是几个小时，也有可能是一整天。而且每次脱离昏迷的状
2022-5-1晨间日记逆风小马甲
今天月芽出生的第50天起床：8:30就寝：23:00天气：大雨心情：焦灼纪念日：否任务清单昨日完成的任务，最重要的三件事：确认月芽打预防针时间（5月6日）、确认月芽大便异常复诊时间（5月2日）、改进：自己要开开心心(*⌒∇⌒*)习惯养成：护肤周目标·完成进度学习·信息·阅读健康·饮食·锻炼人际·家人·朋友工作·思考最美好的三件事1.2.3.思考·创意·未来
读书思考乡村追梦人
一小兔子上二年级，能够自主的阅读一般的没有拼音的书籍。最近读一套可怕的科学系列的书。科普类的书籍，有部分字不认识。开始，孩子碰到不认识的字，就向我们问。我了解她学了查字典，就让她通过字典去认字。后来，妈妈认为查字典影响阅读的速度，打断对阅读的理解。妈妈建议去猜测不认识的字，阅读完后再查字典。我们还给孩子建议，识字不识字，先认半个字。用半个字去猜测读音。我在听孩子读书的时候，发现有好几个字都读错，而
blog-engine-06-pelican 静态网站生成支持 markdown 和 reST 语法老马啸西风 java
拓展阅读blog-engine-01-常见博客引擎jekyll/hugo/Hexo/Pelican/Gatsby/VuePress/Nuxt.js/Middleman对比blog-engine-02-通过博客引擎jekyll构建githubpages博客实战笔记blog-engine-02-博客引擎jekyll-jekyll博客引擎介绍blog-engine-02-博客引擎jekyll-jekyl
2018年5月1日朱非凡
姓名：朱非凡公司：杭州美登贸易上海361期《六项精进》反省二组【日精进打卡第43天】【知～学习】《六项精进》3遍共139遍《大学》1遍共59遍••••••【经典名句分享】自律给我自由【行～实践】一、修身：阅读书籍学习shopify推广方法二、齐家：三、建功：1.网站结构思路2.产品供应商查找3.付款方式设置4.上传产品｛积善｝：发愿从2018年3月19日起1年内365善事。今日1善，累计40善。【
阅读，让灵魂走在路上红叶2
随手拍1.最近迷上了占星学，前不久群里有小伙伴问我是不是很喜欢看书。因为我的月亮落在了处女座，这个配置的人一般都很喜欢看书。我不知道其他喜欢看书的人是否也和自己一样有着同样的配置，反正我是从小就喜欢阅读。启蒙我的大概是小学被锁的书柜中引人入胜的故事迷吧。是的，你没看错，小学时的图书是被锁在柜子里，只能通过透明的柜门知道里面放有哪些书籍。其实我也不知道为什么要把图书锁住，可能是怕我们小学生被故事迷迷
2023-4-11夜间日记一山一水一草一木
今天是什么日子起床：八点就寝：十二点天气：晴天心情：一般般纪念日：今天在贵州医科大学调剂笔试任务清单昨日完成的任务，最重要的三件事：笔试复习，来贵阳参加资格复查，一个人出门改进：总是想打麻将习惯养成：每天记单词，周目标·完成进度去复试，去走向人群，去锻炼自己的勇气，遇事不慌处变不惊，胸有成竹学习·信息·阅读你当像鸟飞向你的山健康·饮食·锻炼吃了两块面包人际·家人·朋友和同学聊天，好久没和妈妈打电话
2019-3-5晨间日记龙梅_4c22
今天是什么日子起床：7.15就寝：23天气：晴春风和煦心情：有点颓纪念日：等待妇女节任务清单昨日完成的任务，最重要的三件事：第一天起步改进：胆怯的心习惯养成：读书周目标·完成进度想做就做不后退不胆怯学习·信息·阅读多关注一点时事不做睁眼瞎健康·饮食·锻炼腰痛希望有跑步的习惯人际·家人·朋友不大不小的朋友圈工作·思考计算机二级英语四级驾驶证最美好的三件事1.跟妈妈视频2.为了未来努力3.再慢慢慢慢的
6月2日记录接纳放下化掉
每日碎碎念，不知不觉就进入第6个月了，这就是坚持的力量，再忙，再晚我都做到了记录，没有记录就没有发生，当初为了年末好梳理成就事件的一个起心动念就成就了我自己的这份坚持，为自己点赞！我也相信自己可以在更多的事情上去做到属于自己的坚持，管理好自己，做一个自律的人儿！加油！对自己发出100天阅读33本书的挑战！看看在忙碌的日子里，自己的先养成阅读习惯，再研究阅读心法，从量变到质变！加油！当前阅读第一本《
2022-03-30 深海鱼一尾
今天直播交到一个新的书友。很开心，每一个新的朋友都能给我带来一种新的快乐。新朋友也是喜欢看书的，或者说是喜欢收藏书的，我也是，我不断的寻找我认为有价值的书，以获得它们而快乐，很多时候我并不读他们，只是看着它们就开心。现在我读书主要是喜欢用~信读书阅读电子书，不为别的，只是方便，一部手机，随身而带，却有不同的书籍可供选择，特别值得骄傲的事，它非常方便我做笔记，所以爱上电子书了，只是电子书永远没有纸质
《论文阅读》EmpDG：多分辨率交互式移情对话生成 COLING 2020 365JHWZGo 情感对话论文阅读共情回复回复生成对话系统多分辨率对抗学习
《论文阅读》EmpDG：多分辨率交互式移情对话生成COLING2020前言简介模型架构共情生成器交互鉴别器损失函数前言亲身阅读感受分享，细节画图解释，再也不用担心看不懂论文啦~无抄袭，无复制，纯手工敲击键盘~今天为大家带来的是《EmpDG:Multi-resolutionInteractiveEmpatheticDialogueGeneration》出版：COLING时间：2020类型：共情回复关
2022-8-29晨间日记明心279
今天是什么日子起床：5.40就寝：天气：多云心情：开心纪念日：任务清单昨日完成的任务，最重要的三件事：改进：习惯养成：周目标·完成进度学习·信息·阅读上午复习古书下午看教材第二册健康·饮食·锻炼站桩40早上吃大米粥煮花生米中午麻辣米线晚上青菜豆腐火锅人际·家人·朋友转100红包给流浪猫安置点，有一只猫咪被领养后又被弃养，发情期，需要做绝育，听说后有些动了恻隐之心，转了一个红包用于资助流浪猫孩子晚上
深入浅出Java Annotation(元注解和自定义注解） Josh_Persistence Java Annotation 元注解自定义注解
一、基本概述　　 Annontation是Java5开始引入的新特征。中文名称一般叫注解。它提供了一种安全的类似注释的机制，用来将任何的信息或元数据（metadata）与程序元素（类、方法、成员变量等）进行关联。　　更通俗的意思是为程序的元素（类、方法、成员变量）加上更直观更明了的说明，这些说明信息是与程序的业务逻辑无关，并且是供指定的工具或
mysql优化特定类型的查询 annan211 java 工作 mysql
本节所介绍的查询优化的技巧都是和特定版本相关的，所以对于未来mysql的版本未必适用。 1 优化count查询对于count这个函数的网上的大部分资料都是错误的或者是理解的都是一知半解的。在做优化之前我们先来看看真正的count()函数的作用到底是什么。 count()是一个特殊的函数，有两种非常不同的作用，他可以统计某个列值的数量，也可以统计行数。在统
MAC下安装多版本JDK和切换几种方式棋子chessman jdk
环境： MAC AIR,OS X 10.10,64位历史：过去 Mac 上的 Java 都是由 Apple 自己提供，只支持到 Java 6，并且OS X 10.7 开始系统并不自带（而是可选安装）（原自带的是1.6）。后来 Apple 加入 OpenJDK 继续支持 Java 6，而 Java 7 将由 Oracle 负责提供。在终端中输入jav
javaScript （1） Array_06 JavaScript java 浏览器
JavaScript 1、运算符　　运算符就是完成操作的一系列符号，它有七类：　　赋值运算符（=,+=,-=,*=,/=,%=,<<=,>>=,|=,&=）、算术运算符(+,-,*,/,++,--,%)、比较运算符(>,<,<=,>=,==,===,!=,!==)、逻辑运算符(||,&&,!)、条件运算(?:)、位
国内顶级代码分享网站袁潇含 java jdk oracle .net PHP
现在国内很多开源网站感觉都是为了利益而做的当然利益是肯定的,否则谁也不会免费的去做网站 &
Elasticsearch、MongoDB和Hadoop比较随意而生 mongodb hadoop 搜索引擎
IT界在过去几年中出现了一个有趣的现象。很多新的技术出现并立即拥抱了“大数据”。稍微老一点的技术也会将大数据添进自己的特性，避免落大部队太远，我们看到了不同技术之间的边际的模糊化。假如你有诸如Elasticsearch或者Solr这样的搜索引擎，它们存储着JSON文档，MongoDB存着JSON文档，或者一堆JSON文档存放在一个Hadoop集群的HDFS中。你可以使用这三种配
mac os 系统科研软件总结张亚雄 mac os
1.1 Microsoft Office for Mac 2011 大客户版，自行搜索。 1.2 Latex （MacTex）: 系统环境：https://tug.org/mactex/ &nb
Maven实战（四）生命周期 AdyZhang maven
1. 三套生命周期 Maven拥有三套相互独立的生命周期，它们分别为clean，default和site。每个生命周期包含一些阶段，这些阶段是有顺序的，并且后面的阶段依赖于前面的阶段，用户和Maven最直接的交互方式就是调用这些生命周期阶段。以clean生命周期为例，它包含的阶段有pre-clean, clean 和 post
Linux下Jenkins迁移 aijuans Jenkins
1. 将Jenkins程序目录copy过去源程序在/export/data/tomcatRoot/ofctest-jenkins.jd.com下面 tar -cvzf jenkins.tar.gz ofctest-jenkins.jd.com &
request.getInputStream()只能获取一次的问题 ayaoxinchao request Inputstream
问题：在使用HTTP协议实现应用间接口通信时，服务端读取客户端请求过来的数据，会用到request.getInputStream()，第一次读取的时候可以读取到数据，但是接下来的读取操作都读取不到数据原因： 1. 一个InputStream对象在被读取完成后，将无法被再次读取，始终返回-1； 2. InputStream并没有实现reset方法（可以重
数据库SQL优化大总结之百万级数据库优化方案 BigBird2012 SQL优化
网上关于SQL优化的教程很多，但是比较杂乱。近日有空整理了一下，写出来跟大家分享一下，其中有错误和不足的地方，还请大家纠正补充。这篇文章我花费了大量的时间查找资料、修改、排版，希望大家阅读之后，感觉好的话推荐给更多的人，让更多的人看到、纠正以及补充。 1.对查询进行优化，要尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。 2.应尽量避免在 where
jsonObject的使用 bijian1013 java json
在项目中难免会用java处理json格式的数据，因此封装了一个JSONUtil工具类。 JSONUtil.java package com.bijian.json.study; import java.util.ArrayList; import java.util.Date; import java.util.HashMap;
[Zookeeper学习笔记之六]Zookeeper源代码分析之Zookeeper.WatchRegistration bit1129 zookeeper
Zookeeper类是Zookeeper提供给用户访问Zookeeper service的主要API，它包含了如下几个内部类首先分析它的内部类，从WatchRegistration开始，为指定的znode path注册一个Watcher， /** * Register a watcher for a particular p
【Scala十三】Scala核心七：部分应用函数 bit1129 scala
何为部分应用函数？ Partially applied function: A function that’s used in an expression and that misses some of its arguments.For instance, if function f has type Int => Int => Int, then f and f(1) are p
Tomcat Error listenerStart 终极大法 ronin47 tomcat
Tomcat报的错太含糊了，什么错都没报出来，只提示了Error listenerStart。为了调试，我们要获得更详细的日志。可以在WEB-INF/classes目录下新建一个文件叫logging.properties，内容如下 Java代码 handlers = org.apache.juli.FileHandler, java.util.logging.ConsoleHa
不用加减符号实现加减法 BrokenDreams 实现
今天有群友发了一个问题，要求不用加减符号(包括负号)来实现加减法。分析一下，先看最简单的情况，假设1+1，按二进制算的话结果是10，可以看到从右往左的第一位变为0，第二位由于进位变为1。
读《研磨设计模式》-代码笔记-状态模式-State bylijinnan java 设计模式
声明：本文只为方便我个人查阅和理解，详细的分析以及源代码请移步原作者的博客http://chjavach.iteye.com/ /* 当一个对象的内在状态改变时允许改变其行为，这个对象看起来像是改变了其类状态模式主要解决的是当控制一个对象状态的条件表达式过于复杂时的情况把状态的判断逻辑转移到表示不同状态的一系列类中，可以把复杂的判断逻辑简化如果在
CUDA程序block和thread超出硬件允许值时的异常 cherishLC CUDA
调用CUDA的核函数时指定block 和 thread大小，该大小可以是dim3类型的（三维数组），只用一维时可以是usigned int型的。以下程序验证了当block或thread大小超出硬件允许值时会产生异常！！！GPU根本不会执行运算！！！所以验证结果的正确性很重要！！！在VS中创建CUDA项目会有一个模板，里面有更详细的状态验证。以下程序在K5000GPU上跑的。
诡异的超长时间GC问题定位 chenchao051 jvm cms GC hbase swap
HBase的GC策略采用PawNew+CMS, 这是大众化的配置，ParNew经常会出现停顿时间特别长的情况，有时候甚至长到令人发指的地步，例如请看如下日志： 2012-10-17T05:54:54.293+0800: 739594.224: [GC 739606.508: [ParNew: 996800K->110720K(996800K), 178.8826900 secs] 3700
maven环境快速搭建 daizj 安装 mavne 环境配置
一下载maven 安装maven之前，要先安装jdk及配置JAVA_HOME环境变量。这个安装和配置java环境不用多说。 maven下载地址：http://maven.apache.org/download.html，目前最新的是这个apache-maven-3.2.5-bin.zip，然后解压在任意位置，最好地址中不要带中文字符，这个做java 的都知道，地址中出现中文会出现很多
PHP网站安全，避免PHP网站受到攻击的方法 dcj3sjt126com PHP
对于PHP网站安全主要存在这样几种攻击方式:1、命令注入(Command Injection)2、eval注入(Eval Injection)3、客户端脚本攻击(Script Insertion)4、跨网站脚本攻击(Cross Site Scripting, XSS)5、SQL注入攻击(SQL injection)6、跨网站请求伪造攻击(Cross Site Request Forgerie
yii中给CGridView设置默认的排序根据时间倒序的方法 dcj3sjt126com GridView
public function searchWithRelated() { $criteria = new CDbCriteria; $criteria->together = true; //without th
Java集合对象和数组对象的转换 dyy_gusi java集合
在开发中，我们经常需要将集合对象（List，Set）转换为数组对象，或者将数组对象转换为集合对象。Java提供了相互转换的工具，但是我们使用的时候需要注意，不能乱用滥用。 1、数组对象转换为集合对象最暴力的方式是new一个集合对象，然后遍历数组，依次将数组中的元素放入到新的集合中，但是这样做显然过
nginx同一主机部署多个应用 geeksun nginx
近日有一需求，需要在一台主机上用nginx部署2个php应用，分别是wordpress和wiki，探索了半天，终于部署好了，下面把过程记录下来。 1. 在nginx下创建vhosts目录，用以放置vhost文件。 mkdir vhosts 2. 修改nginx.conf的配置，在http节点增加下面内容设置，用来包含vhosts里的配置文件 #
ubuntu添加admin权限的用户账号 hongtoushizi ubuntu useradd
ubuntu创建账号的方式通常用到两种：useradd 和adduser . 本人尝试了useradd方法，步骤如下： 1:useradd 使用useradd时，如果后面不加任何参数的话，如：sudo useradd sysadm 创建出来的用户将是默认的三无用户：无home directory ,无密码,无系统shell。顾应该如下操作：
第五章常用Lua开发库2-JSON库、编码转换、字符串处理 jinnianshilongnian nginx lua
JSON库在进行数据传输时JSON格式目前应用广泛，因此从Lua对象与JSON字符串之间相互转换是一个非常常见的功能；目前Lua也有几个JSON库，本人用过cjson、dkjson。其中cjson的语法严格（比如unicode \u0020\u7eaf），要求符合规范否则会解析失败（如\u002），而dkjson相对宽松，当然也可以通过修改cjson的源码来完成
Spring定时器配置的两种实现方式OpenSymphony Quartz和java Timer详解 yaerfeng1989 timer quartz 定时器
原创整理不易，转载请注明出处：Spring定时器配置的两种实现方式OpenSymphony Quartz和java Timer详解代码下载地址：http://www.zuidaima.com/share/1772648445103104.htm 有两种流行Spring定时器配置：Java的Timer类和OpenSymphony的Quartz。 1.Java Timer定时首先继承jav
Linux下df与du两个命令的差别？ pda158 linux
　一、df显示文件系统的使用情况，与du比較，就是更全盘化。　　最经常使用的就是 df -T，显示文件系统的使用情况并显示文件系统的类型。　　举比例如以下：　　[root@localhost ~]# df -T 　　Filesystem Type &n
[转]SQLite的工具类 ---- 通过反射把Cursor封装到VO对象 ctfzh VO android sqlite 反射 Cursor
在写DAO层时，觉得从Cursor里一个一个的取出字段值再装到VO(值对象)里太麻烦了，就写了一个工具类，用到了反射，可以把查询记录的值装到对应的VO里，也可以生成该VO的List。使用时需要注意：考虑到Android的性能问题，VO没有使用Setter和Getter，而是直接用public的属性。表中的字段名需要和VO的属性名一样，要是不一样就得在查询的SQL中
该学习笔记用到的Employee表 vipbooks oracle sql 工作
这是我在学习Oracle是用到的Employee表，在该笔记中用到的就是这张表，大家可以用它来学习和练习。 drop table Employee; -- 员工信息表 create table Employee( -- 员工编号 EmpNo number(3) primary key, -- 姓

Machine Learning——A Probabilistic Approach学习笔记 第二章 概率

第二章 概率(Probability)