Determinantal point process 入门

Determinantal point process 入门

---

1. 什么是“行列式点过程”

在机器学习（ML）中，子集选择问题的目标是从 ground set 中选择具有高质量但多样化的 items 的子集。这种高质量和多样性的平衡在 ML 问题中经常通过使用行列式点过程（determinantal point process，DPP）来保持，其中 DPP 赋予子集上的分布能够使得选择两个相似项的概率是（反）相关的。

虽然 DPPs 在随机几何（Stochastic Geometry，SG）中已被广泛地用于建模点间斥力（inter-point repulsion）问题，但它们对 ML 应用尤其有益，因为它们的分布参数可以从训练集中有效地学习到。

DPP 包括两个概念

• 行列式过程
• 点过程

---

行列式点过程 $\mathcal{P}$ 是在一个离散的有限基本点集 $\mathcal{Y}=\{1,2,\cdots ,N\}$ 的幂集 $2^{\mathcal{Y}}$（所有子集， 包括空集和全集，构成的集合）上定义的概率分布。

幂集（Power Set）：就是原集合中所有的子集（包括全集和空集）构成的集族。 设 $\mathcal{X}$ 是一个有限集，$|\mathcal{X}|=k$，则 $\mathcal{X}$ 的幂集的势为 $2^k$。

设 $A\subseteq \mathcal{Y}$ 是一个固定的子集，$Y$ 是根据 DPP 从 $\mathcal{Y}$ 中随机生成的一些点构成的一个子集（$Y\sim \mathcal{P}$），则
$$P(A\subseteq Y)=\det (K_A)$$

其中 $|\mathcal{Y}|=N$，$K$ 是 similarity matrix，是 $N\times N$ 的实对称半正定方阵。$K_A$ 是 $K$ 的与 $A$ 中元素在 $\mathcal{Y}$ 中的标号相对应的元素构成子方阵。

一般来说，$K$ 不一定需要是对称的。然而，为了简单起见，我们继续使用这个假设，而且这不是一个有影响的限制。

对于任意 $A\subseteq \mathcal{Y}$，$P(A\subseteq Y)=\det (K_A)\in [0,1]$，因此 $K$ 的所有特征值与主子式都满足处于 $[0,1]$，由此可知 $K$ 半正定（$0⪯K⪯\mathbf{I}$）。

主子式：任选 $i$ 行 $i$ 列的子方阵。注意区别于顺序主子式。

从上图也可以看出抽象的表示，$K$ 也被称为边缘核，因它确定了 DPP 的边缘分布：
$$P(A\subseteq Y)=\sum _{Y^{\prime }:Y^{\prime }\supseteq A}P(Y=Y^{\prime })$$
当 $A=\{i\}$，有 $P(i\in Y)=K_{i,i}$。也就是说，$K$ 的对角线给出了单个元素包含于 $Y$（ $Y$ 中包含有单个元素的子集）的边缘概率。

且我们定义 $\det (K_{\varnothing })=1$，即任意一个 DPP 生成的随机过程选中的点构成的集合都包含空集。

如果 $A=\{i,j\}$，那么有
$$\begin{array}{rl}P(A\subseteq Y)& =\left|\begin{array}{cc}{K}_{i,i}& K_{i,j}\\ K_{j,i}& K_{j,j}\end{array}\right|=K_{i,i}{K}_{j,j}-K_{i,j}{K}_{j,i}\\ & =P(i\in Y)P(j\in Y)-K_{i,j}^2\end{array}$$

因此，非对角元素（对称导致了 $K_{j,i}=K_{i,j}$）表示成对元素之间的（反）相关度量：$K_{i,j}$ 值越大，表示 $i$ 和 $j$ 越不可能同时出现。如果我们把边缘核的项看作是 $Y$ 中成对元素之间相似性的度量，那么高度相似的元素不太可能同时出现。

相似性度量如下：

注意 $K_{i,j}$ 的值与点 $i$ 和 $j$ 之间的距离成反比。这就意味着距离越近的点越不容易成对出现。所以 DPP 采样的点比独立采样覆盖的范围更好。
例如：

例如当 $K_{i,j}=\sqrt{K_{i,i}{K}_{j,j}}$，则有 $P(\{i,j\}\subseteq Y)=0$ 表示 $\{i,j\}$ 几乎肯定不会同时出现。相反，对角元素表示没有与其他元素的相关性，因此元素独立出现。
以上就是一些大致的 DPP 概念。结合上面的图，可以理解论文中反复强调的一句话：Correlations are always negative in DPPs!

1.1 conditioning

条件概率的推导需要用到矩阵的 Schur Complement（舒尔补）参考链接；参考链接；参考链接：
若矩阵 $\Sigma$ 分块如下
$$\Sigma =\left[\begin{array}{cc}{\Sigma }_{11}& {\Sigma }_{12}\\ {\Sigma }_{21}& {\Sigma }_{22}\end{array}\right]$$
则存在以下关系
$$\begin{array}{rl}\left|\begin{array}{c}\Sigma \end{array}\right|& =\left|\begin{array}{c}{\Sigma }_{11}-{\Sigma }_{12}{\Sigma }_{22}^{-1}{\Sigma }_{21}\end{array}\right|\left|\begin{array}{c}{\Sigma }_{22}\end{array}\right|\\ \left|\begin{array}{c}\Sigma \end{array}\right|& =\left|\begin{array}{c}{\Sigma }_{22}-{\Sigma }_{21}{\Sigma }_{11}^{-1}{\Sigma }_{12}\end{array}\right|\left|\begin{array}{c}{\Sigma }_{11}\end{array}\right|\end{array}$$
这里我们命名
$$\begin{array}{rl}\left|\begin{array}{c}\Sigma /{\Sigma }_{22}\end{array}\right|& =\left|\begin{array}{c}{\Sigma }_{11}-{\Sigma }_{12}{\Sigma }_{22}^{-1}{\Sigma }_{21}\end{array}\right|\\ \left|\begin{array}{c}\Sigma /{\Sigma }_{11}\end{array}\right|& =\left|\begin{array}{c}{\Sigma }_{22}-{\Sigma }_{21}{\Sigma }_{11}^{-1}{\Sigma }_{12}\end{array}\right|\\ S_{22}& ={\Sigma }_{11}-{\Sigma }_{12}{\Sigma }_{22}^{-1}{\Sigma }_{21}\\ S_{11}& ={\Sigma }_{22}-{\Sigma }_{21}{\Sigma }_{11}^{-1}{\Sigma }_{12}\end{array}$$
这样，我们就称作 $S_{11}$ 为矩阵 $\Sigma$ 关于 ${\Sigma }_{11}$ 的舒尔补。

$$\begin{array}{rl}P(B\subseteq Y|A\subseteq Y)& =\frac{P(A\cup B\subseteq Y)}{P(A\subseteq Y)}\\ & =\frac{\det (K_{A\cup B})}{\det (K_A)}=\frac{\left|\begin{array}{c}{K}_B-K_{BA}{K}_A^{-1}{K}_{AB}\end{array}\right|\left|\begin{array}{c}{K}_A\end{array}\right|}{\left|\begin{array}{c}{K}_A\end{array}\right|}\\ & =\det (K_B-K_{BA}{K}_A^{-1}{K}_{AB})\end{array}$$

---

2. L-ensembles

然而为了对真实数据建模，DPPs 的构造不通过边缘核函数 $K$，而通过 L-ensembles 来定义。L-ensembles 通过一个正的、半定矩阵 $L$ 来定义 DPP（说白了，其实就是把 $L$ 替换掉 $K$）。

$$P_L(Y)\propto \det (L_Y)$$

然而上面的公式只能表示一种比例关系，需要进一步归一化才能表征概率。那么怎么归一化？
首先计算
$$\sum _{Y\subseteq \mathcal{Y}}\det (L_Y)$$
在这里，借助行列式加法性质
$$\begin{array}{r}\left|\begin{array}{cc}{a}_{11}+1& a_{12}\\ a_{21}& a_{22}\end{array}\right|=\left|\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right|+\left|\begin{array}{cc}1& a_{12}\\ 0& a_{22}\end{array}\right|\end{array}$$

找到一种推理规律

$$\begin{array}{rl}\det (L+\mathbf{I})& =\left|\begin{array}{cc}{L}_{11}+1& L_{12}\\ L_{21}& L_{22}+1\end{array}\right|=\left|\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}+1\end{array}\right|+\left|\begin{array}{cc}1& 0\\ L_{21}& L_{22}+1\end{array}\right|\\ & =\left|\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}\end{array}\right|+\left|\begin{array}{cc}{L}_{11}& L_{12}\\ 0& 1\end{array}\right|+\left|\begin{array}{cc}1& 0\\ L_{21}& L_{22}\end{array}\right|+\left|\begin{array}{cc}1& 0\\ 0& 1\end{array}\right|\\ & =\det (\{1,2\})+\det (\{1\})+\det (\{2\})+\det (\varnothing )\end{array}$$
上面两个元素可以推广到任意 $N$ 个元素的情形。所以，得到
$$\sum _{Y\subseteq \mathcal{Y}}\det (L_Y)=\det (L+\mathbf{I})$$
最终可以得到归一化的概率形式：

$$P_L(\mathbf{Y}=Y)=\frac{\det (L_Y)}{{\sum }_{Y\subseteq \mathcal{Y}}\det (L_Y)}=\frac{\det (L_Y)}{\det (L+\mathbf{I})}$$
回顾边缘核确定的 DPP 的边缘分布：
$$\begin{array}{rl}P(A\subseteq \mathbf{Y})& =\sum _{Y^{\prime }\supseteq A}P(\mathbf{Y}=Y^{\prime })=\det (K_A)\\ & =\sum _{Y^{\prime }\supseteq A}\frac{\det (L_{Y^{\prime }})}{\det (L+\mathbf{I})}=\frac{1}{\det (L+\mathbf{I})}\sum _{Y^{\prime }\supseteq A}\det (L_{Y^{\prime }})\end{array}$$

从上面的行列式拆分规律可知
$$\begin{array}{r}\sum _{Y^{\prime }\supseteq A}\det (L_{Y^{\prime }})=\det (L+{\mathbf{I}}_{\bar{A}})\end{array}$$

其中 ${\mathbf{I}}_{\bar{A}}$ 指的是：如果集合 $A$ 包含索引 $i$，则 $[{\mathbf{I}}_{\bar{A}}{]}_{ii}=0$，而对于 $i\in \bar{A}$，有 $[{\mathbf{I}}_{\bar{A}}{]}_{ii}=1$。所以这里的 ${\mathbf{I}}_{\bar{A}}$ 不是单位阵。举例说明：
$$\begin{array}{rl}\det (L+\mathbf{I})& =\left|\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}\end{array}\right|+\left|\begin{array}{cc}{L}_{11}& L_{12}\\ 0& 1\end{array}\right|+\left|\begin{array}{cc}1& 0\\ L_{21}& L_{22}\end{array}\right|+\left|\begin{array}{cc}1& 0\\ 0& 1\end{array}\right|\\ & =\det (\{1,2\})+\det (\{1\})+\det (\{2\})+\det (\varnothing )\\ ifA& =\{1\}\\ \sum _{Y^{\prime }\supseteq A}\det (L_{Y^{\prime }})& =\det (\{1,2\})+\det (\{1\})\\ & =\left|\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}\end{array}\right|+\left|\begin{array}{cc}{L}_{11}& L_{12}\\ 0& 1\end{array}\right|=\left|\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}+1\end{array}\right|\\ & =\det \left(\left[\begin{array}{cc}{L}_{11}& L_{12}\\ L_{21}& L_{22}\end{array}\right]+\left[\begin{array}{cc}0& 0\\ 0& 1\end{array}\right]\right)\end{array}$$

所以推导得到：
$$\begin{array}{rl}P(A\subseteq \mathbf{Y})& =\sum _{Y^{\prime }\supseteq A}P(\mathbf{Y}=Y^{\prime })=\det (K_A)\\ & =\sum _{Y^{\prime }\supseteq A}\frac{\det (L_{Y^{\prime }})}{\det (L+\mathbf{I})}=\frac{1}{\det (L+\mathbf{I})}\sum _{Y^{\prime }\supseteq A}\det (L_{Y^{\prime }})\\ & =\frac{\det (L+{\mathbf{I}}_{\bar{A}})}{\det (L+\mathbf{I})}=\det \{(L+{\mathbf{I}}_{\bar{A}})(L+\mathbf{I}{)}^{-1}\}\end{array}$$
当 $A$ 等价于 $\mathcal{Y}$ 的全集 $\{1,2,\cdots ,N\}$ 时，则有
$$\det (K)=\det \{(L+0)(L+\mathbf{I}{)}^{-1}\}$$
因此得到以下推导：

$$\begin{array}{rl}K& =L(L+\mathbf{I}{)}^{-1}\\ & =(L+\mathbf{I}-\mathbf{I})(L+\mathbf{I}{)}^{-1}\\ & =\mathbf{I}-(L+\mathbf{I}{)}^{-1}\\ \mathbf{I}-K& =(L+\mathbf{I}{)}^{-1}\\ (L+\mathbf{I})(\mathbf{I}-K)& =\mathbf{I}\\ L(\mathbf{I}-K)+(\mathbf{I}-K)& =\mathbf{I}\\ L(\mathbf{I}-K)& =K\\ L& =K(\mathbf{I}-K{)}^{-1}\end{array}$$

整理得
$$\boxed{\begin{array}{rl}K& =L(L+\mathbf{I}{)}^{-1}=\mathbf{I}-(L+\mathbf{I}{)}^{-1}\\ L& =K(\mathbf{I}-K{)}^{-1}\end{array}}$$

在这个基础上，如果存在特征值分解
$$L=\sum _n{\lambda }_n{\mathbf{v}}_n{\mathbf{v}}_n^T$$

则可得到
$$K=\sum _n\frac{{\lambda }_n}{{\lambda }_n+1}{\mathbf{v}}_n{\mathbf{v}}_n^T$$

里面用到了考研常考的知识点：
如果 $A$ 是对称阵，则必存在正交阵 $P$ 使得
$$P^{-1}AP=P^{T}AP=\Lambda$$
因此可知
$$\begin{array}{rl}L& =V\Lambda V^{-1}\\ K& =L(L+\mathbf{I}{)}^{-1}\\ & =V\Lambda V^{-1}(V\Lambda V^{-1}+V{V}^{-1}{)}^{-1}\\ & =V\Lambda V^{-1}V(\Lambda +\mathbf{I}{)}^{-1}{V}^{-1}\\ & =V\{\Lambda (\Lambda +\mathbf{I}{)}^{-1}\}{V}^{-1}\end{array}$$

---

3. Elementary DPPs

定义：如果 $K$ 的每个特征值 $\lambda$ 都在 $\{0,1\}$ 中，那么 DPPs 就是 elementary 的。

定义 $\{{\mathbf{v}}_n{\}}_{n\in V}$ 是一组标准正交向量基。具有以下特征值分解的 $K$（有些特征值为 1，有些特征值为 0）：
$$K^V=\sum _{n\in V}{\mathbf{v}}_n{\mathbf{v}}_n^T$$
我们将具备以上 $K^V$ 的 DPP 记为 ${\mathcal{P}}^V$。一般 elementary DPPs 不是 L-ensembles。如果 $Y$ 是服从 elementary DPPs ${\mathcal{P}}^V$，那么集合的 cardinality 记作 $|Y|$。接下来，我们证明 elementary DPPs 具有固定的 cardinality。

首先有以下关系：
$$\begin{array}{rl}\mathbb{E}(|Y|)& =\sum _n\mathbb{I}(i\in Y)=\sum _n{K}_{nn}^V\\ & =\mathrm{t}\mathrm{r}(K^V)=\sum _{n\in V}\Vert {\mathbf{v}}_n{\Vert }^2=|V|\end{array}$$
结合 $\text{rank}(K^V)=|V|⟹P(|Y|>|V|)=0$，因此可知 $P(|Y|=|V|)=1$。

---

3.1 Sampling lemma

If $P_L$ is a DPP with eigendecomposition of $L$ given by $L={\sum }_n{\lambda }_n{\mathbf{v}}_n{\mathbf{v}}_n^T$. Then $P_L$ is a mixture of elementary DPPs:

4. 偏好性-相似性分解

在大多数实际情况下，我们希望 diversity 与 $\mathcal{Y}$ 中对 different items 的一些基本偏好相平衡。因此对 DPP 进行分解。这里称为 quality-diversity decomposition（偏好性-相似性分解）。
在这里 DPP kernel $L$ 可以写成 Gramian 矩阵（Gram 矩阵 ；参考）的形式：
$$\begin{gathered} L=B^{T}B \\ {B}_i=q_i{\varphi }_i \end{gathered}$$

• $q_i\in {\mathbb{R}}^{+}$ 表示 quality，用以作为衡量 item $i$ 的 “goodness” 程度。
• ${\varphi }_i\in {\mathbb{R}}^D$ 表示 diversity feature vector。且 $\Vert {\varphi }_i{\Vert }^2=1$。虽然 $D=N$ 可以分解任意的 DPP，但由于在实际中我们可能希望使用高维特征向量，所以 $D$ 是任意的。
• $B\in {\mathbb{R}}^{D\times N}$
• $S\in {\mathbb{R}}^{N\times N}$

$$L_{i,j}=q_i{\varphi }_i^T{\varphi }_j{q}_j=q_i{S}_{i,j}{q}_j$$

• ${\varphi }_i^T{\varphi }_i=S_{i,i}=1$
• $L_{i,i}=q_i{\varphi }_i^T{\varphi }_i{q}_i=q_i{S}_{i,i}{q}_i=q_i^2$

$$S_{i,j}=\frac{q_i{\varphi }_i^T{\varphi }_j{q}_j}{q_i{q}_j}=\frac{L_{i,j}}{\sqrt{L_{i,i}{L}_{j,j}}}\in [-1,1]$$
由于 $\Vert {\varphi }_i{\Vert }^2=1$，因此内积 ${\varphi }_i^T{\varphi }_j$ 表示两个向量的夹角余弦。

可以直接推出
$$P_L(Y)\propto \underset{\mathrm{d}\mathrm{i}\mathrm{v}\mathrm{e}\mathrm{r}\mathrm{s}\mathrm{i}\mathrm{t}\mathrm{y}}{\det (S_Y)}\underset{\mathrm{q}\mathrm{u}\mathrm{a}\mathrm{l}\mathrm{i}\mathrm{t}\mathrm{y}}{\prod _{i\in Y}{q}_i^2}$$

---

4.1 对偶表示

大多数 DPP 算法需要通过 inversion、eigendecomposition 等方法对 $L$ （$N\times N$ 矩阵）进行处理。然而，当 $N$ 很大时，计算效率很低。因此，我们可以通过以下对偶的表示：
$$C=B{B}^T$$
在这里 $C$ 是 $D\times D$ 矩阵。

• $C$ 和 $L$ 有相同的非零特征值。
• $C$ 和 $L$ 的特征向量线性相关。

命题：
$C$ 存在以下特征值分解
$$C=\sum _{n=1}^D{\lambda }_n{\hat{\mathbf{v}}}_n{\hat{\mathbf{v}}}_n^T$$
当且仅当 $L$ 存在以下特征值分解
$$\begin{array}{rl}L& =B^{T}B=B^T\left(\sum _{n=1}^D{\hat{\mathbf{v}}}_n{\hat{\mathbf{v}}}_n^T\right)B\\ & =\sum _{n=1}^D{\lambda }_n\left[\frac{1}{\sqrt{{\lambda }_n}}{B}^T{\hat{\mathbf{v}}}_n\right]\left[\frac{1}{\sqrt{{\lambda }_n}}{\hat{\mathbf{v}}}_n^{T}B\right]\\ & =\sum _{n=1}^D{\lambda }_n\left[\frac{1}{\sqrt{{\lambda }_n}}{B}^T{\hat{\mathbf{v}}}_n\right]{\left[\frac{1}{\sqrt{{\lambda }_n}}{B}^T{\hat{\mathbf{v}}}_n\right]}^T\end{array}$$

当 $D$ 也特别大时，采用投影到低维（$d\ll D$）空间：

Random projections are known to approximately preserve distances [Johnson and Lindenstrauss, 1984].

---

5. Conditional-DPP

在很多实际问题中，固定的 ground set $\mathcal{Y}$ 是不够用的。例如在 document summarization problems 中。

解决方法是找到一种取决于输入变量 $X$ 的 $\mathcal{Y}(X)$。因此可以得到定义：

一种 Conditional-DPP $\mathcal{P}(\mathbf{Y}=Y|X)$ 是一种在每一种子集 $Y\subseteq \mathcal{Y}(X)$ 上的分布
$$\mathcal{P}(\mathbf{Y}=Y|X)\propto \det (L_Y(X))$$

其中 $L(X)$ 是取决于 $X$的 半正定核。利用 quality-diversity decomposition：
$$L_{i,j}(X)=q_i(X){\varphi }_i^T(X){\varphi }_j(X)q_j(X)=q_i(X)S_{i,j}(X)q_j(X)$$

在这里 Supervised learning 可以用来确定联系 $X$ 与 $q_i$ 和 ${\varphi }_i$ 的隐函数。

6. k-DPP

如果我们只需要 $k$ 个 diverse items 呢?

• 一个最简单的思路就是将 DPP 调整到集合 cardinality $k$：
  $${\mathcal{P}}_L^k(Y)=\frac{\det (L_Y)}{{\sum }_{|Y^{\prime }|=k}\det (L_{Y^{\prime }})}$$

引入 $k$-th elementary symmetric polynomial：
$$e_k({\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_N)=\sum _{\genfrac{}{}{0ex}{}{J\subseteq \{1,\cdots ,N\}}{|J|=k}}\prod _{n\in J}{\lambda }_n$$

举例说明：
$$\begin{array}{rl}{e}_1({\lambda }_1,{\lambda }_2,{\lambda }_3)& ={\lambda }_1+{\lambda }_2+{\lambda }_3\\ e_2({\lambda }_1,{\lambda }_2,{\lambda }_3)& ={\lambda }_1{\lambda }_2+{\lambda }_1{\lambda }_2+{\lambda }_2{\lambda }_3\\ e_2({\lambda }_1,{\lambda }_2,{\lambda }_3)& ={\lambda }_1{\lambda }_2{\lambda }_3\end{array}$$
因此归一化的分母为
$$\sum _{|Y^{\prime }|=k}\det (L_{Y^{\prime }})=e_k({\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_N)$$

6.1 k-DPP inference - sampling

同样的，k-DPP 也可以视为 a mixture of elementary DPPs。