【0基础运筹学】约束满足问题（CSP）的可处理结构 Tractable Structures for Constraint Satisfaction Problems——2023.9 持续更新ing

作者：小猪快跑

基础数学&计算数学，从事优化领域5年+，主要研究方向：MIP求解器、整数规划、随机规划、智能优化算法

在过去的几十年里，出现了两种主要的约束处理方案——一种基于 conditioning 或者 search,，另一种基于 inference 或者 derivation.。约束满足的 search 采用深度优先回溯的形式，而 inference 则通过变量消除和树聚类算法或有界局部一致性强制来执行。与人类解决问题的技术相比，conditioning 类似于猜测(一个变量的值)，或者通过假设进行推理。然后将问题划分为子问题，以变量子集的实例化为条件，每个子问题都应得到解决。另一方面，inference 对应于对手头问题的重新解释或演绎。基于 inference 的算法派生并记录新信息，生成等价的问题表示，从而更容易地解决问题。

如有错误，欢迎指正。如有更好的算法，也欢迎交流！！！——@小猪快跑

相关文献

• [Handbook of Constraint Programming](Handbook.dvi (gla.ac.uk))

从一个例子出发

我们先看一个简单的约束满足问题（CSP），假设约束如下：

$$\begin{array}{rl}\max & A+B+C+D+E\\ s.t.& A+2B+3C⩽5\\ & A+2E+3F⩽4\\ & C+2D+3E⩽3\\ & A+2C+3E⩽2\\ & A,B,C,D,E\in \mathbb{N}\end{array}$$

我们把所有变量画在图上，然后对于每个约束，我们画一个圈，刚好包含其变量，如图（a）所示，我们一般称之为hypergraph。

通过节点表示变量，并将弧与驻留在同一约束中的任意两个节点关联起来，如图（b）所示，我们一般称之为Primal-constraint graph (二元约束图的泛化)。

我们来看一下对偶问题：
$$\begin{array}{r}\min 5W+4X+3Y+2Z\\ \{\begin{array}{cccccccc}W& +& X& & & +& Z& ⩾1\\ 2W& & & & & & & ⩾1\\ 3W& & & +& Y& +& 2Z& ⩾1\\ & & & & 2Y& & & ⩾1\\ & & 2X& +& 3Y& +& 3Z& ⩾1\\ & & 3X& & & & & ⩾1\end{array}\\ W,X,Y,Z\in \mathbb{N}\end{array}$$

我们知道其实 $W$ 对应原问题第一个约束：$A+2B+3C⩽5$，那我们重新定义一下符号，令 $W=(ABC)$ ：
$$\begin{array}{r}\min 5(ABC)+4(AEF)+3(CDE)+2(ACE)\\ \{\begin{array}{cccccccc}(ABC)& +& (AEF)& & & +& (ACE)& ⩾1\\ 2(ABC)& & & & & & & ⩾1\\ 3(ABC)& & & +& (CDE)& +& 2(ACE)& ⩾1\\ & & & & 2(CDE)& & & ⩾1\\ & & 2(AEF)& +& 3(CDE)& +& 3(ACE)& ⩾1\\ & & 3(AEF)& & & & & ⩾1\end{array}\\ (ABC),(AEF),(CDE),(ACE)\in \mathbb{N}\end{array}$$
我们又知道，对偶问题不等号右边的系数其实来自于原问题的目标函数，第一个约束对应原问题目标函数里 $A$ 的系数，我们记为 $A_{coef}$ ：
$$\begin{array}{r}\min 5(ABC)+4(AEF)+3(CDE)+2(ACE)\\ \{\begin{array}{cccccccc}(ABC)& +& (AEF)& & & +& (ACE)& ⩾A_{coef}\\ 2(ABC)& & & & & & & ⩾B_{coef}\\ 3(ABC)& & & +& (CDE)& +& 2(ACE)& ⩾C_{coef}\\ & & & & 2(CDE)& & & ⩾D_{coef}\\ & & 2(AEF)& +& 3(CDE)& +& 3(ACE)& ⩾E_{coef}\\ & & 3(AEF)& & & & & ⩾F_{coef}\end{array}\\ (ABC),(AEF),(CDE),(ACE)\in \mathbb{N}\end{array}$$
于是我们会发现一个现象，比如第一个约束：
$$(ABC)+(AEF)+(ACE)⩾A_{coff}\text{\hspace{1em}(A)}$$
每个变量名都有A，那么他们的关系我们就记为A，以此类推，我们画图（c），一般我们称为dual-constraint-graph

我们看到图©中 $(AEF)$ 和 $(ABC)$ 之间的弧线是多余的，因为变量A也沿着备选路径 $(ABC)-AC-(ACE)-AE-(AEF)$ 出现。因此，即使去掉了 $(AEF)$ 和 $(ABC)$ 之间的约束，这些约束也保证了对 $A$ 的一致赋值。同样，标记为 $E$ 和 $C$ 的弧线也是冗余的，删除它们产生图(d)。

最后我们总结一下： (a)Hyper, (b)Primal, ©Dual and (d)Join-tree constraint graphs of a CSP.

那么小伙伴肯定要问了，我们折腾了一大圈画了这个图到底有什么用呢？

我们其实很容易发现根节点是 $ACE$ ，对应的约束是 $A+2C+3E⩽2$ ，从这个约束中能推出 $R_{ACE}=\{(0,0,0),(1,0,0),(2,0,0),(0,1,0)\}$ 。

A	C	E
0	0	0
1	0	0
2	0	0
0	1	0

这时候我们发现 $E=0$ ，于是可以把变量 $E$ fixed。我们再看 $ACE$ 的子节点，比如说 $CDE$ ，因为 $E=0$ ，所以其实 $CDE$ 已经变成 $CD$ 了。 $R_{CD}=(0,0),(1,0),(2,0),(3,0),(0,1),(1,1)$ 。因为 $CD$ 和 $AC$ 之间的关系只有 $C$ ，所以我们只关心两种关系 $C$ 取交集。于是 $R_{CD}=\{(0,0),(1,0),(0,1),(1,1)\}$ 。其实我们会发现 $R_{CD}$ 也是很特殊的关系，可以拆分成 $R_C=\{0,1\},R_D=\{0,1\}$

C	D
0	0
1	0
0	1
1	1

同样的， $AEF$ 已经变成 $AF$ 了， $R_{AF}=\{(0,0),(1,0),(2,0),(3,0),(4,0),(0,1),(1,1)\}$ 。因为 $AF$ 和 $AC$ 之间的关系只有 $A$ ，所以我们只关心两种关系 $A$ 取交集。于是 $R_{AF}=\{(0,0),(1,0),(2,0),(0,1),(1,1)\}$。

A	F
0	0
1	0
2	0
0	1
1	1

同样的， $R_{ABC}=\{(0,0,0),(1,0,0),(2,0,0),(3,0,0),(4,0,0),(5,0,0),(0,1,0),(1,1,0),(2,1,0),(3,1,0),(0,2,0),(1,2,0),(0,0,1),(1,0,1),(2,0,1),(0,1,1)\}$ 。因为 $ABC$ 和 $AC$ 之间的关系有 $AC$ ，所以我们关心两种关系 $AC$ 取交集。于是 $R_{ABC}=\{(0,0,0),(1,0,0),(2,0,0),(0,1,0),(1,1,0),(2,1,0),(0,2,0),(1,2,0),(0,0,1),(0,1,1)\}$ 。

A	B	C
0	0	0
1	0	0
2	0	0
0	1	0
1	1	0
2	1	0
0	2	0
1	2	0
0	0	1
0	1	1

又因为$R_{ABC}$ 包含了 $R_{AC}$ ，又因为$R_{ABC}$ 包含了 $R_C$ ，所以最终我们只需看：
$$\begin{array}{rl}& R_D=\{0,1\}\\ & R_{AF}=\{(0,0),(1,0),(2,0),(0,1),(1,1)\}\\ & R_{ABC}=\{(0,0,0),(1,0,0),(2,0,0),(0,1,0),(1,1,0),(2,1,0),(0,2,0),(1,2,0),(0,0,1),(0,1,1)\}\\ & E=0\end{array}$$
又容易发现 $D$ 仅在 $R_D$ 中，那么对于MILP问题来说，我们直接可以关注目标函数来确定最优的 $D$ 值，于是 $D=1$ ，
$$\begin{array}{rl}& R_{AF}=\{(0,0),(1,0),(2,0),(0,1),(1,1)\}\\ & R_{ABC}=\{(0,0,0),(1,0,0),(2,0,0),(0,1,0),(1,1,0),(2,1,0),(0,2,0),(1,2,0),(0,0,1),(0,1,1)\}\\ & D=1\\ & E=0\end{array}$$

同样的 $F$ 仅在 $R_{AF}$ 中， $C$ 仅在 $R_{ABC}$ 中，$B$ 仅在 $R_{ABC}$ 中：

AF

A=0

F=0

F=1

A=1

F=0

F=1

A=2

F=0

ABC

A=0

C=0

B=0

B=1

B=2

C=1

B=0

B=1

A=1

C=0

B=0

B=1

B=2

A=2

C=0

B=0

B=1

ABC

A=0

C=0,B=2

C=1,B=1

A=1

C=0,B=2

A=2

C=0,B=1

$$\begin{array}{rl}& R_{AF}=\{(2,0),(0,1),(1,1)\}\\ & R_{ABC}=\{(2,1,0),(0,2,0),(1,2,0),(0,1,1)\}\\ & D=1\\ & E=0\end{array}$$

这时候 Join-tree constraint graphs of a CSP 变成了：

A

ABC

AF

至此，我们其实已经完成了推理过程。之后的方法有很多，也不是本用例的重点。

图形化表示（Graphical Representations）

待更新。。。