【计算理论基础】

1. 语言类的定义

1.1 正则语言

定义：
如果一个语言可以被一台有穷自动机识别，则称它是正则语言。
有穷自动机是一个五元组$(Q,\Sigma ,\delta ,q_0,F)$，其中：

1. $Q$是一个有穷集合，称为状态集。
2. $\Sigma$是一个有穷集合，称为字母集。
3. $\delta :Q\times \Sigma \to Q$是转移函数。
4. $q_0\in Q$是起始状态。
5. $F\subseteq Q$是接受状态集。

举例：$L(M)=$ {$w|w$是空串或以0结束}

1.2 上下文无关语言

定义：
与上下文无关文法相关的语言或者被下推自动机PDA识别的语言称为上下文无关语言。
上下文无关文法是一个四元组$(V,\Sigma ,R,S)$，其中：

1. $V$是一个有穷集合，称为变元集。
2. $\Sigma$是一个与$V$不相交的有穷集合，称为终结符集。
3. $R$是一个有穷规则集，每条规则由一个变元和一个由变元及终结符组成的字符串构成。
4. $S$是起始变元。

举例：{$0^n{1}^n|n\ge 0$}

1.3 图灵机

定义：
一台图灵机是一个七元组，{$Q,\Sigma ,$ ? , $\delta ,q_0,q_{accept},q_{reject}$}，其中：$Q,\Sigma ,$ ? 都是有限集合，且满足：

1. $Q$是状态集合。
2. $\Sigma$是输入字母表，其中不包含特殊的空白符☐。
3. ? 是带字母表，其中☐∈? 且Σ ∈? 。
4. $\delta$：$Q\times$ ? $\to Q\times$ ? $\times$ {L,R}是转移函数，其中{L,R}表示读写头是向左移还是向右移。
5. $q_o\in Q$是起始状态。
6. $q_{accept}$是接受状态。
7. $q_{reject}$是拒绝状态。$q_{accept}\ne q_{reject}$

1.4 图灵可判定语言

定义：
如果一个语言能被某一图灵机判定，则称该语言是图灵可判定的。
举例：$A_{CFG}=$ {$<G,w>|G是CFG,w是串，G派生w$}

1.5 图灵可识别语言

定义：
如果一个语言能被某一图灵机识别，则称该语言是图灵可识别的。
举例：$A_{TM}$

1.6 非图灵可识别语言

定义：
如果一个语言不能被任何图灵机识别，则称该语言是图灵不可识别的。
举例：$～A_{TM}$

2. 封闭性证明

2.1 证明正则语言类在并、连接、星号运算下封闭

• 并运算
  构造两个有穷自动机$N_1{N}_2$，分别识别两个正则语言，构造第三个有穷自动机$N$识别它们俩的并。其中：
  $N$的起始状态是新的。
  $N$的状态集是它们俩状态集的并再加上$N$的起始状态。
  $N$的接受状态集是它们俩的接受状态集合的并。
  只要其中一个有穷自动机接受则接受。

• 连接运算
  构造两个有穷自动机$N_1{N}_2$，分别识别两个正则语言，构造第三个有穷自动机$N$识别它们俩的连接。其中：
  $N$的状态集是$N_1{N}_2$的状态集的并。
  $N$的起始状态是$N_1$的起始状态，$N$的接受状态集是$N_2$的接受状态集。

• 星号
  构造一个识别正则语言$A_1$的有穷自动机$N_1$，N是识别A1*的有穷自动机。其中：
  $N$的起始状态是新的。
  $N$的状态集是$N_1$的状态集 + $N$的起始状态。
  $N$的接受状态集是$N_1$的接受状态集 + $N$的起始状态。

2.2 证明图灵可识别语言类在并、连接、星号运算下封闭

• 并运算
  构造两个图灵机$M_1{M}_2$，识别两个图灵可识别语言$A_1{A}_2$，构造图灵机$M$，对于输入w：

1. 在输入w上并行运行两个图灵机。
2. 两个图灵机有一个停机且接受，则接受；若两个都停机且拒绝，则拒绝。
3. 则$M$识别$A_1\cup A_2$。

• 连接运算 （每一种分段方式都接受才接受）
  构造两个图灵机$M_1{M}_2$，识别两个图灵可识别语言$A_1{A}_2$，构造图灵机$M$，对于输入w：

1. 写出所有w的分段方式$|w|+1$种。
2. 对于i = 1,2,重复以下步骤。
3. 对于每一种分段方式，在第一段上运行$M_1$i步，在第二段上运行$M_2$i步，或者直到停机。
4. 若都接受，则接受。
5. 则$M$为识别$A_1\circ A_2$的图灵机。

• 星号（每一种分段方式都接受才接受）
  构造一个图灵机$M_1$，识别$A_1$，构造图灵机$M$，对于输入w：

1. 列出所有w的分段方式$2^{(|w|-1)}$种。
2. 对于每一种分段方式，分别在每一段运行$M_1$，直到停机，若都被接受，则接受。
3. 否则拒绝。
4. 则$M$是识别$A\ast$的图灵机。

2.3 证明可判定语言类在并、连接、星号、补、交运算下封闭

• 并运算
  构造两个图灵机$M_1{M}_2$，是识别两个语言$A_1{A}_2$的判定器，构造图灵机$M$，对于输入w：

1. 在输入w上分别运行$M_1{M}_2$。
2. 两个图灵机有一个接受，则接受；若两个都拒绝，则拒绝。
3. 则$M$为识别$A_1\cup A_2$判定器。

• 连接运算 （每一种分段方式都接受才接受）
  构造两个图灵机$M_1{M}_2$，是识别两个语言$A_1{A}_2$的判定器，构造图灵机$M$，对于输入w：

1. 写出所有w的分段方式。
2. 对于i = 1,2,重复以下步骤。
3. 对于每一种分段方式，在第一段上运行$M_1$i步，在第二段上运行$M_2$i步，或者直到停机。
4. 若都接受，则接受。
5. 若有一种不接受，则拒绝。
6. 则$M$为识别$A_1\circ A_2$的判定器。

• 星号（每一种分段方式都接受才接受）
  构造一个图灵机$M_1$，是识别可判定语言$A_1$的判定器，构造图灵机$M$，对于输入w：

1. 列出所有w的分段方式$2^{(|w|-1)}$种。
2. 对于每一种分段方式，分别在每一段运行$M_1$，直到停机，若都被接受，则接受。
3. 否则拒绝。
4. 则$M$是识别A*的判定器。

• 补
  设$M_1$ = {$Q,\Sigma ,$ ? , $\delta ,q_0,q_1,q_2$}是识别可判定语言A的判定器，则交换接受与拒绝状态的集合得到新的$M$ = {$Q,\Sigma ,$ ? , $\delta ,q_0,q_2,q_1$}，为识别A的判定器，则可判定语言类在补运算下封闭。

• 交
  构造两个图灵机$M_1{M}_2$，是识别两个语言$A_1{A}_2$的判定器，构造图灵机M，对于输入w：

1. 分别让$M_1{M}_2$在w上运行。
2. 若$M_1{M}_2$都接受，则接受。
3. 否则拒绝。
4. $M$是识别$A_1\cap A_2$的判定器。

2.4 证明P在并、连接、补运算下封闭

• 并运算
  对任意$L_1,L_2\in P$，设有$n^a$时间图灵机$M_1$和$n^b$时间图灵机$M_2$判定它们，且$c=max(a,b)$，对$L_1\cup L_2$构造判定器$M$，对于输入w：

1. 在输入w上分别运行$M_1{M}_2$。
2. 若有一个接受则接受，否则拒绝。
3. 时间复杂度：?$(n^a+n^b)=$?$(n^c)$，属于P类，因此P类在并运算下封闭。

• 连接运算 （只要有一种分段方式接受就接受）
  对任意$L_1,L_2\in P$，设有$n^a$时间图灵机$M_1$和$n^b$时间图灵机$M_2$判定它们，且$c=max(a,b)$，对$L_1\circ L_2$构造判定器$M$，对于输入$w=w_1{w}_2......w_n$：

1. 对k = 0,1,2,…,n执行下列步骤。
2. 在$w_1{w}_2......w_k$上运行$M_1$，在$w_{k+1}{w}_{k+2}......w_n$上运行$M_2$。
3. 若都接受，则接受，否则继续。
4. 若对任何分法都不接受，则拒绝。
   时间复杂度：$(n+1)$（?$(n^a)$ $+$ ?($n^b)$）$=$ ?$(n^{a+1})$ $+$ ?($n^{b+1})=$ ?$(n^{c+1})$，属于P类，因此P类在连接运算下封闭。

• 补
  对任意$L_1\in P$，设有$n^a$时间图灵机$M_1$判定它，对$～L_1$构造判定器$M$，对于输入$w$：

1. 在w上运行$M_1$。
2. 若$M_1$接受则拒绝，拒绝则接受。
3. 时间复杂度：?$(n^a)$，属于P类，因此P类在补运算下封闭。

2.5 证明NP在并、连接、星号运算下封闭

• 并运算
  对任意$L_1,L_2\in P$，设有$n^a$时间的非确定图灵机$M_1$和$n^b$时间的非确定图灵机$M_2$判定它们，且$c=max(a,b)$，对$L_1\cup L_2$构造判定器—非确定图灵机$M$，对于输入w：

1. 在输入w上分别运行$M_1{M}_2$。
2. 若有一个接受则接受，否则拒绝。
3. 时间复杂度：?$(n^a+n^b)=$?$(n^c)$，属于NP类，因此NP类在并运算下封闭。

• 连接运算
  对任意$L_1,L_2\in P$，设有$n^a$时间的非确定图灵机$M_1$和$n^b$时间的非确定图灵机$M_2$判定它们，且$c=max(a,b)$，对$L_1\circ L_2$构造判定器—非确定图灵机$M$，对于输入$w=w_1{w}_2......w_n$：

1. 非确定地把$w$分成两段$w=xy$。
2. 在$x$上运行$M_1$，在$y$上运行$M_2$。
3. 若都接受，则接受，否则继续。
   时间复杂度：第一步?$(n)$，第二步?$(n^a+n^b)=$?$(n^c)$，属于NP类，因此NP类在连接运算下封闭。

• 星号
  设L∈NP，构造非确定图灵机$M$，对于输入w：

1. 非确定地分割$w=w_1{w}_2......w_k$。
2. 对于每一段$w_i$，非确定地猜测可证明$w_i$∈L的证书。
3. 验证所有可能的证书，则接受。验证失败，则拒绝。
4. 在多项式时间内判定L*，则NP在*下封闭。

2.6 证明PSPACE在并、补、星号运算下封闭

3. 可判定/可识别/NP完全证明

3.1 证明$CF{L}_{TM}$是不可判定的

3.2 证明$E{Q}_{TM}$不是图灵可识别的

3.3 证明$CLIQUE$是NP-完全的

3.4 证明$VERTEX-COVER$是NP-完全的

4. 复杂度的包含关系

$TIME(n^5)\subseteq NTIME(n^4)\subseteq SPACE(n^3)\subseteq NSPACE(n^2)\subseteq PSPACE\subseteq EXPTIME$

• $SPACE(f(n))=${$L|L$是被?$(f(n))$空间的确定性图灵机判定的语言}
• $NSPACE(f(n))=${$L|L$是被?$(f(n))$空间的非确定性图灵机判定的语言}
• 萨维奇定理：$NSPACE(f(n))\subseteq SPACE(f^2(n))$
• $PSPACE$是在确定性图灵机上，在多项式空间内可以判定的语言类。
• $NPSPACE=PSPACE$
• $NP\subseteq PSPACE$
• $P\subseteq NP\subseteq PSPACE=NPSPACE\subseteq EXPTIME$

5. 其他证明

5.1 证明PSPACE难的语言也是NP难的

证明：
若对于任意A ∈ PSPACE，都有A ≤ pB，称B是PSPACE难的。
若对于任意A ∈ NP，都有A ≤ pB，称B是NP难的。
现在B是PSPACE难的，对于任意A ∈ NP，由于NP ⊆ PSPACE，所以A ≤ pB，所以B也是NP难的。

5.2 时间层次定理

保证存在一个语言A，它可以在?$(f(n))$时间内判定，但不能在?$(f(n)/log(f(n)))$时间内判定。

5.3 空间层次定理

存在语言A，可以在?$(f(n))$空间内判定，但不能在?$(f(n))$空间内判定。

推论：
$SPACE(n^p)⊊SPACE(n^q),(p<q)$