计算理论初步——形式语言与自动机

形式语言入门

一、字符串理论

1.理论模型：

$A$是一个有限字母集，我们定义$A$上的串结构：
空串：没有任何字母的串$\lambda$是$A$上的串，
单个字符的串：对于$A$中的任意字母$a$是$A$上的串，
加法（拼接）：对于$A$上任意两个字符串$s$和$t$，$s+t$也是$A$中的字符串，
模：所有的串都有有限的长度，由空串$\lambda$每次添加一个$A$中的字符得到串$s$所进行的加法次数称为串$s$的长度，空串的长度为0，
偏序结构：对于$A$上的串$\delta$和$\theta$，如果存在$A$上的串$\alpha ,\omega$使得$\delta =\alpha +\theta +\omega$，则称$\theta$是$\delta$的子串，记作$\delta \ge \theta$，
子串的替换：对于$A$上的串$s$和$t$，如果$s\ge t$，对于任意$A$上的串$c$，$s:t\to c$也是$A$上的串.特别的，当$c$是空串时，记作$s-t$.

我们记$A^{\ast }$为字母集$A$上所有的串构成的集合，显然$A^{\ast }$是可数集。
注1：加法不满足交换律，并且$A^{\ast }$对无限次加法不一定封闭（无限次加空串是封闭的）

2.串的性质：

串的运算之间的关系：

1. 加法和模的关系：$|a+c|\ge |a|$，$|c+a|\ge |a|$，$|a+c|=|a|+|c|$,
2. 加法和偏序的关系：如果$a\ge b$，那么$a+c\ge b$，$c+a\ge b$，
3. 偏序和模的关系：如果$a\ge c$，那么$|a|\ge |c|$,
4. 替换和加法的关系：令$s=j+t+k$，$s:t\to c$，$s=j+c+k$.

字符串集上的运算：

1. $A^{+}=A^{\ast }-\{\lambda \}$
2. 加法：$L^1+L^2=\{x+y|x\in L^1,y\in L^2\}$
3. $nL={\sum }_{i=1}^{n}L,0L=\{\lambda \}$
4. 闭包：$L^{\ast }={\sum }_{i=0}^{n}iL,L^{+}={\sum }_{i=1}^{n}iL$

二、文法

1.理论模型：

一个短语结构文法$G$是一个四元组$(A^{\ast },T,S,P)$，其中$A^{\ast }$是字母表$A$生成的所有串的集合，$T$是$A^{\ast }$的子集，$S$是$A^{\ast }$的一个元素，$P$是一系列替换规则。

1. $T$中的元素不可被替换，称作$G$的终结符，
2. $S$是$G$的初始符，一个短语结构必须从$S$开始生成，
3. $P$是$G$的产生式集，是$A^{\ast }$上替换的集合，
4. 短语的派生：${\omega }_0=l+z_0+r$，$z_0\to z_1$是一个产生式，称${\omega }_1$是${\omega }_0$的派生，记作${\omega }_0\to {\omega }_1$.
   注：$S$不能在任何产生式的右边

设$G=(A^{\ast },T,S,P)$是一个文法，由$G$生成的语言是初始符$S$能够派生的所有终结符串构成的集合，记作$L(G)=\{\omega \in A^{\ast }|S\to \omega \}$

2.文法类型

1. 0型：对产生式没有规则限制
2. 1型：只有${\omega }_1=lAr\to l{\omega }_{1}r$，和$S\to \lambda$两种替换规则的文法
3. 2型（上下文无关文法）：只有${\omega }_1\to {\omega }_2$的替换规则，${\omega }_1$是单个非终结符串
4. 3型：只有${\omega }_1\to {\omega }_2$的替换规则，$(({\omega }_1=A)\wedge (({\omega }_2=aB)\vee ({\omega }_2=a)))\vee (({\omega }_1=S)\wedge ({\omega }_2=\lambda ))$

单调性：在产生式${\omega }_1\to {\omega }_2$中，如果$|{\omega }_1|\le |{\omega }_2|$则称该产生式是非缔约的，如果一个文法所有的产生式都是非缔约的，则称这个文法是 非缔约的或者单调的。

3.语法分析树

对于上下文无关的语言，将其派生用有序根树表示成的图形叫做派生树，树根表示初始符，树的内部节点表示派生过程中产生的非终结符，叶结点表示终结符。

1. 自顶向下的语法分析：从初始符开始，用一系列替换派生出语句
2. 自底向上的语法分析：从语句开始推导需要的替换

4.巴克斯—诺尔范式

巴克斯—诺尔范式(BNF)是一种表示2型文法的方法。

1. 非终结符用<>括起来
2. 用“::=”代替 “$\to$”
3. 产生式右侧多种可能用“|”隔开
   例：::=a|a|

三、有限状态机

1.带输出的有限状态机

带输出的有限状态机是一个六元组$M=(S,I,O,f,g,s_0)$：

• $S$是有限状态的集合，$s_0$是初始状态,
• $I$是有限输入字母表,
• $O$是有限输出字母表,
• $f$是转移函数，$f:S\times I\to S$,
• $g$是输出函数，$g:S\times I\to O$.
  设$M$是有限状态机，可以用状态表或状态图来表示$M$

$M$是一个有限状态机，$L\subseteq I$，对于$L$中的$x$，如果$M$的输出的最后一位是1，则称$M$能识别$L$.

有限状态集的类型：
米兰机：输出与状态之间的转移相对应
摩尔机：输出仅由状态决定

2.不带输出的有限状态机

不带输出的有限状态自动机是一个五元组$M=(S,I,f,s_0,F)$：

• $S$是有限状态集，
• $I$是有限输入字母表，
• 转移函数$f:S\times I^n\to S$，
• 初始状态$s_0$，
• 终结状态集$F\subseteq S$.

$M$是一个有限状态自动机，如果$x\in L$将$s_0$转变为一个终结状态，就称$M$能识别$L$.

有限状态自动机的等价：如果两个有限状态自动机能识别相同的语言，就说它们是等价的

四、图灵机

图灵机是一个四元组$T=(S,I,f,s_0)$

• $S$是有限状态集，$s_0$是初始状态
• $I$是包含空白符$B$的输入字母表
• 部分函数$f=S\times I\to S\times I\times \{L,R\}$

图灵机主要由控制器和带组成：带被分成无限个小方格，但任何时候带上只有有限个非空白符；在每一步，控制器读取当前方格中的符号$x$，如果控制处于状态$s$，且$f$将$(s,x)$映到$(s^{\prime },x^{\prime },d)$，控制器进入状态$s^{\prime }$，擦掉当前方格中的$x$并写上$x^{\prime }$，如果$d=R$就右移一个方格，$d=L$就左移一个方格；如果部分函数$f$在$(s,x)$处没有定义，图灵机停机。
我们将每一记作$(s,x,s^{\prime },x^{\prime },d)$
当输入$x$时图灵机能够停机且停机时$y$在带上，则称$T(x)=y$，若输入$x$时图灵机不停机，则$T(x)$无定义

设$V\subseteq I$，图灵机$(S,I,f,s_0)$能识别$V$上的串$x⟺T$在初始状态时将$x$写在带上$T$能够停机；称$T$能识别集$A$如果$(T$能识别串$x⟺x\in A)$