课后总结-第11周

一、信息
<信息无处不在>
1.定义
（1）某人被通知或告知的内容、情报、信息。
——《牛津英文词典》
（2）通信系统传输和处理的对象，泛指消息和信号的具体内容和意义，通常需通过处理和分析来提取。信息的量值与其随机性有关，如在接收端难以预估信息或信号中所蕴含的内容或意义，预估的可能性越小，信息量就越大。
——《辞海》
（3）维纳的信息定义
维纳：美国数学家、控制论的奠基人。
《人与人的用处》：“信息是信息，不是物质，也不是能量”。
《控制论——关于动物与机器中控制与通信的科学》：“信息是人们在适应外部世界并使这种适应反作用于外部的过程中，同外部世界进行相互交换的内容的描述”。

（4）信息是差异类的定义
朗高（意大利学者）：信息是反映事物的形式、关系、差别的东西。信息存在于客体之间的差别之中，而不是存在于客体之中。 ——《信息论：新的趋势与未决问题》
阿希贝（英国学者）：信息的本性在于事物本身具有变异度。

（5）钟义信的信息定义
本体论层次的信息：是指事物运动的状态及其变化方式的自我表述。
认识论层次的信息：是指认识主体所感知或所表述的事物运动的状态和方式，包括这种状态或方式的形式、含义和效用。
<运动是物体存在的唯一方式>
①语法信息。它是指主体所感知或所表达的事物运动状态和方式的形式化关系。
②语义信息。它是指认识主体所感知或所表达事物运动状态和方式的逻辑含义。
③语用信息。它是指认识主体所感知或所表达事物运动状态和方式相对于某种目的的效用。
④先验信息。观察者关于某事物先验信息是指他在观察之前通过某种途径所感知的该事物运动的状态和方式。
⑤实得信息。在观察过程中观察者关于某事物的实得信息，是指他通过观察所新感知到的该事物运动的状态和方式。
⑥实在信息。它是指在理想观察条件下，观察者所获得的关于该事物实际的运动状态和方式等全部信息。

总结：“信息是被反映的物质属性”或“信息是事物属性的反映”。

（6）香农的信息定义
香农：信息论的创始人。
定义：信息是用来消除不确定性的东西。
前提：假定事物状态可以用一个以经典集合论为基础的概率模型来描述。
缺陷：在实际中要寻找一个合适的概率模型往往是非常困难的。有时是否存在这样一种模型还值得探讨；定义没有考虑收信者的主观特性和主观意义，不顾信息的具体含意、具体用途、重要程度和引起后果等因素。这就与实际情况完全不一致。其实，信息有很强的主观性和实用性。

（7）属加种差定义
<定义=共性+个性>
定义项由被定义概念的邻近的属概念和表示被定义概念种差的概念所组成。其公式：被定义概念（属概念）=邻近的属概念+种差。

总结：总的来说，一切客观存在都有信息。信息一般是指事物释放出来的消息、情报、指令、数据或信号，它是人们认识客观世界的媒介。

2.信息的种类
（1）按照产生信息的物体性质：自然信息、生物信息、机器信息、社会信息等

（2）按照人类活动领域：科技信息、经济信息、政治信息、军事信息、文化信息等





（3）按照信息所依附的载体：文献信息、口头信息、电子信息、生物信息等




（4）按照携带信息的信号性质：连续信息（如正弦波形）、半连续信息、离散信息（如0101）
（5）按照信息所起的作用：无用信息、有用信息、干扰信息***（近期着重研究干扰信息）***

3.信息的度量
由于不确定性的大小能够度量，因此信息是可以度量的。
信息论的基本假设：①信息是可以用一组符号来编码的
②信息的产生和传输是可以用概率论和随机过程来描述的。
③从概率角度看，同样的信息包含同样的信息量。

自信息量是指一个事件本身所包含的信息量，它是由事件的不确定性所决定的。含义为收到某信息获得的信息量等于不确定性减少的量。
随机变量X产生的时间xi的自信息量定义为I(xi)=-log2p(xi) （比特，bit）

信息熵：信息中排除了多余重复信息之后的平均信息量
离散型随机变量X~p(xi)的信息熵是从平均意义上对信息的不确定性的度量，也称为平均自信息量，定义为H(X)=-∑p(xi)log2p(xi)
由上式可知：当各个事件出现的概率相等，即“不确定性”最高时，信息熵最大。在某个符号概率为1，其余符号概率为0，此时信息熵最小。

3.位模式的信息表示
计算机外部的各种不同类型的数据都是在按照统一的数据格式进行转换后存入计算机，并在从计算机输出时再还原回来的，这种统一的格式称为位模式。（0和1的组合）

在原码表示中，0有两种形式：[+0]原=00000000，[-0]原=10000000.
在反码表示中，对于正数，与原码相同；对于负数，将原码的数值部分按位取反。0有两种形式：[+0]反=00000000，[-0]反=11111111.
在补码表示中，符号位同原码；数值位，正数同原码，负数除符号位外的各位取反加1或自低位向高位，尾数的第一个“1”及其右边的“0”保持不变，左边的各位取反，符号位不变。0的补码表示唯一：[+0]补=[-0]补=00000000

4.计算机信息处理过程
信息处理就是对信息进行接收、存储、转化、传输和发布等，其中：
①信息接收包括信息感知、信息测量、信息识别、信息获取以及信息输入等。
②信息存储就是把计算机接收到的信息或计算机处理的中间信息通过存储设备进行缓冲、保存、备份等处理。
③信息转化就是将信息根据人们的特定需要进行分类、计算、分析、检索、管理和综合等处理。
④信息传输是通过计算机内部的指令和计算机之间的网络把信息从一个位置传送到另外一个位置。
⑤信息发布就是把信息通过各种表示形式展示出来。

例子：代数、几何、逻辑

5.图灵机
组成：一条无限长的纸带TAPE（两端无限伸展）、一个读写头HEAD（三种状态：不动、向左移动、向右移动）、一个控制器