信息论与信道编码（含MATLAB仿真）

前言

这篇博文主要是想给这个系列的文章将会涉及到的学术知识一个大概的框架。信道编码属于通信原理的范畴，它主要是通过对原始信号的设计，来提高接受方所收到信号的准确性。这是因为在传播的过程中，信号往往会受到来自空气的干扰（噪音），导致原信号发生畸形，如果没有一种强识别的方式，往往会导致信号判决错误。这种为了降低信道所带来的的干扰的编码，因此被称为信道编码。
而相对应的译码，其实就是把被设计过的原始信号给重新展现出来。不过有别单调的译码过程，如何通过译码来恢复我们已经畸形的原始信号，更是我们应该关注的。
或许这么说有点单调，用图说话会有意思一点：

对于一种信道编码的纠错能力，它主要体现在信噪比和误码率之间的关系。在上图当中，x轴为信噪比而y轴为误码率。
信噪比符号为Eb/N0,从符号可以看出定义，the power of a bit verse the power of noise。 一比特信号的功率与噪声的功率的比。这个定义非常重要，在后面求解BPSK的BER和SNR关系表达公式有关键作用哦。
而误码率，是能够直接体现信道编码好坏的指标。误码率就是，最终判别错误的比特和已发送有用比特之比。这里特别强调了有用二字，会在后文特意基于解释。
上图中主要展现了三种不同的情况，分别是：没有信道编码的BPSK信号，含有汉明码的BPSK信号，含有卷积码的BPSK信号。
其中没有信道编码的BPSK信号的信噪比与误码率的曲线是起到一个参照的作用。而汉明码和卷积码都会与这条曲线做对比以及他们之间的相互对比来显现出他们的优劣。
除此之外，因为这两种编码不仅仅有它们的仿真曲线，更为重要的还有前人（科学家们）通过计算得出来的理论曲线。这些理论曲线对于我们初学者来说尤其重要。一个是因为理论曲线可以告诉我们的实验结果是否为正确，而另一方面我们更应该尝试去了解前人是如何推导出这样一条理论上的曲线的，这样能够有助于我们能够知道在空气传播当中和译码当中到底发生了什么事情，信道编码是如何改进信号的质量。谈到这，不得不提起概率论。其实信息论和概率论密切关联，在之后的博文当中，都会尝试着用简单通俗的语言展示概率论分析问题的过程。

除了概率论，还有对于白噪声，也会啰嗦的再介绍一下，因为白噪声遵循着高斯分布，所以说，之所以需要用概率论来分析问题，很大一部分原因还是因为噪声带来的影响是未知的，是随机的，不过又有一定的规律。

目录

1. 前言+为什么需要信道编码（即本文）
2. 信息论与信道编码之BPSK误码率公式推导

为什么需要信道编码，直接大功率的信噪比不就好了吗？

先看看BPSK的信噪比曲线图:

在图中可以看到其实信噪比（x轴）和误码率（y轴）是呈类反比的一种趋势。深入思考一下，而噪音功率一定，信号幅度越大，在人眼看来，信号就越容易从噪声中提取出来，所以机器也是一样的。所以幅度差或者是功率差越大越容易辨别出原始信号。这一点跟模拟电路中将模拟信号通过放大器其实机理是差不多的。从图中可以推断当信噪比等于10或大于10的时候，其实误码率已经小的很可观了，接受到的信号几乎不会有问题。
不过真的是这样的吗。在现实生活中，假如手机一直发这么大功率的信号，那么一天得充多少次电。对于一个客户来说，当然是追求一个电量消耗得比较慢的手机吧？除此之外，这也好像一个人在大街上喊，那么其他人还怎么可以互相聊天。所以功率太大，不利于同频信号的复用（详细内容建议看一下蜂窝网络哦，其实也不难）。
所以科学家们为了解决这个问题，不停得寻找各种方案，终于从快递上找到了启发。信号就好比如快递需要的寄的物品，很多时候发送方为了这物品不要在中途被磕碰坏了，都会放点泡沫纸。加上泡沫纸就是信道编码，或者说是加上冗余。
至于怎么添加呢，最开始有好几种办法。一种就是添加重复。例如我想要发送比特1，那么我就发送3个比特1。当接收方收到这三个比特时，假如其中一个比特被磕碰坏了那么我们还能从另外两个比特能知道原始信息。
细心的朋友可能发现，这样速率不就变慢了吗，而且这冗余消耗的能量恐怕不比大功率信号的能量少吧。的确如此。不过这种初始的信道编码，大大的避免了大功率信号的影响范围，而且在旧社会里，因为原本收发速度就很慢的情况下，这种避免了错误的发生而重新发送的行为，已经是一种很大的进步了。
不过随着科技的发展以及理论的完善，信道编码成为了一门课程，它的编码算法也是不断的得到提升的。