信息的传递：探讨信息通道的容量问题

信息的一个基本属性是它的传输性，香农的另一个伟大的贡献是给出了信息的传输理论，下面简单介绍信道容量问题。

信息的传递是需要时间的。用n个符号S1，…，Sn来表达信息，各符号传递所要的时间是各不相同的，分别设为t1，…，tn，并设各符号出现的概率为p1，…，pn。这样就出现了两个问题：

（1）pi是确定的，如何缩短传递确定信息所需的时间；

（2）ti是确定的，如何使单位时间传递的平均信息量最大。

单位时间内信息通道能够传递的最大平均信息量被称为此信息通道的容量。那么如何求信道的容量呢？

由于每一个符号的平均信息量为

传递每一个符号所需的平均时间为

故单位时间内传递的平均信息量为

于是问题化为

其中

利用拉格朗日乘数法，式（3.2.4）可以化为无约束的极值问题

记式（3.2.5）的目标函数为f（p，λ），即求解方程组

方程组（3.2.6）的解为

由于是与pi有关的量，该方程组的解仍然无法算出。为此记，则pi=A-t

i。又因为，故

记，g（0+）=+∞，g（+∞）=0，及g'（A）＜0，知式（3.2.7）有且仅有一个正根。此根可以用牛顿法求出，进而可以求出最佳的pi。

例10　为了简单起见，设符号只有4种S1，S2，S3和S4，在利用这些符号传递信息时，它们分别需要1，2，3，4单位传递时间，试求此信息通道的容量及相应的最佳pi值。(www.xing528.com)

解　求解方程A-1+A-2+A-3+A-4=1，得唯一的正根A=1.92。由A的定义可以求出此信息通道的容量：而p1*=A-1≈0.52；p2*=A-2≈0.27；p3*=A-3≈0.14；p4*=A-4≈0.07。

信道容量的应用非常广泛。我们知道，货币是人们拥有财富的一种信息，它具有各种面值（相当于上面例子中的符号），各种面值的平均花费时间是不等的（相当于上面例子里的时间）。于是如何控制各种面值的比例以便使货币流通的容量最大，这显然是一个十分有意义的问题。

日本东京工业大学国泽清典教授基于上述方法计算了100面值的日元和500面值的日元应保持的比例，并与市场实际调查结果进行了对比，发现两者几乎一样。市场多次调查的结果均为100面值的占75%，500面值的占25%。而计算的结果如下。

以百元为单位，设t1=1，t2=5，求解方程A-1+A-5=1，得正根A≈1.327。

信息通道的容量为log2A≈0.408（比特/单位），

而p1*=A-1≈0.754；p2*=A-5≈0.234。

当前基于互联网的移动支付手段的兴起，又带来了新的问题，人类文明就是在不断面临问题和解决问题的过程中不断进步的。

例11　计算正常人通话的信道容量（或称带宽）。

声学的知识告诉我们，人讲话的频率通常在300～3 400Hz之间，也就是说我们声音的音频1秒钟振动300～3 400次。振动300次的是低音，振动3 400次的是高音。由傅里叶级数的知识我们知道，任何周期性的信号，都可以变成多个不同频率正弦波（或者余弦波）的叠加，这在信息上是等价的。

于是，我们可以把人讲话的语音，等价成从300Hz，301Hz，302Hz……一直到3 100Hz的正弦波的叠加。在数学上任何一个频率的正弦波，都是由两个变量确定的。于是这3 100根曲线就对应了6 200个变量。

在工程上我们会把频率的范围放大，通常放大到1～4 000Hz，于是1秒钟的语音就需要用4 000条正弦曲线，即8 000个变量来描述。

我们再假定每个变量用8bit信息编码，于是传递我们说话时语音的带宽就需要每秒钟能传递8 000×8=64KB的信息，这就是语音通话所需要的信道的宽度。事实上，这也是我们使用的长途电话的标准带宽。

不仅电话线的带宽有限，给定任何频率范围的电磁波，所能够承载的信息都是有限的。比如，很多人家里使用2.4GHz的Wi-Fi信号上网。如果我们限制频率的范围从2.4GHz到2.401GHz之间，那么带宽有多宽呢？

这中间的频率范围是0.001GHz，也就是1MHz左右，大约是每秒钟传输8MB，这就是你的带宽速度。

在无线通信中，想增加带宽，就需要增加频率的范围，比如，你占用了2.4GHz～5GHz的带宽，1秒钟就可以收发2.6GB的信息，相当于1小时的高清电影。你上网会特别流畅，但是别人无法上网，于是大家就不得不共享带宽。这就涉及通信标准。