错误概率与译码规则

时间：2023-06-25 理论教育版权反馈

【摘要】：下面举例说明信道转移概率和译码规则对通信系统的错误概率是有影响的。译码后的平均错误译码概率为显然，最佳译码规则就是使平均错误译码概率PE为最小的译码规则。由式计算两种译码规则所对应的平均错误译码概率分别为可见PE，R2≤PE，R1，所以在输入等概率时最大似然译码准则可以使信道平均错误概率最小。由例6.3和例6.4可以看出，当输入非等概率分布时，最大似然译码准则的平均错误译码概率已从

错误概率与译码规则

通信的过程并不是信息传输到信道输出端就结束了，还要经过译码过程才能到达信宿。除信道的转移特性外，译码过程和译码规则对系统的错误概率影响很大。下面举例说明信道转移概率和译码规则对通信系统的错误概率是有影响的。

【例6.1】

二元对称信道如图6.1所示，信道的输入符号为等概率分布。如果译码规则为：

1）接收到“0”时译码器输出“0”，接收到“1”时译码器输出“1”，则错误译码概率为

2）反之，接收到“0”时译码器输出“1”，接收到“1”时译码器输出“0”，则错误译码概率为

图6.1 二元对称信道（BSC）

从例6.1中可见，译码规则2）优于译码规则1），且错误译码概率既与信道统计特性有关，也与译码规则有关。

定义6.1 设信道的输入随机变量X的值域为符号集A：{a₁，a₂，…，a_r}，输出随机变量Y的值域为符号集B：{b₁，b₂，…，b_s}，若对每一个输出符号b_j，都有一个确定的单值函数F（b_j），使b_j对应于唯一的一个输入符号a_i，称这样的函数为译码规则，记为

F（b_j）=a_i，i=1，2，…，r且j=1，2，…，s （6.1）

对于有r个输入、s个输出的信道，输出b_j可以对应r个输入中的任何一个，所以译码规则共有r^s种。显然，这些译码规则的性能是有差异的。

【例6.2】

设某信道输入符号集为A：{a₁，a₂，a₃}，输出符号集为B：{b₁，b₂，b₃}，转移概率矩阵为

根据此信道矩阵，可以设计两个译码规则如下：

例6.2中，r=s=3，所以可以设计出多达r^s=27种译码规则。但这些译码规则中，只有很少的规则是性能优良的。因此，需要从理论上解决选择最佳的译码规则的一般方法。一个很自然的准则就是使平均错误概率最小。

在确定译码规则F（b_j）=a_i（i=1，2，…，r；j=1，2，…，s）后，若信道输出端接收到符号b_j，则一定译成a_i。如果发信端发送的确实就是a_i，就是正确译码；反之，若发信端发送的不是a_i，就认为是错误译码。于是，给出如下定义：

定义6.2 收到符号b_j条件下，译码的条件正确译码概率为

而条件错误译码概率为

式中，E表示除了F（b_j）=a_i以外的所有输入符号的集合。译码后的平均错误译码概率为

显然，最佳译码规则就是使平均错误译码概率P_E为最小的译码规则。由于式（6.4）右边是非负项之和，所以可以选择译码规则使每一项为最小，则所得P_E为最小。因为P（b_j）与译码规则无关，所以只要设计译码规则F（b_j）=a_i使条件错误概率P（E|b_j）最小，也就是要使P[F（b_j）|b_j]最大。这就是最大后验概率准则。

定义6.3 选择译码函数F（b_j）=a^*（a^*∈A；b_j∈B），使之满足条件

这称为最大后验概率译码准则，又称为最小错误概率准则。

因为一般是已知信道的前向概率P（b_j|a_i）和输入符号的先验概率P（a_i），所以根据贝叶斯公式，式（6.5）可以写成

一般P（b_j）≠0。这样，最大后验概率译码准则就可以表示为：选择译码函数F（b_j）=a^*，使其满足

当输入符号的先验概率P（a_i）相等时，式（6.7）又可以写成P（b_j|a^*）≥P（b_j|a_i）。因此，可以定义一个有条件最佳的最大似然译码准则。

定义6.4 选择译码函数F（b_j）=a^*（a^*∈A；b_j∈B），使之满足条件

这称为最大似然译码准则。

根据最大似然译码准则可以直接从信道转移概率矩阵中选定译码函数：

当收到b_j后，译成信道转移概率矩阵P中第j列中最大的转移概率所对应的a_i。

最大似然译码准则本身不依赖于先验概率P（a_i），当先验概率为等概率分布时，它与最大后验概率译码准则是等价的，可以使平均错误概率P_E达到最小。如果先验概率不相等或不知道时，仍可以采用这个准则，但不一定能使P_E最小。

根据译码规则和式（6.2）～式（6.4），计算平均错误译码概率为

而平均正确译码概率为

式（6.9）中，符号X-a^*表示集合A中除F（b_j）=a^*以外的所有元素。式（6.9）表示对联合概率矩阵[P（a_ib_j）]中除P（a^*b_j）以外的所有（r-1）s个元素求和。

式（6.9）又可以写成(www.xing528.com)

式（6.11）的平均错误概率是在联合概率矩阵[P（a_i）P（b_j|a_i）]中，先求每列除去F（b_j）=a*所对应的P（a^*b_j）以外所有元素之和，然后再对各列求和。当然，也可以在[P（a_i）P（b_ja_i）]中先对行i求和，除去译码规则中F（b_j）=a^*所对应的P（a_ib_j）（j=1，2，…，s），然后再对各行求和。因此，式（6.11）还可以写成

式中，令。P_E^（i）就是某个输入符号a_i传输所引起的错误概率。

如果先验概率P（a_i）为等概率分布，即P（a_i）=1/r，则由式（6.11）得

式（6.14）表明，在等先验概率分布情况下，译码错误概率可以用信道矩阵中的元素P（b_ja_i）的求和来表示。式（6.14）求和是除去每列中对应于F（b_j）=a^*的那一项后，先对列求和，然后求各列之和。而式（6.15）是由式（6.13）求得，它是先对行求和，然后求各行之和。式（6.14）和式（6.15）只是求和表达式的不同表述。

【例6.3】（续例6.2）

当输入为等概率分布时，求例6.2中两种译码规则对应的平均错误译码概率。

解当输入为等概率分布时，译码规则R2就是最大似然译码准则。

由式（6.14）计算两种译码规则所对应的平均错误译码概率分别为