深度神经网络联合训练提升MIMO信号检测能力

本节提出一种基于信道状态信息与接收信号联合训练的MIMO信号检测算法。该算法中利用深度神经网络作为信号检测模块，用Dropout层解决过拟合现象，并采用信道状态信息和接收信号作为训练集对网络进行优化，从而有效应用于信号检测问题。该MIMO信号检测算法主要分为两步：线下训练阶段和线上检测阶段。

1.线下训练阶段

大量的接收信号和信道状态信息作为训练数据集，其中一部分作为训练集，另一部分作为验证集，小批量随机输入神经网络，并赋予相应的发送和接收天线个数N、M以及调制方式Mmod，以发送端的比特信息为a0，a1，…，aN×Mmod-1

［］T为目标恢复值，[y0，y1，…，yN×Mmod-1]T为估计值，以交叉熵函数为损失函数计算目标值与估计值之间的误差，并采用RMSProp梯度下降算法以循环迭代的方式降低误差，从而对神经网络中的训练参数进行更新，最终获取优化的深度神经网络，其中交叉熵损失函数可表示为

本节将针对偏置的优化过程进行详细描述。训练过程中，训练参数的具体更新过程如表8-1所示。(www.xing528.com)

对神经网络的权重进行随机初始化，并将信道状态信息和接收信号随机选取小批量输入神经网络，其中批量大小为L，由步骤一计算模块计算出输出值和目标值的损失函数，步骤二至步骤四利用梯度下降及RMSProp算法进行微分平方加权平均，更新权重使下一次的网络运行损失函数更小。同时，采用验证集调整超参数，监控神经网络拟合状况进行决策是否停止训练，偏置b的优化方法与权重w相同。通过迭代训练，可以得到最为合理的权值和偏移量。经过训练优化的神经网络即可嵌入接收端用来进行线上信号检测。

表8-1　算法描述

2.线上检测阶段

接收端接收到的信号和信道状态信息直接输入优化的神经网络，神经网络即可恢复出原始的比特信息。该方法通过优化的神经网络直接恢复出比特信息，避免了传统算法中大量的迭代过程，从而降低了信号检测的计算复杂度。然而这种方法只考虑了硬判决信号检测，未考虑软判决信号检测，这无疑会降低信号检测的准确度，因此，在下一节，将对基于深度学习的MIMO软判决信号检测方案进行详细介绍。