摘要
大规模多输入多输出（Multiple-inputMultiple-output，MIMO）技术是第五代移动通信系统（the5thGenerationMobileCommunicationSystem，5G）最为关键的技术之一，通过在基站（BaseStation，BS）配置大量天线同时为多个用户设备（UserEquipment，UE）提供服务，使得系统的空间自由度大幅提升。凭借在系统吞吐量、频谱利用率和能量效率等性能上的重大优势，大规模MIMO技术一跃成为通信领域的研究热点。然而，随着天线阵列规模的扩大，会给下行链路BS端信号预编码处理带来计算复杂度上的困难。本文对大规模MIMO系统中信号预编码算法进行了深入研究，旨在低复杂度的情况下仍能维持较为优秀的预编码性能。 近年来，越来越多的研究学者成功将深度学习框架应用于无线通信系统中，主要集中在物理层方面，例如资源分配、信号检测、信号预编码等。基于深度学习的通信领域研究主要具有两种思路，一种是将通信系统视为黑盒网络进行训练的数据驱动方式，然而需要付出过高训练成本和极高计算开销的代价；另一种则是充分利用通信方面的知识构建网络模型进行训练的模型驱动方式。本文将基于深度学习模型驱动构建神经网络，针对大规模MIMO信号预编码问题进行深入的研究和分析，主要内容如下： 首先，对量化情况下大规模MIMO系统的预编码方法进行了研究。着重针对一位量化精度下的非线性预编码算法，详细推导了如何在双凸松弛框架下利用交替最小化的办法解决最近向量问题，并将双凸松弛算法与深度神经网络相结合，建立了基于模型驱动的双凸松弛神经网络预编码算法模型。该算法对原算法的迭代公式进行展开，形成具有深度的多层连接神经网络，通过大量多批次的数据进行训练来优化迭代参数，最终达到提升预编码性能的目的。 其次，对大规模MIMO线性预编码算法展开进一步研究。针对高维矩阵求逆复杂度过高的问题，研究了Neumann级数展开和Richardson迭代预编码算法，将基于正则迫零预编码的Richardson迭代算法与深度学习框架相结合，通过迭代公式的展开并加入可训练参数来构造深度神经网络。对该算法的复杂度进行理论分析，并且给出了不同配置下的性能仿真，证明了该算法在大规模MIMO系统下具有低复杂度并保持了较高的预编码性能，验证了该方案的可行性和有效性。
NETL