摘要
面向移动互联网和物联网的第五代（5G）移动通信系统已经成为学术界和工业界主要的研究热点。然而，传统的通信系统一般都是基于模块来设计和优化的，如信道估计、信道译码等，这种方式并不能保证通信系统在整体上获得最优的性能。人工智能技术的复兴为通信系统的设计与优化提供了一种新的思路。基于自编码器（Autoencoder,AE）的端到端通信系统将物理层通信建模为一个端到端的信号重构问题，通过对输入端数据和输出端数据进行联合优化，二者之间的误差达到最小，整个系统的误码性能达到最优。考虑到信道编码技术发展迅猛，具有重要的理论研究意义和实际应用价值，在实际通信系统中带来的增益不可忽视。本文设计并实现了基于卷积自编码器的端到端编码调制系统，该系统可以针对不同的信道编码方案，学习最优映射空间，提升系统误码性能，具有良好的可靠性和泛化能力。具体研究工作如下： 首先，本文从编码方案的选取、神经网络种类的确定、功率归一化层的设置等方面详细介绍了所提出结构的设计思路，确定了加性高斯白噪声（AdditiveWhiteGaussianNoise,AWGN）信道下系统的网络结构。本文仿真实验采用的是5GNRLDPC码，该系统可以将码字序列通过分组编码成one-hot向量，然后在多层一维卷积网络中进行星座映射。接收端将经过神经网络调制的软信息送入到LDPC译码器中迭代，恢复出发送端的原始码字序列。仿真结果表明，基于卷积自编码器的端到端编码调制系统具有快速收敛的特性，可以为信道编码方案提供可靠的传输环境，在AWGN信道下能获得与传统通信相似的误块率性能。 接下来，在单输入单输出（Single-InputSingle-Output，SISO）的瑞利平坦衰落信道下，通过调整神经网络的规模及参数，进一步对该系统结构进行优化。仿真结果表明，该系统在不同的信道环境下均可以有效工作，在网络复杂度和系统的误块率性能之间达到平衡。在此基础上，本文将端到端编码调制系统扩展到单输入多输出（Single-InputMultiple-Output，SIMO）系统中，分别基于深度学习的思想和集成学习的思想，提出了两种端到端的分集接收结构。仿真结果表明，所提出的结构可以有效地对抗信道中的衰落，具有较强的泛化能力，其误块率性能优于传统通信的接收分集性能。
NETL