硕士生马文焱在IEEE Trans. Communications上发表论文

2020年2月，硕士生马文焱在戚晨皓副教授指导下撰写的第一作者论文“Sparse Channel Estimation and Hybrid Precoding Using Deep Learning for Millimeter Wave Massive MIMO”，被通信领域旗舰刊物IEEE Transactions on Communications录用。该论文基于机器学习（深度学习）研究了毫米波大规模MIMO系统中的稀疏信道估计和混合预编码设计问题。

论文首先提出了一种深度学习压缩感知（Deep Learning Compressed Sensing，DLCS）信道估计方案，首先使用波束空间信道（Beamspace Channel）的幅度对神经网络CENN进行离线训练，随后使用训练好的神经网络CENN对待估计的波束空间信道的幅度进行预测，根据预测的幅度确定信道的重要元素的位置并进行信道的重建，从而实现信道估计。

论文随后提出了一种深度学习量化相位（Deep Learning Quantized Phase，DLQP）混合预编码设计方法，充分考虑了实际毫米波大规模MIMO通信系统中移相器分辨率有限的硬件约束。论文使用了2个神经网络，分别是训练网络THPNN和预测网络DHPNN，其难点在于THPNN的设计。由于THPNN调整神经元权系数时，要求所有函数均可求导，而移相器量化函数无法求导，因此采用双曲正切函数tanh对该量化阶梯函数进行逼近。对于THPNN，其输入是信道估计结果，可以是本文的DLCS信道估计方法获得的信道估计结果，也可以是其他信道估计方法获得的信道估计结果，因此具有较强的通用性。在对THPNN进行训练时，输入的每个信道估计都对应了一个真实的信道，THPNN训练的目标是使其输出的量化的模拟预编码向量与对应的真实信道的内积的绝对值最大化。

在THPNN训练好以后，DHPNN也就设计好了。实际上，THPNN与DHPNN共用了很大一部分结构单元，THPNN在训练过程中要求所有函数均可求导，而DHPNN并不要求可求导，DHPNN可直接使用量化阶梯函数。利用DHPNN可设计出毫米波大规模MIMO基站服务每个用户的模拟预编码向量，之后可利用现有方法例如ZF或MMSE进行数字预编码设计，从而实现毫米波通信的混合预编码设计。