现代的通信领域是基于信号处理算法建立起来的，其有比较完整的统计学和信息论基础，并可以被证明是最优的。
这些算法通常是线性的、稳定的，并拥有高斯统计特性。
但是，一个实际的通信系统，大部分模块都是非线性的，只能被这些算法近似地描述。
现有的通信系统设计是模块化的，信道处理的过程被分为一系列子模块，每个子模块具有独立的处理函数，如信源编码、信道编码、调制、信道估计、信道均衡等等。
这样的设计从实际工程上来说，实现更简单；但不能保证端到端最优。
使用传统方法来实现端到端一体系统是非常复杂的。
由于深度学习的发展，基于自编码器的通信系统设计是一种全新的思路。
神经网络通过大量训练样本学习数据的分布，然后预测结果；可以用于端到端系统做联合优化，相比现有方法可以做到更优。
基于深度学习的端到端通信系统模型可以分为两类：确定信道模型与未知信道模型。

确定信道模型的端到端系统

O’Shea1 提出了一种使用深度神经网络的自编码器来实现端到端通信系统。
通信系统可以看着为如下模型：

源数据 ss 通过信源编码和信道编码后为 xx，然后经信道 ChannelChannel 传输；信道传输中会带来噪声，对端接收后为 yy；经解码得到 \hat{s}s^。
这个过程可以看着是一个自编码过程：子编码器从一个低维度角度对数据进行描述，并允许重建后的数据有少量误差。
从这个角度来看，自编码器如同非线性压缩和重建输入工程。
作者在信道中加入高斯白噪声进行训练，实现一个端到端通信系统。
系统模型如下图所示：

优化器使用 SGD；深度网络采用全连接层。
之后，O’Shea2 将自编码器模型推广到瑞利衰落信道的 MIMO（Multiple-Input Multiple-Output） 系统。
Erpek3 将自编码模型推广到有干扰（包括瑞利衰减）的 MIMO 系统，并使用两个公用同一信道的自编码器来联合训练消除干扰。
其系统模型如下图所示：

未知信道模型的端到端系统

在现实世界中，往往难以获取真实信道的分布函数，需要考虑在未知信道信息的情况下进行训练。
现有方法分为三类：强化学习、GAN 与元学习。

• 强化学习
  Aoudia4 提出了一种基于强化学习的端到端通信系统以解决信道信息未知的传输问题。
  接收端作为一个有监督的学习过程，如下图所示：

发射端作为强化学习的过程，目标为最小化接收端损失，如下图所示：

• GAN
  Ye5 提出了一种基于 GAN 网络的端到端通信系统以解决信道信息未知的传输问题。
  使用有条件的 GAN 神经网络，即在训练时加入干扰（如高斯白噪声、瑞利衰减等）。
  系统如下图所示：
  

• 元学习
  元学习6 也可以实现信道模型未知条件下的端到端的通信系统。
  在信道未知的情况下，假定有一个包含一组预设信道模型的集合，网络在该集合上执行元学习，训练后得到的模型可以在很小的样本数或迭代次数下收敛并适应新信道。

1. [2017 TCCN]
   An Introduction to Deep Learning for the Physical Layer
2. [2017]
   Deep Learning Based MIMO Communications
3. [2018 ICC]
   Learning a Physical Layer Scheme for the MIMO Interference Channel
4. [2018 ACSSC]
   End-to-End Learning of Communications Systems Without a Channel Model
5. [2020 TWC]
   Deep Learning-Based End-to-End Wireless Communication Systems With Conditional GANs as Unknown Channels
6. [2017 ICML]
   Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks