首屆6G AI大賽二等獎方案

二等獎方案①|首屆6G AI大賽@Castle隊 解題思路分享

簡介

今日分享：首屆6G AI大賽二等獎方案

分享隊伍：Castle隊

賽題名稱：《基於(yu) AI的信道建模與(yu) 虛擬信道構建》（即：AI based Channel Modeling and Generating）

獲獎隊伍簡介

Castle隊：

團隊來自澳門大學智慧城市物聯網國家重點實驗室（SKL-IOTSC）智能傳(chuan) 感與(yu) 網絡通信研究室，參賽隊員1人，指導老師1人。參賽隊員周炳貴為(wei) 澳門大學電機與(yu) 電腦工程係在讀博士生，研究方向為(wei) 人工智能與(yu) 智能通信。指導老師馬少丹教授是澳門大學電機與(yu) 電腦工程係教授、博士生導師，澳門大學智慧城市物聯網國家重點實驗室助理主任，長期從(cong) 事無線通信信號處理、性能分析、資源分配、收發機優(you) 化設計等領域研究，已在國際一流期刊與(yu) 會(hui) 議上發表論文150餘(yu) 篇。現任IEEE Transactions on Wireless Communications、IEEE Transactions on Communications、IEEE Wireless Communications Letters 三大通信主流期刊編委。

智慧城市物聯網國家重點實驗室是2018年7月獲國家科技部批準於(yu) 澳大設立的全國第一個(ge) 智慧城市物聯網領域的國家重點實驗室，秉持“國家所需，澳門所長”的精準定位，根據“世界一流，澳門特色”的要求，實驗室定位解決(jue) 智慧城市物聯網關(guan) 鍵科學和技術問題，提出帶有基礎性和共性的理論、算法和係統，開發智慧城市的示範應用。實驗室圍繞五個(ge) 方向下設研究室，分別是：智能傳(chuan) 感與(yu) 網絡通信、城市大數據與(yu) 智能技術、智慧能源、智能交通、城市公共安全與(yu) 災害防治。

摘要

信道建模問題是6G預研的重要領域。為(wei) 應對越來越複雜的無線通信環境，充分利用數據驅動/數據模型雙驅動的人工智能算法對複雜信道進行建模，本文提出一種基於(yu) 多頭自注意力機製與(yu) 卷積操作的生成對抗網絡，用於(yu) 在少量真實信道樣本的基礎上構建包含大量高質量樣本的無線信道數據集。針對複雜信道，我們(men) 將信道生成問題分解為(wei) 有效時延擴展位置生成與(yu) 元素數值的生成兩(liang) 個(ge) 部分，因此生成器包含兩(liang) 個(ge) 子網絡，一個(ge) 子網絡以多頭自注意力層與(yu) 多層感知機為(wei) 主幹網絡，用於(yu) 元素數值生成；另一個(ge) 子網絡為(wei) 有效時延擴展位置生成網絡，是一個(ge) 兩(liang) 層的多層感知機結構。判別器以步長為(wei) 2的卷積下采樣模塊為(wei) 主幹網絡，用於(yu) 判別生成樣本與(yu) 真實樣本。

所提出的生成對抗網絡架構在首屆6G AI大賽 - 《基於(yu) AI的信道建模與(yu) 虛擬信道構建》賽題中取得第二名的成績。

關(guan) 鍵詞

6G信道建模 生成對抗網絡 多頭自注意機製 卷積下采樣模塊

背景介紹

信道建模旨在表征真實環境中的信道特性，揭示無線電磁波在不同場景中的傳(chuan) 播方式，其可以為(wei) 通信係統的設計和優(you) 化提供指導。隨著5G正式投入商用，世界各國已開始大力投入對下一代移動通信（6G）的研究與(yu) 探索。6G通信中，無線信道將更為(wei) 複雜多變，對信道建模提出更高的要求。傳(chuan) 統信道建模方案難以應對多環境、多場景、多頻段、超大規模天線、動態快變等複雜多變信道條件，因此需要借助人工智能（Artificial Intelligence，AI）算法從(cong) 信道數據中自動提取信道特性，對信道進行建模。

數據驅動/數據模型雙驅動的人工智能算法對數據集樣本數量與(yu) 質量有極高要求。而構建包含大量高質量樣本的真實無線信道數據集成本較高，因此本文提出了一種在少量真實信道樣本的基礎上構建包含大量高質量生成樣本的無線信道數據集的生成對抗網絡。

模型方法

圖1：生成器網絡結構

所提出的生成對抗網絡由生成器與(yu) 判別器組成。

針對複雜信道，我們(men) 將信道生成問題分解為(wei) 有效時延擴展位置生成與(yu) 元素數值的生成兩(liang) 個(ge) 部分，因此生成器包含兩(liang) 個(ge) 子網絡（如圖1所示），一個(ge) 子網絡以多頭自注意力層與(yu) 多層感知機為(wei) 主幹網絡，用於(yu) 元素數值生成；另一個(ge) 子網絡為(wei) 有效時延擴展位置生成網絡，是一個(ge) 兩(liang) 層的多層感知機結構。

判別器以步長為(wei) 2的卷積下采樣模塊為(wei) 主幹網絡（如圖2所示），用於(yu) 判別生成樣本與(yu) 真實樣本。

圖2：判別器網絡結構

在元素數值生成方麵，我們(men) 使用Wasserstein距離的近似作為(wei) 損失函數，目標為(wei) 最小化近似Wasserstein距離；在有效時延擴展位置生成方麵，我們(men) 視其為(wei) 多標簽分類（Multilabel Classification）問題，使用二分類交叉熵（Binary Crossentropy）作為(wei) 損失函數，目標為(wei) 最小化二分類交叉熵。因此，生成器整體(ti) 損失為(wei) ：

判別器優(you) 化方麵，先根據生成的有效時延擴展元素數值與(yu) 位置組合成生成樣本後，最小化生成樣本與(yu) 真實樣本之間的Wasserstein距離，即有：

其中表示組合後完整生成樣本與(yu) 真實樣本之間的近似Wasserstein距離。

實驗結果

（1）信道1

信道1數據在32發射天線4接收天線（32T4R）的MIMO信道環境下采集，共500個(ge) 樣本。每個(ge) 樣本維度為(wei) 2(實部虛部)*4(Rx)*32(Tx)*32(時延擴展)。經分析，信道1有效時延擴展位置索引為(wei) ：[0, 1, 3, 4, 6, 10, 12, 20, 21, 25, 26, 29, 31]。

（2）信道2

信道2數據在32發射天線4接收天線（32T4R）的MIMO信道環境下采集，共4000個(ge) 樣本。每個(ge) 樣本維度為(wei) 2(實部虛部)*4(Rx)*32(Tx)*32(時延擴展)。經分析，信道2複雜度較高，有效時延擴展存在隨機性，有效時延擴展數量不同，分布也不同。

我們(men) 使用了標準的WGAN with Gradient Penalty的訓練方案，Unrolled GAN訓練策略亦被嵌入其中以緩解模式崩潰，提高生成樣本的多樣性。

值得一提的是，由於(yu) 信道1較為(wei) 簡單，我們(men) 沒有分解信道1生成，直接使用基於(yu) 多頭自注意力層與(yu) 多層感知機層的生成器對整個(ge) 樣本進行生成。

所提出的生成對抗網絡架構在首屆6G AI大賽 - 《基於(yu) AI的信道建模與(yu) 虛擬信道構建》賽題中最終得分0.73419083，取得第二名。

本文提出了一種在少量真實信道樣本的基礎上構建包含大量高質量生成樣本的無線信道數據集的生成對抗網絡。所提出的方案具備以下特點：

1）基於(yu) 多頭自注意力的生成器設計；

2）弱判別器，避免因判別器過強使得生成器難以向合適的方向訓練；

3）分解複雜信道生成問題；可以被輕鬆遷移到更為(wei) 複雜的信道環境下，而不至於(yu) 增加很多的訓練負擔；

4）較輕量的網絡（870萬(wan) 參數，h5文件33.4M）、高效（可以在2000-3000 epoch左右將模型訓練到取得0.7的本地得分）。

參考

[1] 劉留，張建華等，機器學習(xi) 在信道建模中的應用綜述，通信學報，2021.

[2] X. Chen, C. Deng, B. Zhou, H. Zhang, G. Yang and S. Ma, "High-Accuracy CSI Feedback with Super-Resolution Network for Massive MIMO Systems," in IEEE Wireless Communications Letters, vol. 11, no. 1, pp. 141-145, Jan. 2022, doi: 10.1109/LWC.2021.3122462.

[3] A. Vaswani et al., “Attention is all you need,” arXiv:1706.03762 [cs], Dec. 2017. [Online]. Available: https://arxiv.org/abs/1706.03762.

[4] A. Radford, L. Metz, and S. Chintala, “Unsupervised representation learning with deep convolutional generative adversarial networks,” arXiv:1511.06434 [cs], Jan. 2016. [Online]. Available: https://arxiv.org/abs/1511.06434.

[5]  M. Arjovsky, S. Chintala, and L. Bottou, “Wasserstein GAN,” arXiv:1701.07875 [cs, stat], Dec. 2017. [Online]. Available: https://arxiv.org/abs/1701.07875.

[6] L. Metz, B. Poole, D. Pfau, and J. Sohl-Dickstein, “Unrolled Generative Adversarial Networks,” arXiv:1611.02163 [cs, stat], May 2017. [Online]. Available: https://arxiv.org/abs/1611.02163

[7] I. Gulrajani, F. Ahmed, M. Arjovsky, V. Dumoulin, and A. Courville, “Improved Training of Wasserstein GANs,” arXiv:1704.00028 [cs, stat], Dec. 2017. [Online]. Available: https://arxiv.org/abs/1704.00028.