無人系統安全

蘇洲 教授、博士生導師，西安交通大學網絡空間安全學院院長，主要從事通信網絡安全、物聯網安全、信息物理融合系統安全等方向研究。擔任國家重點研發計劃首席科學家，入選愛思唯爾中國高被引學者。

第1 章緒論...................................................................................... 1

1.1 無人系統概論.......................................................................... 1

1.1.1 無人系統發展歷史........................................................... 1

1.1.2 無人系統定義................................................................ 4

1.1.3 無人系統分類................................................................ 4

1.1.4 無人系統應用領域........................................................... 7

1.2 無人系統協議與特性................................................................. 8

1.2.1 無線通信協議................................................................ 8

1.2.2 無人系統典型特性........................................................... 9

1.3 無人系統典型應用.................................................................... 10

1.3.1 自動駕駛汽車................................................................ 10

1.3.2 無人機......................................................................... 11

1.3.3 無人水下艇................................................................... 12

1.3.4 智慧無人工廠................................................................ 13

1.3.5 無人系統發展現狀與演進.................................................. 13

1.4 無人系統機遇、挑戰與未來趨勢.................................................. 14

1.5 本章小結................................................................................ 16

1.6 習題..................................................................................... 16

第2 章無人系統架構與關鍵技術........................................................... 18

2.1 無人系統架構.......................................................................... 18

2.1.1 智能感知層................................................................... 19

2.1.2 自主決策層................................................................... 20

2.1.3 網絡通信層................................................................... 20

2.1.4 應用服務層................................................................... 21

2.2 無人系統關鍵技術.................................................................... 21

2.2.1 多智能體協作................................................................ 22

2.2.2 5G 通信網絡.................................................................. 24

2.2.3 自動控制技術................................................................ 25

2.2.4 人工智能技術................................................................ 27

2.3 無人系統典型攻擊形式.............................................................. 29

2.4 無人系統安全需求.................................................................... 31

2.5 本章小結................................................................................ 32

2.6 習題..................................................................................... 32

第3 章無人系統感知安全.................................................................... 33

3.1 無人系統感知安全現狀概述........................................................ 33

3.2 傳感器攻擊及防禦.................................................................... 35

3.2.1 激光雷達...................................................................... 35

3.2.2 雷達............................................................................ 36

3.2.3 攝像頭......................................................................... 36

3.2.4 定位系統...................................................................... 37

3.2.5 慣性測量單元................................................................ 38

3.3 對抗性樣本攻擊及防禦.............................................................. 38

3.3.1 對抗性樣本攻擊基本原理.................................................. 38

3.3.2 對抗性樣本攻擊防禦方法.................................................. 42

3.3.3 無人系統中的對抗性樣本攻擊............................................ 44

3.4 投毒攻擊及防禦....................................................................... 45

3.4.1 投毒攻擊基本原理........................................................... 45

3.4.2 投毒攻擊防禦方法........................................................... 49

3.4.3 無人系統中的投毒攻擊..................................................... 51

3.5 多源數據融合安全.................................................................... 52

3.5.1 數據融合方法................................................................ 53

3.5.2 多源數據融合需求........................................................... 53

3.5.3 多源數據融合關鍵技術..................................................... 55

3.6 案例分析................................................................................ 56

3.6.1 背景簡介...................................................................... 56

3.6.2 威脅模型和防禦目標........................................................ 58

3.6.3 方案總體設計................................................................ 58

3.6.4 基於拉格朗日插值的安全聚合機制...................................... 60

3.7 本章小結................................................................................ 63

3.8 習題..................................................................................... 64

VIII

第4 章無人系統決策安全.................................................................... 65

4.1 無人系統決策安全現狀概述........................................................ 65

4.1.1 無人系統決策模式類型..................................................... 65

4.1.2 無人系統決策安全威脅..................................................... 67

4.1.3 無人系統決策安全挑戰..................................................... 68

4.2 無人系統協同決策.................................................................... 69

4.2.1 基於博弈論的協同決策..................................................... 69

4.2.2 基於群體智能的協同決策.................................................. 72

4.3 動態攻防對抗.......................................................................... 74

4.3.1 無人協同系統多維攻擊威脅............................................... 74

4.3.2 面向無人協同系統感知層的防禦......................................... 77

4.3.3 面向無人協同系統網絡層的防禦......................................... 78

4.3.4 面向無人協同系統應用層的防禦......................................... 80

4.4 決策可信性評估....................................................................... 82

4.4.1 基於交互對象的信任........................................................ 83

4.4.2 基於交互模式的信任........................................................ 85

4.4.3 基於時間尺度的信任........................................................ 89

4.4.4 信任更新中的時間衰減模型............................................... 90

4.5 案例分析................................................................................ 91

4.5.1 背景簡介...................................................................... 91

4.5.2 無人機模型................................................................... 92

4.5.3 基於蜜罐博弈的無人機協同防禦模型................................... 93

4.5.4 不完全信息下最優多維契約設計問題求解............................. 95

4.6 本章小結................................................................................ 100

4.7 習題..................................................................................... 101

第5 章無人系統通信網絡安全.............................................................. 102

5.1 無人系統通信網絡安全現狀概述.................................................. 102

5.1.1 無人系統通信網絡類型..................................................... 102

5.1.2 通信網絡安全威脅........................................................... 104

5.1.3 通信網絡安全挑戰........................................................... 104

5.2 安全認證與訪問控制................................................................. 105

5.2.1 安全認證與訪問控制概述.................................................. 105

5.2.2 身份認證機制................................................................ 106

5.2.3 訪問控制及其策略........................................................... 108

IX

5.3 物理層安全............................................................................. 111

5.3.1 物理層安全概述.............................................................. 111

5.3.2 物理層通信典型攻擊........................................................ 113

5.3.3 物理層安全預編碼技術..................................................... 114

5.3.4 物理層密鑰技術.............................................................. 116

5.3.5 物理層身份認證.............................................................. 118

5.4 入侵檢測................................................................................ 119

5.4.1 入侵檢測概述................................................................ 120

5.4.2 入侵檢測方法................................................................ 121

5.4.3 入侵檢測系統分類及典型系統............................................ 123

5.5 本章小結................................................................................ 126

5.6 習題..................................................................................... 127

第6 章無人系統隱私保護.................................................................... 128

6.1 無人系統隱私保護現狀概述........................................................ 128

6.1.1 無人系統隱私類型........................................................... 128

6.1.2 無人系統隱私保護需求..................................................... 130

6.1.3 現有無人系統隱私保護方案............................................... 131

6.2 隱私推理攻擊.......................................................................... 133

6.2.1 成員推理攻擊................................................................ 133

6.2.2 數據重構攻擊................................................................ 137

6.2.3 梯度推理攻擊................................................................ 138

6.3 隱私計算技術.......................................................................... 142

6.3.1 同態加密...................................................................... 142

6.3.2 安全多方計算................................................................ 145

6.3.3 差分隱私...................................................................... 147

6.3.4 聯邦學習...................................................................... 148

6.3.5 可信計算...................................................................... 151

6.4 本章小結................................................................................ 153

6.5 習題..................................................................................... 153

第7 章無人系統與新興技術融合........................................................... 154

7.1 無人系統與語義通信................................................................. 154

7.1.1 語義通信模型................................................................ 155

7.1.2 語義通信賦能無人系統的支撐技術...................................... 156

7.1.3 潛在安全威脅................................................................ 157

X

7.2 無人系統與區塊鏈.................................................................... 159

7.2.1 區塊鏈網絡模型.............................................................. 159

7.2.2 區塊鏈賦能無人系統........................................................ 160

7.2.3 潛在安全威脅................................................................ 162

7.3 無人系統與數字孿生................................................................. 163

7.3.1 數字孿生網絡及其支撐技術............................................... 164

7.3.2 數字孿生網絡通信模式..................................................... 165

7.3.3 數字孿生網絡的關鍵特性.................................................. 165

7.3.4 數字孿生賦能無人系統..................................................... 167

7.3.5 潛在安全威脅................................................................ 168

7.4 無人系統與大模型.................................................................... 169

7.4.1 大模型的發展脈絡........................................................... 170

7.4.2 大模型服務架構.............................................................. 171

7.4.3 大模型的關鍵支撐技術..................................................... 172

7.4.4 人工智能生成式內容的工作模式......................................... 173

7.4.5 大模型賦能無人系統........................................................ 173

7.4.6 潛在安全威脅................................................................ 174

7.5 本章小結................................................................................ 178

7.6 習題..................................................................................... 178

參考文獻............................................................................................ 180

XI