嵌入式人工智能

目錄

 

 

第一篇原理

第1章人工智能與人工神經網絡3

1.1什麽是人工智能3

1.2什麽是人工神經網絡4

1.3人類大腦5

1.4人工神經網絡的基本構成7

1.4.1人工神經元7

1.4.2人工神經網絡的結構8

1.5人工神經網絡的學習機制9

1.6人工神經網絡的類型10

1.7人工神經網絡的優勢24

1.8深度神經網絡25

1.8.1什麽是深度神經網絡25

1.8.2常見的深度神經網絡27

1.8.3捲積神經網絡27

1.9神經網絡架構搜索31

1.9.1搜索空間31

1.9.2強化學習搜索32

1.9.3漸進式搜索33

1.9.4離散搜索35

1.10遷移學習37

1.10.1什麽是遷移學習37

1.10.2遷移學習的類型38

1.10.3遷移學習的優勢39

1.10.4遷移學習的方式40

1.10.5遷移學習與嵌入式人工智能40第2章嵌入式人工智能41

2.1什麽是嵌入式人工智能41

2.2為什麽需要嵌入式人工智能42

2.3最初的嘗試: 雲計算模式45

2.4從雲端到設備: 本地模式47

2.5嵌入式人工智能的技術挑戰50

2.6嵌入式人工智能的實現途徑53

目錄2.7嵌入式人工智能的實現組件54第3章嵌入式AI芯片原理56

3.1並行計算56

3.2脈動陣列57

3.3多級緩存59

3.4數據流60第4章輕量級神經網絡64

4.1降低計算復雜度64

4.1.1分組捲積65

4.1.2深度方向捲積65

4.1.3點向捲積66

4.1.4深度可分離捲積66

4.1.5通道亂序混合67

4.2SqueezeNet67

4.2.1核心思想67

4.2.2網絡結構68

4.2.3性能70

4.3Xception70

4.3.1核心思想70

4.3.2網絡結構71

4.3.3性能71

4.4MobileNet v172

4.4.1核心思想73

4.4.2網絡結構73

4.4.3性能74

4.5MobileNet v275

4.5.1核心思想75

4.5.2網絡結構75

4.5.3性能77

4.6MnasNet77

4.6.1核心思想78

4.6.2網絡結構78

4.6.3性能80

4.7MobileNet v381

4.7.1核心思想81

4.7.2網絡結構81

4.7.3性能83

4.8輕量級神經網絡的應用84第5章深度神經網絡壓縮86

5.1神經網絡壓縮的一般方法86

5.1.1剪枝86

5.1.2權重共享88

5.1.3量化90

5.1.4二值/三值化92

5.1.5Winograd捲積93

5.2壓縮編譯協同設計94

5.2.1壓縮編譯協同設計的概念94

5.2.2壓縮器95

5.2.3編譯器98

5.2.4壓縮編譯協同設計的優勢99第6章嵌入式神經網絡應用程序框架101

6.1分層級聯系統的構成102

6.2分層級聯系統的效率103

6.3基於CNN的分層人臉識別系統104

6.4本地雲協同模式107第7章終生深度學習109

7.1傳統深度學習的缺陷及原因109

7.2終生深度學習的目標111

7.3終生深度學習的特性112

7.4神經生物學的啟示112

7.5終生深度神經網絡的實現113

7.5.1雙重學習系統113

7.5.2實時更新114

7.5.3記憶合並115

7.5.4適應真實場景115

7.6終生深度學習與嵌入式神經網絡117

第二篇平臺

第8章嵌入式神經網絡硬件加速器121

8.1概述121

8.2NVIDIA Jetson122

8.2.1Jetson模塊簡介122

8.2.2Jetson模塊內部結構124

8.2.3Jetson性能133

8.3Intel Movidius136

8.3.1Movidius Myriad X VPU芯片137

8.3.2Intel Movidius神經計算棒141

8.4Google Edge TPU142

8.4.1Google Edge TPU簡介142

8.4.2Google Edge TPU工作原理144

8.5XILINX DPU151

8.6ARM Ethos NPU157

8.6.1ARM機器學習處理器157

8.6.2EthosN系列159

8.6.3EthosU系列161

8.7小結163第9章嵌入式神經網絡軟件框架166

9.1TensorFlow Lite166

9.1.1TensorFlow Lite簡介166

9.1.2TensorFlow Lite工作原理168

9.2TensorRT170

9.2.1TensorRT簡介170

9.2.2TensorRT如何應用174

9.3OpenVINO176

9.3.1OpenVINO簡介176

9.3.2OpenVINO的構成177

9.3.3OpenVINO應用開發178

9.4XILINX Vitis180

9.5uTensor184

9.6Apache TVM186

9.7小結188

第三篇實現

第10章搭建嵌入式神經網絡開發環境193

10.1嵌入式AI開發流程193

10.2NVIDIA JetSon開發流程 194第11章優化嵌入式神經網絡模型197

11.1TensorFlow 模型優化197

11.1.1訓練後優化197

11.1.2訓練時優化198

11.2TensorRT模型優化215

11.2.1與主流深度學習框架集成215

11.2.2部署到嵌入式系統220

11.2.3TensorRT API221

11.2.4TensorRT應用示例232

11.2.5模型轉換器249

11.3兩種模型優化技術的對比261第12章在嵌入式設備上執行推理262

12.1從源代碼構建項目262

12.2使用ImageNet實現圖像分類267

12.2.1靜態圖像分類267

12.2.2攝像機實時視頻分類277

12.3使用DetectNet實現目標檢測284

12.3.1靜態圖像目標檢測284

12.3.2攝像機實時視頻目標檢測286

12.4使用SegNet實現語義分割294

12.4.1靜態圖像語義分割294

12.4.2視頻語義分割304

12.5使用PyTorch實現遷移學習313

12.6使用轉換的模型335第13章嵌入式神經網絡應用示例337

13.1應用場景337

13.2硬件選型338

13.3模型開發338結束語萬物智能344參考文獻346