移動終端人工智能技術與應用開發

前言
第1章移動終端人工智能技術概述1
1.1 人工智能技術發展概況1
1.1.1 人工智能技術的發展歷程1
1.1.2 數據和算法成為主要驅動力3
1.1.3 人工智能技術的應用趨勢6
1.2 機器學習與軟件框架技術概述8
1.2.1 機器學習8
1.2.2 深度學習10
1.2.3 深度學習為多個應用技術領域
帶來突破11
1.2.4 自動化機器學習12
1.2.5 算法與模型14
1.2.6 訓練與推理16
1.2.7 深度學習框架18
1.3 移動終端人工智能應用22
1.3.1 AI移動終端快速發展22
1.3.2 移動終端的典型AI應用24
1.3.3 移動終端的AI推理26
1.4 小結28
參考文獻28
第2章移動終端人工智能技術架構30
2.1 移動終端人工智能技術的特點和
分層架構30
2.2 各層功能概述32
2.2.1 應用層32
2.2.2 框架層32
2.2.3 驅動層35
2.2.4 硬件層36
2.3 小結42
參考文獻42
第3章神經網絡模型44
3.1 神經網絡模型概述44
3.1.1 神經網絡算法44
3.1.2 神經網絡模型的構成46
3.1.3 獲取移動終端神經網絡
模型48
3.2 典型神經網絡模型介紹54
3.2.1 圖像分類54
3.2.2 目標檢測63
3.2.3 圖像分割66
3.2.4 其他神經網絡模型簡介74
3.3 小結77
參考文獻78
第4章移動終端推理框架79
4.1 推理框架的工作原理79
4.1.1 神經網絡模型轉換原理79
4.1.2 深度學習編譯器執行原理84
4.2 推理框架的工作流程86
4.2.1 模型轉換86
4.2.2 數據預處理86
4.2.3 執行推理86
4.2.4 結果輸出87
4.3 主要移動終端推理框架介紹87
4.3.1 TensorFlow Lite88
4.3.2 PyTorch Mobile97
4.3.3 Paddle Lite 102
4.3.4 VCAP 109
4.3.5 高通SNPE116
4.3.6 華為HiAI Foundation126
4.3.7 曠視天元154
4.3.8 蘋果Core ML框架166
4.3.9 其他深度學習推理框架170
4.4 小結178
參考文獻178
第5章深度學習編譯器180
5.1 深度學習編譯器的概念180
5.1.1 傳統編譯器180
5.1.2 移動端深度學習編譯器182
5.2 主流編譯器介紹184
5.2.1 Android神經網絡接口
NN API184
5.2.2 高通SNPE編譯技術187
5.2.3 華為HiAI Foundation編譯
技術192
5.2.4 百度Paddle Lite編譯技術194
5.2.5 其他深度學習編譯器195
5.2.6 不同深度學習編譯器的
差異196
5.3 小結197
第6章移動終端AI推理應用開發
過程198
6.1 總體開發過程198
6.2 需求階段199
6.3 設計階段200
6.4 編碼開發階段202
6.5 調試階段202
6.5.1 功能調試203
6.5.2 性能調試204
6.6 小結205
第7章移動終端推理應用開發
實例206
7.1 基於TensorFlow Lite框架的
圖像分類應用206
7.1.1 創建工程206
7.1.2 模型轉換211
7.1.3 模型推理211
7.1.4 結果展示213
7.2 基於PyTorch Mobile框架的應用
實例214
7.2.1 創建工程214
7.2.2 模型轉換215
7.2.3 模型推理216
7.2.4 結果展示217
7.3 基於Paddle Lite引擎的應用
實例218
7.3.1 創建工程218
7.3.2 模型轉換220
7.3.3 模型推理220
7.3.4 結果展示225
7.4 基於vivo VCAP引擎的應用
實例225
7.4.1 創建工程225
7.4.2 模型轉換228
7.4.3 模型推理229
7.4.4 結果展示232
7.5 基於高通SNPE引擎的圖片分類
應用232
7.5.1 創建工程233
7.5.2 模型轉換235
7.5.3 模型推理236
7.5.4 結果展示238
7.6 基於華為HiAI Foundation的圖片
分類應用239
7.6.1 創建工程239
7.6.2 模型轉換243
7.6.3 模型推理244
7.6.4 結果展示249
7.7 基於蘋果Core ML引擎的應用
實例249
7.7.1 創建工程250
7.7.2 模型轉換252
7.7.3 模型推理253
7.7.4 結果展示255
7.8 基於曠視天元的應用實例255
7.8.1 創建工程255
7.8.2 模型轉換258
7.8.3 模型推理259
7.8.4 結果展示262
7.9 基於MNN引擎的應用實例263
7.9.1 創建工程263
7.9.2 模型轉換265
7.9.3 模型推理265
7.9.4 結果展示271
7.10 小結272
第8章AI應用性能調試273
8.1 AI應用性能調試方法273
8.2 AI應用性能測試負載275
8.3 AI應用性能評價指標278
8.3.1 模型類指標278
8.3.2 通用指標和硬件性能指標282
8.4 AI應用推理性能差異283
8.5 AI應用性能優化284
8.6 小結285
第9章移動終端的AI推理性能
評價286
9.1 不同移動終端間的AI性能基準
測試286
9.2 AI基準測試應用介紹288
9.3 小結293
第10章移動終端AI技術發展
趨勢294
10.1 技術發展趨勢294
10.1.1 移動終端的AI訓練294
10.1.2 移動終端的聯邦學習300
10.2 產品發展趨勢307
10.2.1 智能語音終端307
10.2.2 自然語言處理終端308
10.2.3 智能機器人產品309
10.2.4 智能無人機310
10.2.5 智能家居產品311
10.2.6 智能醫療產品311
10.2.7 智能安防產品312
10.2.8 智能交通產品313
參考文獻314
附錄一移動終端推理應用開發
示例315
附錄A TensorFlow Lite示例代碼315
附錄B PyTorch示例代碼315
附錄C Paddle Lite示例代碼316
附錄D VCAP示例代碼316
附錄E SNPE示例代碼316
附錄F HiAI Foundation示例
代碼317
附錄G CoreML示例代碼318
附錄H MegEngine示例代碼318
附錄I MNN示例代碼318
附錄二技術術語表320