實戰深度學習——原理、框架及應用

鄧勁生，國防科技大學前沿交叉學科學院研究員，當前主要從事大數據、人工智能、情報科學等方面的研究。
主持國家和省部級科研項目十餘項，獲得軍隊和省部級科技進步獎、教學成果獎多項，著譯圖書十餘本。

目錄

第1章深度學習初識1
1.1什麼是深度學習1
1.1.1深度學習與機器學習的關係1
1.1.2深度學習與人工智能的關係2
1.1.3深度學習的應用案例2
1.2機器學習初識4
1.2.1機器學習概述4
1.2.2機器學習的分支5
1.3神經網絡初識8
1.3.1神經網絡的來源8
1.3.2人工神經網絡與神經元模型8
1.4本章小結9
思考題10

第2章深度學習主流工具及框架11
2.1開發環境的搭建及使用11
2.1.1下載及安裝Anaconda開發工具11
2.1.2Python庫的導入與添加13
2.1.3Anaconda命令簡介14
2.2深度學習的主要框架15
2.2.1TensorFlow概況16
2.2.2CPU版環境搭建與調用17
2.2.3GPU版環境搭建與調用19
2.2.4Keras的調用24
2.3本章小結25
思考題26

第3章神經網絡的原理及實現27
3.1數學基礎27
3.1.1張量27
3.1.2導數28
3.2神經網絡模型及結構29
3.2.1MP神經元模型30
3.2.2感知機31
3.2.3前向傳播32
3.2.4反向傳播34
3.3激活函數35
3.3.1Sigmoid函數35
3.3.2Tanh函數36
3.3.3ReLU函數38
3.3.4Swish函數39
3.4損失函數40
3.4.1均值平方差40
3.4.2交叉熵41
3.5優化方法: 梯度下降41
3.5.1批量梯度下降42
3.5.2隨機梯度下降42
3.5.3小批量梯度下降42
3.6綜合案例: 搭建簡單的神經網絡43
3.6.1基本功能函數43
3.6.2簡單神經網絡的搭建44
3.6.3擬合函數可視化46
3.7本章小結48
思考題48

第4章卷積神經網絡49
4.1卷積神經網絡入門49
4.1.1卷積神經網絡概述49
4.1.2卷積神經網絡的結構50
4.2卷積運算52
4.2.1卷積函數53
4.2.2卷積實例54
4.3池化運算59
4.3.1池化函數60
4.3.2池化實例61
4.4綜合案例: 手寫數字識別65
4.4.1MNIST數據集初識65
4.4.2手寫數字識別模型構建和訓練67
4.5本章小結71
思考題72

第5章循環神經網絡73
5.1循環神經網絡入門73
5.1.1循環神經網絡概述73
5.1.2序列數據74
5.1.3循環神經網絡結構75
5.1.4梯度消失和梯度爆炸76
5.2長短期記憶網絡——LSTM78
5.2.1長期依賴問題78
5.2.2長短期記憶網絡結構79
5.3綜合案例: 語義情感分析83
5.4本章小結88
思考題8

第6章生成對抗網絡89
6.1生成對抗網絡初識89
6.1.1生成對抗網絡概述89
6.1.2生成對抗網絡基本模型89
6.2生成對抗網絡的基本原理90
6.3綜合案例: 仿照手寫字體91
6.4本章小結98
思考題98

第7章基於深度學習的目標檢測99
7.1目標檢測基礎99
7.1.1數據集99
7.1.2性能指標100
7.1.3錨點101
7.1.4錨框101
7.1.5非極大值抑制101
7.2傳統的目標檢測101
7.2.1ViolaJones102
7.2.2方向梯度直方圖103
7.2.3DPM105
7.2.4綜合案例: DPM行人檢測106
7.3結合候選區域和CNN分類的目標檢測框架110
7.3.1RCNN110
7.3.2SPPNET111
7.3.3Fast RCNN113
7.3.4Faster RCNN114
7.4回歸問題的端到端的目標檢測框架117
7.4.1YOLO117
7.4.2SSD118
7.4.3綜合案例: YOLO目標檢測118
7.5本章小結122
思考題122

第8章基於深度學習的圖像分割123
8.1基於圖論的方法123
8.1.1NormalizedCut124
8.1.2GraphCut124
8.1.3GrabCut125
8.1.4綜合案例: GrabCut前景提取126
8.2基於聚類的方法127
8.2.1K均值聚類128
8.2.2譜聚類128
8.2.3Meanshift129
8.2.4SLIC129
8.2.5聚類應用130
8.2.6綜合案例: SLIC分割超像素131
8.3基於深度語義的方法132
8.3.1FCN132
8.3.2DeepLab系列133
8.3.3PSPNet133
8.3.4UNet135
8.3.5SegNet135
8.3.6綜合案例: 細胞壁檢測136
8.4本章小結142
思考題142

第9章基於深度學習的人臉識別143
9.1訓練圖像數據採集143
9.1.1訓練圖像數據源143
9.1.2爬取圖像數據集144
9.2CNN人臉識別設計146
9.2.1CNN人臉識別設計方案146
9.2.2CNN圖像處理146
9.2.3圖像預處理148
9.3CNN模型搭建149
9.3.1搭建卷積層150
9.3.2搭建池化層150
9.3.3選取激活函數151
9.3.4選取優化器151
9.3.5自定義損失函數152
9.3.6設置參數調整學習效率152
9.3.7訓練CNN模型154
9.3.8模型保存加載與評估155
9.3.9模型測試156
9.4口罩佩戴識別增強157
9.5本章小結158
思考題158

第10章基於深度學習的文本自動生成159
10.1訓練文本數據採集159
10.1.1訓練文本數據源159
10.1.2訓練文本數據整理160
10.2LSTM五言律詩自動生成設計160
10.2.1文本預處理161
10.2.2文本數據標準化161
10.2.3LSTM模型搭建162
10.2.4訓練LSTM模型162
10.3測試LSTM模型163
10.3.1生成序列數據163
10.3.2定義採樣方法163
10.4本章小結166
思考題166

第11章深度學習展望167
11.1深度學習的探索方向167
11.1.1設計更好的深度學習框架167
11.1.2發現更好的網絡模型167
11.2深度學習的應用場景展望168
11.2.1教育領域168
11.2.2金融領域168
11.2.3醫療領域168
11.2.4文藝領域169
11.2.5無人服務169
11.3本章小結169
參考文獻170