深度學習與人工智能實戰

張重生，1982年9月生，博士，教授，碩士生導師，河南大學大數據團隊帶頭人。研究領域為大數據分析、深度學習、資料探勘、數據庫、即時資料分析。 博士畢業於INRlA，France(法國國家資訊與自動化研究所)，獲得優秀博士論文榮譽。 2010年08月至2011年3月，在美國加州大學洛杉磯分校(UCLA)電腦系，師從Carlo Zaniolo教授進行流資料探勘的研究。十多年來，一直從事數據庫、資料探勘、大數據分析相關的研究，發表SCI/EI論文20篇，含Information Sciences、Neurocornputinq、lEEE ICDM、PAKDD、SSDBM等著名國際期刊和會議論文。作為計畫負責人主持4項科學研究項目，出版學術著作三部，作為第一發明人獲得3項國家發明專利，指導碩士研究生12名。

前言
第1章　張量運算及影像處理基礎1
1.1　張量與張量運算1
1.1.1　張量的概念1
1.1.2　張量的基本屬性2
1.1.3　張量生成4
1.1.4　張量維度與索引7
1.1.5　張量之間的運算11
1.2　影像處理的基礎操作14
1.2.1　PIL影像處理包簡介15
1.2.2　常見的影像處理操作15
第2章　深度學習程式設計基礎21
2.1　捲積神經網絡的基本概念與常用函數21
2.1.1　捲積層21
2.1.2　池化層23
2.1.3　全連接層23
2.1.4　激活函數24
2.1.5　PyTorch中的神經網絡結構/模型建構方法24
2.2　PyTorch中的資料處理操作26
2.2.1　PyTorch自帶的資料集使用26
2.2.2　自訂資料集的使用29
2.2.3　PyTorch中的資料預處理模組transforms31
2.3　PyTorch中的損失函數使用32
2.4　PyTorch中的優化器使用33
2.4.1　優化器33
2.4.2　學習率調整35
2.5　PyTorch中模型訓練的整體流程35
第3章　簡單的捲積神經網絡實現40
3.1　LeNet-5捲積神經網絡實現40
3.1.1　資料準備40
3.1.2　LeNet-5神經網絡結構/模型定義42
3.1.3　wandb可視化工具43
3.1.4　整體訓練流程44
3.1.5　效果展示46
3.2　AlexNet捲積神經網絡實現46
3.2.1　資料準備46
3.2.2　AlexNet神經網絡結構/模型定義48
3.2.3　整體訓練流程50
3.2.4　效果展示50
第4章　基於深度學習的簡單目標辨識51
4.1　基於VGG骨幹網絡的目標分類51
4.1.1　VGG介紹51
4.1.2　VGG16網絡實現52
4.1.3　基於VGG16進行CIFAR資料集分類54
4.2　基於ResNet骨幹網絡的目標分類55
4.2.1　ResNet神經網絡的設計原理55
4.2.2　ResNet-18神經網絡模型實作56
4.2.3　基於ResNet-18的目標分類60
第5章　基於深度學習的人臉表情辨識61
5.1　人臉表情資料準備61
5.2　基於ResNet神經網絡的人臉表情辨識64
5.2.1　網絡定義64
5.2.2　整體訓練流程65
第6章　孿生神經網絡及人臉驗證實戰66
6.1　孿生神經網絡原理66
6.2　基於孿生神經網絡的人臉驗證實戰68
6.2.1　資料準備68
6.2.2　孿生神經網絡實現70
6.2.3　損失函數實現72
6.2.4　整體訓練流程72
6.2.5　效果展示74
第7章　CosFace損失函數原理及人臉辨識實戰76
7.1　CosFace76
7.2　以CosFace為基礎的人臉辨識實戰78
7.2.1　資料準備78
7.2.2　損失計算79
7.2.3　整體訓練流程80
7.2.4　效果展示82
第8章　蒸餾學習原理及實戰84
8.1　知識蒸餾原理84
8.1.1　蒸餾網絡的神經網絡結構84
8.1.2　蒸餾學習過程85
8.2　知識蒸餾實戰86
8.2.1　訓練學生模型86
8.2.2　訓練教師模式89
8.2.3　蒸餾學習的損失函數89
8.2.4　蒸餾學習過程90
8.2.5　效果展示92
第9章　Faster R-CNN目標偵測演算法原理及實戰93
9.1　Faster R-CNN目標偵測演算法原理93
9.1.1　Faster R-CNN的神經網絡結構93
9.1.2　Faster R-CNN的目標矩陣構造94
9.1.3　Faster R-CNN的損失函數設計95
9.1.4　Faster R-CNN的整體工作流程96
9.2　Faster R-CNN目標偵測實戰97
9.2.1　資料準備97
9.2.2　損失定義101
9.2.3　Faster R-CNN的神經網絡模型實作103
9.2.4　整體訓練流程118
9.2.5　效果展示121
第10章　YOLO v3目標偵測演算法原理及實戰125
10.1　YOLO v3目標偵測演算法原理125
10.1.1　YOLO v3神經網絡結構125
10.1.2　YOLO v3目標矩陣建構方法126
10.1.3　YOLO v3損失函數設計128
10.2　YOLO v3目標偵測實戰129
10.2.1　資料準備130
10.2.2　YOLO v3神經網絡實作/模型定義134
10.2.3　損失定義138
10.2.4　整體訓練流程145
10.2.5　效果展示148
第11章　FCN影像分割演算法原理及實戰156
11.1　FCN影像分割演算法原理156
11.2　FCN影像分割實戰158
11.2.1　資料準備158
11.2.2　FCN的神經網絡結構/模型定義159
11.2.3　整體訓練流程162
11.2.4　效果展示166
第12章　U-Net影像分割演算法原理及實戰168
12.1　U-Net影像分割演算法原理168
12.2　基於U-Net的影像分割實戰170
12.2.1　U-Net的模型定義/神經網絡結構170
12.2.2　U-Net的損失函數/Dice損失173
12.2.3　整體訓練流程174
12.2.4　效果展示179
第13章　DCGAN生成對抗網絡原理及其影像生成實戰180
13.1　DCGAN生成對抗網絡原理180
13.1.1　DCGAN生成器模型180
13.1.2　DCGAN的判別器模型182
13.1.3　DCGAN的損失函數183
13.1.4　DCGAN的訓練過程183
13.2　基於DCGAN的影像生成技術實戰184
13.2.1　定義判別器185
13.2.2　定義生成器187
13.2.3　定義損失函數188
13.2.4　整體訓練流程189
13.2.5　效果展示192
附錄194
附錄A　PyTorch開發環境配置194
附錄B　常用PyTorch函數速查手冊199