深度學習與人工智慧實戰

前言
第1章　張量運算及影像處理基礎1
1.1　張量與張量運算1
1.1.1　張量的概念1
1.1.2　張量的基本屬性2
1.1.3　張量生成4
1.1.4　張量維度與索引7
1.1.5　張量之間的運算11
1.2　影像處理的基礎操作14
1.2.1　PIL影像處理包簡介15
1.2.2　常見的影像處理操作15
第2章　深度學習程式設計基礎21
2.1　卷積神經網路的基本概念與常用函數21
2.1.1　卷積層21
2.1.2　池化層23
2.1.3　全連接層23
2.1.4　激活函數24
2.1.5　PyTorch中的神經網路結構/模型建構方法24
2.2　PyTorch中的資料處理操作26
2.2.1　PyTorch自帶的資料集使用26
2.2.2　自訂資料集的使用29
2.2.3　PyTorch中的資料預處理模組transforms31
2.3　PyTorch中的損失函數使用32
2.4　PyTorch中的優化器使用33
2.4.1　優化器33
2.4.2　學習率調整35
2.5　PyTorch中模型訓練的整體流程35
第3章　簡單的捲積神經網路實現40
3.1　LeNet-5卷積神經網路實現40
3.1.1　資料準備40
3.1.2　LeNet-5神經網路結構/模型定義42
3.1.3　wandb可視化工具43
3.1.4　整體訓練流程44
3.1.5　效果展示46
3.2　AlexNet卷積神經網路實現46
3.2.1　資料準備46
3.2.2　AlexNet神經網路結構/模型定義48
3.2.3　整體訓練流程50
3.2.4　效果展示50
第4章　基於深度學習的簡單目標辨識51
4.1　基於VGG骨幹網路的目標分類51
4.1.1　VGG介紹51
4.1.2　VGG16網路實現52
4.1.3　基於VGG16進行CIFAR資料集分類54
4.2　基於ResNet骨幹網路的目標分類55
4.2.1　ResNet神經網路的設計原理55
4.2.2　ResNet-18神經網路模型實作56
4.2.3　基於ResNet-18的目標分類60
第5章　基於深度學習的人臉表情辨識61
5.1　人臉表情資料準備61
5.2　基於ResNet神經網路的人臉表情辨識64
5.2.1　網路定義64
5.2.2　整體訓練流程65
第6章　孿生神經網路及人臉驗證實戰66
6.1　孿生神經網路原理66
6.2　基於孿生神經網路的人臉驗證實戰68
6.2.1　資料準備68
6.2.2　孿生神經網路實現70
6.2.3　損失函數實現72
6.2.4　整體訓練流程72
6.2.5　效果展示74
第7章　CosFace損失函數原理及人臉辨識實戰76
7.1　CosFace76
7.2　以CosFace為基礎的人臉辨識實戰78
7.2.1　資料準備78
7.2.2　損失計算79
7.2.3　整體訓練流程80
7.2.4　效果展示82
第8章　蒸餾學習原理及實戰84
8.1　知識蒸餾原理84
8.1.1　蒸餾網路的神經網路結構84
8.1.2　蒸餾學習過程85
8.2　知識蒸餾實戰86
8.2.1　訓練學生模型86
8.2.2　訓練教師模式89
8.2.3　蒸餾學習的損失函數89
8.2.4　蒸餾學習過程90
8.2.5　效果展示92
第9章　Faster R-CNN目標偵測演算法原理及實戰93
9.1　Faster R-CNN目標偵測演算法原理93
9.1.1　Faster R-CNN的神經網路結構93
9.1.2　Faster R-CNN的目標矩陣構造94
9.1.3　Faster R-CNN的損失函數設計95
9.1.4　Faster R-CNN的整體工作流程96
9.2　Faster R-CNN目標偵測實戰97
9.2.1　資料準備97
9.2.2　損失定義101
9.2.3　Faster R-CNN的神經網路模型實作103
9.2.4　整體訓練流程118
9.2.5　效果展示121
第10章　YOLO v3目標偵測演算法原理及實戰125
10.1　YOLO v3目標偵測演算法原理125
10.1.1　YOLO v3神經網路結構125
10.1.2　YOLO v3目標矩陣建構方法126
10.1.3　YOLO v3損失函數設計128
10.2　YOLO v3目標偵測實戰129
10.2.1　資料準備130
10.2.2　YOLO v3神經網路實作/模型定義134
10.2.3　損失定義138
10.2.4　整體訓練流程145
10.2.5　效果展示148
第11章　FCN影像分割演算法原理及實戰156
11.1　FCN影像分割演算法原理156
11.2　FCN影像分割實戰158
11.2.1　資料準備158
11.2.2　FCN的神經網路結構/模型定義159
11.2.3　整體訓練流程162
11.2.4　效果展示166
第12章　U-Net影像分割演算法原理及實戰168
12.1　U-Net影像分割演算法原理168
12.2　基於U-Net的影像分割實戰170
12.2.1　U-Net的模型定義/神經網路結構170
12.2.2　U-Net的損失函數/Dice損失173
12.2.3　整體訓練流程174
12.2.4　效果展示179
第13章　DCGAN生成對抗網路原理及其影像生成實戰180
13.1　DCGAN生成對抗網路原理180
13.1.1　DCGAN生成器模型180
13.1.2　DCGAN的判別器模型182
13.1.3　DCGAN的損失函數183
13.1.4　DCGAN的訓練過程183
13.2　基於DCGAN的影像生成技術實戰184
13.2.1　定義判別器185
13.2.2　定義生成器187
13.2.3　定義損失函數188
13.2.4　整體訓練流程189
13.2.5　效果展示192
附錄194
附錄A　PyTorch開發環境配置194
附錄B　常用PyTorch函數速查手冊199