深度學習（微課視頻版）

目錄

第一部分理 論 基 礎

第1章深度學習簡介

1.1電腦視覺

1.1.1定義

1.1.2基本任務

1.1.3傳統方法

1.1.4仿生學與深度學習

1.1.5現代深度學習

1.1.6小結

1.2自然語言處理

1.2.1自然語言處理的基本問題

1.2.2傳統方法與神經網絡方法的比較

1.2.3發展趨勢

1.3強化學習

1.3.1什麽是強化學習

1.3.2強化學習算法簡介

1.3.3強化學習的應用

小結

習題

第2章深度學習框架及其對比

2.1PyTorch

2.1.1PyTorch簡介

2.1.2PyTorch的特點

2.1.3PyTorch概述

2.2TensorFlow

2.2.1TensorFlow簡介

2.2.2數據流圖

2.2.3TensorFlow的特點

2.2.4TensorFlow概述

2.3PaddlePaddle

2.3.1PaddlePaddle簡介

2.3.2PaddlePaddle的特點

2.3.3PaddlePaddle的應用

2.4三者的比較

小結

習題

第3章機器學習基礎知識

3.1機器學習概述

3.1.1關鍵術語

3.1.2機器學習的分類

3.1.3機器學習的模型構造過程

3.2監督學習

3.2.1線性回歸

3.2.2Logistic回歸

3.2.3最小近鄰法

3.2.4線性判別分析法

3.2.5樸素貝葉斯分類算法

3.2.6決策樹分類算法

3.2.7支持向量機分類算法

3.3非監督學習

3.3.1劃分式聚類方法

3.3.2層次化聚類方法

3.3.3基於密度的聚類方法

3.4強化學習

3.4.1強化學習、監督學習和非監督學習

3.4.2強化學習問題描述

3.4.3強化學習問題分類

3.5神經網絡和深度學習

3.5.1感知器模型

3.5.2前饋神經網絡

3.5.3捲積神經網絡

3.5.4其他類型結構的神經網絡

3.6案例： 銀行貸款用戶篩選

小結

習題

第4章回歸模型

4.1線性回歸

4.2Logistic回歸

4.3用PyTorch實現Logistic回歸

4.3.1數據準備

4.3.2線性方程

4.3.3激活函數

4.3.4損失函數

4.3.5優化算法

4.3.6模型可視化

小結

習題

第5章神經網絡基礎

5.1基礎概念

5.2感知器

5.2.1單層感知器

5.2.2多層感知器

5.3BP神經網絡

5.3.1梯度下降

5.3.2後向傳播

5.4Dropout正則化

5.5批標準化

5.5.1Batch Normalization的實現方式

5.5.2Batch Normalization的使用方法

小結

習題

第6章捲積神經網絡與電腦視覺

6.1捲積神經網絡的基本思想

6.2捲積操作

6.3池化層

6.4捲積神經網絡

6.5經典網絡結構

6.5.1VGG網絡

6.5.2InceptionNet

6.5.3ResNet

6.6用PyTorch進行手寫數字識別

小結

習題

第7章神經網絡與自然語言處理

7.1語言建模

7.2基於多層感知器的架構

7.3基於循環神經網絡的架構

7.3.1循環單元

7.3.2通過時間後向傳播

7.3.3帶有門限的循環單元

7.3.4循環神經網絡語言模型

7.3.5神經機器翻譯

7.4基於捲積神經網絡的架構

7.5基於Transformer的架構

7.5.1多頭註意力

7.5.2非參位置編碼

7.5.3編碼器單元與解碼器單元

7.6表示學習與預訓練技術

7.6.1詞向量

7.6.2加入上下文信息的特徵表示

7.6.3網絡預訓練

小結

習題

第二部分實驗

第8章操作實踐

8.1PyTorch操作實踐

8.1.1PyTorch安裝

8.1.2Tensor對象及其運算

8.1.3Tensor的索引和切片

8.1.4Tensor的變換、拼接和拆分

8.1.5PyTorch的Reduction操作

8.1.6PyTorch的自動微分

8.2TensorFlow操作實踐

8.2.1TensorFlow安裝

8.2.2Tensor對象及其運算

8.2.3Tensor的索引和切片

8.2.4Tensor的變換、拼接和拆分

8.2.5TensorFlow的Reduction操作

8.2.6TensorFlow的自動微分

8.3PaddlePaddle操作實踐

8.3.1PaddlePaddle安裝

8.3.2Tensor的創建和初始化

8.3.3Tensor的常見基礎操作

8.3.4自動微分

小結

第9章綜合項目實驗

9.1電腦視覺

9.1.1一個通用的圖像分類模型

9.1.2兩階段目標檢測和語義分割

9.1.3人物圖像處理

9.1.4調用遠程服務

9.1.5動漫圖像生成

9.2自然語言處理

9.2.1垃圾郵件分類

9.2.2詞嵌入技術

9.2.3文本生成與多輪對話

9.2.4語音識別

9.3強化學習

9.4可視化技術

9.4.1使用TensorBoard可視化訓練過程

9.4.2捲積核可視化

9.4.3註意力機制可視化

第三部分案例

第10章案例： 基於ResNet的跨域數據集圖像分類

10.1遷移學習

10.2數據集介紹與預處理

10.2.1數據集介紹

10.2.2數據預處理

10.3數據加載與模型訓練

10.3.1數據集加載

10.3.2模型訓練

10.4運行結果

小結

第11章案例：  基於YOLO V3的安全帽佩戴檢測

11.1數據準備

11.1.1數據採集與標註

11.1.2模型和框架選擇

11.1.3數據格式轉換

11.2模型構建、訓練和測試

11.2.1YOLO系列模型

11.2.2模型訓練

11.2.3測試與結果

小結

第12章案例：  基於PaddleOCR的車牌識別

12.1車牌識別簡介

12.1.1車牌識別應用及發展史

12.1.2基於深度學習的車牌識別技術

12.2基於PaddleOCR的車牌識別實現

12.2.1PaddleOCR簡介與環境準備

12.2.2CCPD數據集介紹

12.2.3數據集準備與預處理

12.2.4模型選擇與訓練

小結

第13章案例：  基於PaddleSeg的動物圖片語義分割

13.1語義分割應用簡介

13.2基於PaddleSeg的語義分割實現

13.2.1PaddleSeg簡介與環境準備

13.2.2OxfordIIIT Pet數據集介紹

13.2.3模型訓練

13.2.4模型的評估與測試

小結

第14章案例：  基於SRCNN圖像超分辨率

14.1SRCNN介紹

14.2技術方案及核心代碼

14.2.1模型訓練要點

14.2.2構造函數

14.2.3構建SRCNN的結構

14.2.4模型訓練

小結

第15章案例： 基於TensorFlowTTS的中文語音合成

15.1TTS簡介

15.1.1語音合成技術

15.1.2TTS技術發展史和基本原理

15.1.3基於深度學習的TTS

15.2基於TensorFlowTTS的語音合成實現

15.2.1TensorFlowTTS簡介與環境準備

15.2.2算法簡介

15.2.3代碼實現與結果展示

第16章案例：  基於LSTM的原創音樂生成

16.1樣例背景介紹

16.1.1循環神經網絡

16.1.2Music 21

16.1.3TensorFlow

16.2項目結構設計

16.3實驗步驟

16.3.1搭建實驗環境

16.3.2觀察並分析數據

16.3.3數據預處理

16.3.4生成音樂

16.4成果檢驗

第17章案例：  基於Fast RCNN的視頻問答

17.1視頻問答與聯合嵌入模型

17.2準備工作

17.2.1下載數據

17.2.2軟件包和配置文件

17.3基礎模塊實現

17.3.1FCNet

17.3.2SimpleClassifier模塊

17.4問題嵌入模塊實現

17.4.1詞嵌入

17.4.2RNN

17.5TopDown Attention模塊實現

17.6VQA系統實現

17.7模型訓練與可視化

17.7.1模型訓練

17.7.2可視化

小結

附錄A深度學習的數學基礎

A.1線性代數

A.2概率論

參考文獻