TensorFlow 2.x深度學習從入門到實戰

第1篇 TensorFlow基礎
第1章 安裝TensorFlow 2
1.1 TensorFlow的安裝流程 2
1.2 運行TensorFlow的第一個程式 3
第2章 張量及其運算 4
2.1 常量張量的創建 4
2.2 張量維度的轉換 9
2.3 張量的運算12
第3章 運算圖和會話管理15
3.1 運算圖的形成15
3.2 運算圖的資料結構17
3.3 使用會話物件執行運算圖19
3.3.1 互動式會話執行流程19
3.3.2 使用會話日誌20
3.4 使用TensorBoard實現資料視覺化20
3.4.1 啟動TensorBoard組件21
3.4.2 顯示TensorBoard中的數據22
第4章 模型訓練24
4.1 變數張量24
4.2 損失函數25
4.3 漸進下降法26
4.3.1 如何將資料讀入模型27
4.3.2 模型訓練的基本流程28
4.3.3 漸進下降法運作實例29
4.3.4 漸進下降法的缺陷與因應30
4.4 運算圖的儲存與載入32
 
第2篇 TensorFlow進階
第5章 機器學習的基本概念34
5.1 使用TensorFlow實現線性迴歸34
5.2 使用TensorFlow實現多項式迴歸36
5.3 使用邏輯迴歸實現資料二元分類38
5.3.1 邏輯函數38
5.3.2 最大機率估計39
5.3.3 用程式碼實現邏輯回歸40
5.4 使用多元邏輯迴歸實現資料的多種分類41
5.4.1 多元分類範例－辨識手寫數位影像41
5.4.2 多元交叉熵41
5.4.3 多元迴歸模型程式碼範例43
第6章 使用TensorFlow開發神經網路44
6.1 神經元和感知器44
6.1.1 神經元的基本原理44
6.1.2 感知器的基本原理45
6.1.3 鏈路權重46
6.1.4 激活函數46
6.2 神經網路的運作原理47
6.2.1 神經網路層47
6.2.2 誤差反向傳播48
6.3 建構神經網路辨識手寫數位影像50
第7章 使用TensorFlow實現卷積網路53
7.1 卷積運算53
7.2 卷積運算的本質54
7.3 卷積運算的相關參數與操作說明55
7.4 使用TensorFlow開發卷積網路實例56
7.5 卷積網路的訓練與應用59
第8章 構造重定向網路61
8.1 什麼是重定向網路61
8.1.1 重定向網路的基本結構61
8.1.2 cell部件的運算原理62
8.2 使用TensorFlow建構RNN層63
8.2.1 cell組件類別簡介63
8.2.2 建立RNN層介面呼叫簡介64
8.3 使用RNN實現文本辨識65
8.3.1 文字資料預處理65
8.3.2 網路模型的建構與訓練66
8.4 長短程記憶組件68
8.4.1 長短程記憶組件的內在原理68
8.4.2 使用介面建立LSTM節點70
8.4.3 使用LSTM網路實現文本辨識72
第9章 資料集的讀取與操作74
9.1 TensorFlow的資料集物件74
9.1.1 建立數值型資料集74
9.1.2 數據生成器75
9.1.3 從文本中讀入資料集76
9.2 資料集的處理與加工77
9.2.1 資料集的分批處理77
9.2.2 基於資料集的若干操作78
9.2.3 資料集條目的遍歷存取80
第10章 使用多執行緒、多設備和機器集群84
10.1 多執行緒的配置84
10.2 多處理器分發執行85
10.3 集群分發控制86
第11章 TensorFlow的高階介面Estimator 88
11.1 運行Estimator的基本流程88
11.2 Estimator的初始化配置90
11.3 Estimator導出模型應用實例91
11.3.1 使用線性模型實例91
11.3.2 使用神經網路分類器93
11.3.3 使用線性迴歸－深度網路混合模型94
11.3.4 為Estimator新增自己的網路模型99
第3篇 TensorFlow實戰
第12章 實作編解碼器網路104
12.1 自動編解碼器的原理104
12.2 一個簡單的編解碼器網路105
12.3 使用多層編解碼器實現影像重建107
12.4 使用編解碼網路實現影像去噪112
12.5 可變編解碼器115
12.5.1 可變編解碼器的基本原理115
12.5.2 編解碼器的數學原理117
12.5.3 用程式碼實現編解碼網路123
第13章 使用TensorFlow實現增強學習127
13.1 搭建開發環境127
13.2 增強學習的基本概念129
13.3 馬可夫過程132
13.4 馬可夫決策模型133
13.5 發展一個增強學習範例135
13.5.1 範例簡介135
13.5.2 使用神經網路實現最優策略136
13.6 冰凍湖問題139
13.6.1 狀態值最佳化141
13.6.2 貝爾曼函數142
13.6.3 編碼解決冰凍湖問題145
第14章 使用TensorFlow實現深Q網路148
14.1 深Q演算法的基本原理149
14.2 深Q演算法專案實踐150
14.2.1 演算法的基本原則151
14.2.2 深Q網路模型155
第15章 TensorFlow與策略下降法163
15.1 策略導數164
15.1.1 策略導數的底層原理164
15.1.2 策略導數演算法應用實例166
15.1.3 策略導數的缺點169
15.2 Actor-Critic演算法169
15.2.1 Actor-Critic演算法的底層原理169
15.2.2 Actor-Critic演算法的實作171
15.3 A3C演算法原理173
15.3.1 改變量回傳模式的程式碼實現175
15.3.2 訓練資料回傳模式的程式碼實現187
15.4 使用PPO演算法玩《超級瑪莉》 192
15.4.1 PPO演算法簡介192
15.4.2 PPO演算法的數學原理193
15.4.3 PPO演算法的程式碼實作194
第16章 使用TensorFlow 2.x的Eager模式開發高階增強學習演算法201
16.1 TensorFlow 2.x Eager模式簡介201
16.2 使用Eager模式快速建構神經網路202
16.3 在Eager模式下使用DDPG演算法實現機械模擬控制204
16.3.1 DDPG演算法的基本原理204
16.3.2 DDPG演算法的程式碼實作206
16.4 DDPG演算法改進－TD3演算法的原理與實作211
16.4.1 TD3演算法的基本原理212
16.4.2 TD3演算法的程式碼實作213
16.5 TD3演算法的升級版－SAC演算法218
16.5.1 SAC演算法的基本原理218
16.5.2 SAC演算法的程式碼實作221
16.6 機率化深Q網路演算法226
16.6.1 連續機率函數的離散化表示226
16.6.2 演算法的基本原理228
16.6.3 讓演算法玩《雷神之鎚》 229
16.7 D4PG－機率化升級的DDPG演算法236
16.7.1 D4PG演算法的基本原理236
16.7.2 透過程式碼實現D4GP演算法237
第17章 使用TensorFlow 2.x實現生成型對抗性網路245
17.1 生成型對抗性網路的基本原理與程式碼實戰245
17.2 WGAN－讓對抗性網路生成更複雜的影像253
17.2.1 推土距離253
17.2.2 WGAN演算法的基本原理255
17.2.3 WGAN演算法的程式碼實作256
17.3 WGAN_PG－讓網路產生細膩的人臉影像262
17.3.1 WGAN_PG演算法的基本原理262
17.3.2 WGAN_GP演算法的程式碼實作263
17.4 使用CycleGAN實現「指鹿為馬」 269
17.4.1 CycleGAN技術的基本原理269
17.4.2 用程式碼實現CycleGAN 272
17.5 使用CycleGAN實現「無痛變性」 284
17.5.1 TensorFlow 2.x的資料集介面284
17.5.2 網路代碼的實作290
17.6 利用Attention機制實現自動譜曲297
17.6.1 樂理的基本知識298
17.6.2 網路訓練的資料準備299
17.6.3 Attention網路結構說明302
17.6.4 用程式碼實現預測網路304
17.7 使用MuseGAN產生多聲道音樂310
17.7.1 樂理的基本知識補充310
17.7.2 曲譜與影像的共性311
17.7.3 MuseGAN的基本原理313
17.7.4 MuseGAN的程式碼實作314
17.8 使用自關注機制提升網路人臉的生成能力322
17.8.1 Self-Attention機制的演算法原理322
17.8.2 引入spectral norm以確保訓練的穩定性324
17.8.3 用程式碼實現自關注網路330
17.9 實現黑白影像自動上色338
17.9.1 演算法的基本原理338
17.9.2 網路內部結構設計339
17.9.3 代碼實現340