Python 遷移學習 Hands-On Transfer Learning with Python: Implement advanced deep learning and neural network models using TensorFlow and Keras

Dipanjan Sarkar

是英特爾公司的一名數據科學家，他利用數據科學、機器學習和深度學習來構建大規模的智能係統。
他擁有數據科學和軟件工程專業的碩士學位。

他從事分析工作多年，專攻機器學習、自然語言處理（Natural Language Processing，NLP）、統計方法和深度學習。
他對教育充滿熱情，同時還在Springboard等組織中擔任數據科學導師，幫助人們學習數據科學。
他還是人工智能和數據科學領域的領先在線期刊《面向數據科學》的主要編著者和編輯，
他還編寫了幾本關於R、Python、機器學習、NLP和深度學習的書。

Raghav Bali

是Optum的數據科學家。
他的工作涉及研究和開發基於機器學習、深度學習和NLP的企業級解決方案，用於醫療和保險領域的相關用例。
之前在英特爾公司的工作中，他參與了數據主動驅動IT的提案。
他還曾在企業資源計劃（Enterprise Resource Planning，ERP）和金融領域的一些世界領先的組織工作。
他已經和一些優秀的出版社合作出版了多本書籍。

Raghav在班加羅爾國際信息技術學院作為優秀畢業生獲得了信息技術碩士學位。
他熱愛閱讀，在工作不忙時，他是一個熱衷於捕捉生活瞬間的攝影愛好者。

Tamoghna Ghosh

是英特爾公司的機器學習工程師。
他共有11年的工作經驗，其中包括4年在微軟印度研究院的核心研究經驗。
在微軟研究院期間，他曾擔任分組密碼的密碼分析的研究助理。

他的技術專長包括大數據、機器學習、NLP、信息檢​​索、數據可視化和軟件開發。
他在加爾各答印度統計研究所獲得了工學碩士（計算機科學）學位，在加爾各答大學獲得了理學碩士（數學）學位。
他的專業研究領域為功能性分析、數學建模以及動態系統。
他對教學工作充滿熱情，並為英特爾公司開展了不同級別的數據科學內部培訓。

第1部分深度學習基礎

第1章機器學習基礎2
1．1什麼是機器學習3
1．1．1機器學習的正式定義4
1．1．2淺層學習和深度學習4
1．2機器學習算法5
1．2．1監督學習6
1．2．2無監督學習9
1．3 CRISP-DM 11
1．3．1業務理解12
1．3．2數據理解12
1．3．3數據準備13
1 ．3．4建模13
1．3．5評估13
1．3．6部署14
1．4標準機器學習工作流14
1．4．1數據檢索15
1．4．2數據準備15
1．4． 3建模16
1．4．4模型評估和調優17
1．4．5部署和監控21
1．5探索性數據分析22
1．6特徵提取和特徵工程29
1．7特徵選擇33
1．8總結34

第2章深度學習精要35
2．1什麼是深度學習35
2．2深度學習框架37
2．3創建一個支持GPU的雲端深度學習環境40
2．3．1選擇一個雲供應商41
2 ．3．2設置虛擬服務器41
2．3．3配置虛擬服務器45
2．3．4安裝和升級深度學習依賴項47
2．3．5訪問深度學習雲環境52
2．3．6在深度學習環境中驗證啟用GPU 53
2．4創建一個支持GPU的、健壯的內部深度學習環境55
2．5神經網絡基礎55
2．5．1一個簡單的線性神經元55
2．5．2基於梯度的最優化問題56
2．5．3雅可比矩陣和海森矩陣60
2． 5．4導數的鍊式法則61
2．5．5隨機梯度下降法61
2．5．6非線性神經單元64
2．5．7學習一個簡單的非線性單元——邏輯單元66
2．5． 8損失函數67
2．5．9數據表示68
2．5．10多層神經網絡71
2．5．11反向傳播——訓練深度神經網絡73
2．5．12神經網絡學習中的挑戰75
2 ．5．13模型參數初始化78
2．5．14提升SGD 80
2．5．15神經網絡的過擬合和欠擬合81
2．5．16神經網絡的超參數84
2．6總結85

第3章理解深度學習架構86
3．1神經網絡架構86
3．2各種神經網絡架構88
3．2．1多層感知機和深度神經網絡88
3．2．2自編碼神經網絡88
3．2．3變分自編碼器89
3．2．4生成式對抗網絡91
3．2．5卷積神經網絡93
3．2．6膠囊網絡103
3．2．7遞歸神經網絡107
3． 2．8記憶神經網絡114
3．2．9神經圖靈機117
3．2．10基於注意力的神經網絡模型121
3．3總結122

第2部分遷移學習精要
第4章遷移學習基礎124
4． 1遷移學習簡介124
4．2遷移學習策略127
4．3遷移學習和深度學習129
4．3．1遷移學習方法論130
4．3．2預訓練模型131
4．3．3應用131
4．4深度遷移學習類型132
4．4．1領域適應132
4．4．2領域混淆132
4．4．3多任務學習133
4．4．4一次性學習133
4．4．5零樣本學習134
4．5遷移學習的挑戰134
4．5．1負向遷移134
4．5．2遷移邊界135
4．6總結135

第5章釋放遷移學習的威力136
5．1遷移學習的必要性137
5．1．1闡述現實世界問題137
5．1．2構建數據集138
5．1．3描述方法140
5．2從零開始構建CNN模型140
5．2．1基本CNN模型143
5．2．2正則化的CNN模型146
5．2 ．3圖像增強的CNN模型148
5．3使用預訓練的CNN模型利用遷移學習153
5．3．1理解VGG-16模型154
5．3．2作為特徵提取器的預訓練CNN模型156
5．3 ．3作為特徵提取器並使用圖像增強的預訓練CNN模型162
5．3．4使用微調和圖像增強的預訓練CNN模型164
5．4評估我們的深度學習模型168
5．4．1模型在一個樣本測試圖像上進行預測168
5．4．2將CNN模型的感知可視化170
5．4．3在測試數據上評估模型性能174
5．5總結177

第3部分遷移學習案例研究
第6章圖像識別和分類180
6．1基於深度學習的圖像分類180
6．2基準數據集181
6．3最先進的深度圖像分類模型182
6．4圖像分類和遷移學習183
6．4．1 CIFAR-10數據集183
6．4．2犬種鑑定數據集189
6．5總結199

第7章文本文檔分類200
7．1文本分類201
7．1．1傳統文本分類201
7．1．2 BoW模型的缺點202
7．1．3基準數據集203
7．2單詞表示形式204
7．2．1 Word2vec模型204
7．2．2使用gensim框架的Word2vec模型205
7．2．3 GloVe模型208
7．3 CNN文檔模型210
7．3．1構建一個評論情感分類器216
7．3．2哪些單詞嵌入變化最大220
7．3．3遷移學習在IMDB數據集中的應用220
7．3．4使用Wordvec嵌入在完整的IMDB數據集上進行訓練223
7．3．5使用CNN模型創建文檔摘要224
7．3．6使用CNN模型進行多類別分類228
7．3．7文檔嵌入可視化231
7．4總結233

第8章音頻事件識別和分類234
8．1理解音頻事件分類235
8．2音頻事件的探索性分析236
8．3音頻事件的特徵工程和表示方法245
8．4使用遷移學習進行音頻事件分類249
8．4．1根據基本特徵構建數據集250
8．4．2利用遷移學習進行特徵提取251
8．4．3構建分類模型253
8．4 ．4評估分類器的性能257
8．5構建一個深度學習音頻事件識別器260
8．6總結263

第9章DeepDream 264
9．1介紹264
9．1．1計算機視覺中的算法幻想性視錯覺265
9．1．2可視化特徵圖267
9．2 DeepDream算法273
9．3總結277

第10章風格遷移278
10．1理解神經風格遷移279
10．2圖像預處理方法280
10．3構建損失函數282
10．3．1內容損失282
10．3．2風格損失283
10．3．3總變差損失283
10．3．4總體損失函數284
10．4創建一個自定義優化器285
10．5風格遷移實戰286
10．6總結290

第11章自動圖像掃描生成器291
11．1理解圖像描述292
11．2明確目標293
11．3理解數據294
11．4構建自動圖像描述系統的方法295
11．4．1概念方法295
11．4．2實際動手的方法299
11．5使用遷移學習的圖像特徵提取301
11．6為描述構建一個詞彙表306
11．7構建一個圖像描述數據集生成器308
11．8構建圖像語言編碼器-解碼器深度學習模型314
11．9訓練圖像描述深度學習模型316
11．10評估圖像描述深度學習模型320
11．10．1加載數據和模型320
11．10．2理解貪婪搜索和集束搜索321
11．10．3實現一個基於集束搜索的描述生成器321
11．10．4理解並實現BLEU分數323
11．10．5在測試數據上評估模型性能324
11．11自動圖像描述實戰327
11．11．1戶外場景樣本圖像描述329
11．11．2流行運動樣本圖像描述332
11．11．3未來的改進空間334
11．12總結334

第12章圖像著色335
12．1問題陳述336
12．2彩色圖像336
12．2．1顏色理論337
12．2．2顏色模型和顏色空間337
12．2．3重審問題陳述339
12．3構建一個著色深度神經網絡341
12．3 ．1預處理341
12．3．2損失函數342
12．3．3編碼器343
12．3．4遷移學習——特徵提取344
12．3．5融合層344
12．3．6解碼器345
12．3．7後處理347
12．3．8訓練和結果348
12．4挑戰350
12．5進一步改進350
12．6總結350