數據科學工程實踐

目錄

第1章 數據科學概述 1
1.1　數據科學簡介 1
1.1.1 基本概念及發展歷史 1
1.1.2 特點及應用領域 2
1.1.3 數據科學的過程 3
1.2　Python的安裝 5
1.3　常用工具包概述 7
1.4　Anaconda3的安裝 9
1.5　Jupyter Notebook的使用 10
1.5.1 Jupyter Notebook簡介 10
1.5.2 Jupyter Notebook
的啟動 10
1.5.3 新手如何快速上手Jupyter Notebook 10
1.6　本章小結 12
課後習題 12
第2章 數據預處理 13
2.1　NumPy數據處理及運算 13
2.1.1 NumPy的安裝 13
2.1.2 創建N維數組 14
2.1.3 NumPy切片和索引 19
2.1.4 NumPy數組操作 20
2.1.5 數學函數 32
2.1.6 統計函數 40
2.1.7 排序函數 46
2.1.8 直方圖函數 47
2.2　Pandas基礎 49
2.2.1 數據快捷加載 49
2.2.2 Pandas的數據結構 53
2.3　非數值數據轉換 61
2.3.1 map()函數 61
2.3.2 One-Hot編碼 62
2.4　數據清洗 63
2.4.1 缺失值處理 63
2.4.2 錯誤數據替換 65
2.4.3 數據去重 65
2.4.4 數據合並連接 66
2.4.5 數據分組及聚合 70
2.5 本章小結 72
課後習題 72
第3章 數據存儲與管理 74
3.1　概述 74
3.1.1 數據存儲的概念 74
3.1.2 數據管理技術的概念 74
3.1.3 數據庫的概念 74
3.1.4 新型數據管理系統 75
3.2　關系數據庫 75
3.2.1 關系數據模型 75
3.2.2 應用舉例 76
3.3　分佈式文件系統 78
3.3.1 HDFS的概念及特點 78
3.3.2 HDFS數據文件存儲 78
3.3.3 HDFS的結構及組件 78
3.3.4 HDFS的讀/寫操作 79
3.3.5 Python訪問HDFS 81
3.4　分佈式數據庫 82
3.4.1 HBase的特點 82
3.4.2 HBase相關概念 82
3.4.3 HBase架構 82
3.4.4 Python操作HBase 84
3.5　流數據 87
3.5.1 流數據概述 87
3.5.2 流數據模型 87
3.5.3 流數據處理系統 88
3.6　本章小結 90
課後習題 90
第4章 探索性數據分析 92
4.1　EDA簡介 92
4.2　特徵創建 98
4.3　維度約簡 101
4.3.1 為什麽要降維 101
4.3.2 基於特徵轉換的降維 102
4.3.3 基於特徵選擇的降維 122
4.3.4 基於特徵組合的降維 135
4.4　異常值檢測及處理 141
4.4.1 單變量異常檢測 141
4.4.2 OneClassSVM 143
4.4.3 EllipticEnvelope 145
4.5　評價函數 149
4.5.1 多標簽分類 149
4.5.2 二分類 151
4.5.3 回歸 155
4.6　測試和驗證 156
4.7　交叉驗證 159
4.7.1 建立自定義評分函數 160
4.7.2 使用交叉驗證迭代器 162
4.8　超參數調優 167
4.8.1 超參數調優概述 167
4.8.2 超參數調優實踐 174
4.9　小結 190
課後習題 190
第5章 單模型學習算法 191
5.1　概述 191
5.1.1 分類模型和回歸模型 192
5.1.2 機器學習的步驟和
要素 193
5.2　線性回歸和邏輯回歸 194
5.2.1 從線性回歸到邏輯
回歸 195
5.2.2 線性回歸實踐 197
5.2.3 Sigmoid函數 199
5.2.4 推廣至多元場景 200
5.2.5 邏輯回歸實踐 201
5.2.6 算法小結 203
進階A 交叉熵損失函數和平方差
損失函數 203
5.3　樸素貝葉斯分類 207
5.3.1 樸素貝葉斯分類算法 207
5.3.2 樸素貝葉斯實踐 210
5.3.3 算法小結 212
5.4　最近鄰算法 212
5.4.1 k近鄰算法的概念及
原理 212
5.4.2 k值的選取及特徵歸一化的重要性 213
5.4.3 最近鄰算法實踐 215
5.4.4 算法小結 228
進階B kd樹 228
B.1 kd樹的構建 228
B.2 kd樹的搜索 230
B.3 kd樹的不足 232
5.5　支持向量機 233
5.5.1 支持向量機基礎 234
5.5.2 軟間隔 236
5.5.3 核函數 236
5.5.4 支持向量機實踐 238
5.5.5 算法小結 256
進階C 對偶問題 257
C.1 拉格朗日乘子法 257
C.2 支持向量機優化 259
進階D 軟間隔情況下的最優化問題
及其求解 260
5.6　決策樹 261
5.6.1 信息論知識 261
5.6.2 決策樹基礎 264
5.6.3 決策樹實踐 268
5.6.4 算法小結 285
5.7　聚類 286
5.7.1 K均值聚類 286
5.7.2 小批量KMeans 296
5.7.3 Affinity Propagation聚類
算法 299
5.7.4 層次聚類 301
5.7.5 DBSCAN 307
5.7.6 算法小結 310
5.8　本章小結 311
課後習題 311
第6章 集成學習算法 312
6.1　集成學習能帶來什麽 312
6.1.1 集成學習的基本步驟 313
6.1.2 集成學習中的偏差與
方差 314
6.2　Bagging元學習器 320
6.3　隨機森林 326
6.3.1 隨機森林算法 327
6.3.2 極度隨機化樹 327
6.3.3 隨機森林實踐 328
6.3.4 算法小結 332
6.4　Boosting算法 332
6.5　AdaBoost算法 333
6.5.1 AdaBoost實踐 334
6.5.2 算法小結 341
進階E AdaBoost算法偽代碼 342
6.6　GBDT算法 342
6.6.1 分類和回歸 347
6.6.2 GBDT實踐 349
6.7　基於直方圖的梯度提升 351
6.7.1 用法 351
6.7.2 直方圖梯度提升模型
實踐 353
6.8　堆疊泛化 356
6.9　概率校準 358
6.9.1 校準曲線 359
6.9.2 校準分類器 362
6.10　本章小結 373
課後習題 373
第7章 數據可視化 374
7.1　可視化的定義及作用 374
7.2　可視化的原則 375
7.3　常用的可視化分析技術與
工具 375
7.4　Matplotlib繪圖 378
7.4.1 繪制曲線 378
7.4.2 繪制散點圖 384
7.4.3 繪制直方圖 385
7.4.4 繪制柱狀圖 387
7.4.5 繪制箱線圖 392
7.4.6 繪制圖像 394
7.4.7 繪制矩陣 396
7.5　Pandas繪圖 398
7.6　Scikit-learn繪圖 401
7.6.1 學習曲線 401
7.6.2 驗證曲線 405
7.6.3 ROC曲線 407
7.6.4 混淆矩陣 408
7.6.5 精確率-召回率曲線 410
7.6.6 部分依賴關系圖 412
7.7　本章小結 414
課後習題 414