Python機器學習與應用案例

 

 

目錄

第1章機器學習的基礎知識

 

1.1何謂機器學習

 

1.1.1傳感器和海量數據

 

1.1.2機器學習的重要性

 

1.1.3機器學習的表現

 

1.1.4機器學習的主要任務

 

1.1.5選擇合適的算法

 

1.1.6機器學習程序的步驟

 

1.2綜合分類

 

1.3推薦系統和深度學習

 

1.3.1推薦系統

 

1.3.2深度學習

 

1.4何為Python

 

1.4.1使用Python軟件的由來

 

1.4.2為什麽使用Python

 

1.4.3Python設計定位

 

1.4.4Python的優缺點

 

1.4.5Python的應用

 

1.5Python編程第一步

 

1.6NumPy函數庫基礎

 

1.7Python迭代器與生成器

 

1.7.1迭代器

 

1.7.2生成器

 

1.8Pandas科學計算庫

 

1.8.1Pandas簡介

 

1.8.2Pandas的安裝

 

1.8.3Pandas Series

 

1.8.4Pandas DataFrame

 

1.8.5Pandas CSV文件

 

1.9多線程

 

1.9.1學習Python線程

 

1.9.2線程模塊

 

1.9.3線程同步

 

1.9.4線程優先級隊列(Queue)

 

1.10小結

 

1.11習題

 

第2章Python近鄰法

 

2.1k近鄰法的三要素

 

2.1.1k值的選擇

 

2.1.2距離度量

 

2.1.3分類決策規則

 

2.2k近鄰法

 

2.3kd樹

 

2.3.1什麽是kd樹

 

2.3.2如何構建kd樹

 

2.3.3如何在kd樹中搜索

 

2.4Python實現kd樹、k近鄰法

 

2.5k近鄰實戰配對判定

 

2.6小結

 

2.7習題

 

第3章Python數據降維

 

3.1維數災難與降維

 

3.2主成分分析

 

3.2.1PCA原理

 

3.2.2PCA算法

 

3.2.3PCA降維的兩個準則

 

3.3tSNE降維

 

3.3.1tSNE核心思想

 

3.3.2算法步驟

 

3.3.3tSNE算法實現

 

3.4SVD降維

 

3.5核主成分分析降維

 

3.6流形學習降維

 

3.7多維縮放降維

 

3.7.1原理

 

3.7.2MDS算法

 

3.8等度量映射降維

 

3.9局部線性嵌入

 

3.9.1原理

 

3.9.2LLE算法

 

3.10非負矩陣分解

 

3.11小結

 

3.12習題

 

第4章Python分類算法

 

4.1邏輯回歸

 

4.1.1邏輯回歸模型

 

4.1.2梯度下降法

 

4.2Softmax回歸

 

4.3因子分解機

 

4.3.1邏輯回歸算法的不足

 

4.3.2因子分解機模型

 

4.3.3FM算法中交叉項的處理

 

4.3.4FM算法的求解

 

4.3.5FM算法流程

 

4.3.6Python實現FM模型

 

4.4支持向量機

 

4.4.1SVM簡介

 

4.4.2線性可分支持向量機

 

4.4.3函數間距和幾何間距

 

4.4.4線性支持向量機

 

4.4.5非線性支持向量機

 

4.5貝葉斯分類器

 

4.5.1貝葉斯定理

 

4.5.2相關的概念

 

4.5.3常用貝葉斯分類器

 

4.6隨機森林

 

4.6.1決策樹分類器

 

4.6.2CART分類樹算法

 

4.7各模型分類對比

 

4.8小結

 

4.9習題

 

第5章Python回歸算法

 

5.1線性回歸

 

5.1.1基本線性回歸

 

5.1.2線性回歸的最小二乘解法

 

5.1.3牛頓法

 

5.1.4局部加權線性回歸

 

5.2非線性回歸

 

5.3嶺回歸與Lasso回歸

 

5.3.1線性回歸存在的問題

 

5.3.2嶺回歸模型

 

5.3.3Lasso回歸模型

 

5.3.4擬牛頓法

 

5.3.5LBFGS求解嶺回歸模型

 

5.4小結

 

5.5習題

 

第6章Python聚類算法

 

6.1kMeans算法

 

6.1.1相似性的度量

 

6.1.2kMeans算法原理

 

6.1.3kMeans++算法

 

6.2親和度聚類

 

6.3Mean Shift聚類算法

 

6.3.1Mean Shift向量

 

6.3.2核函數

 

6.3.3Mean Shift推導

 

6.3.4Mean Shift在圖像上的聚類

 

6.4DBSCAN聚類

 

6.4.1密度聚類原理

 

6.4.2DBSCAN密度定義

 

6.4.3DBSCAN密度聚類思想

 

6.4.4DBSCAN聚類算法

 

6.4.5DBSCAN小結

 

6.5小結

 

6.6習題

 

第7章Python神經網絡

 

7.1感知機

 

7.1.1感知機原理

 

7.1.2感知機模型

 

7.1.3感知機學習策略

 

7.1.4感知機學習算法

 

7.1.5神經網絡

 

7.1.6感知機的實現

 

7.2BP神經網絡

 

7.2.1BP神經網絡原理

 

7.2.2BP神經網絡的實現

 

7.3徑向基神經網絡

 

7.3.1徑向基函數解決插值問題

 

7.3.2正則化理論

 

7.3.3正則化RBF網絡

 

7.3.4廣義RBF網絡

 

7.3.5數據中心的監督學習算法

 

7.4模糊神經網絡

 

7.4.1網絡模型

 

7.4.2學習算法

 

7.4.3模糊神經網絡的應用

 

7.5小結

 

7.6習題

 

第8章Python推薦算法

 

8.1協同過濾算法

 

8.1.1協同過濾算法概述

 

8.1.2協同過濾算法的分類

 

8.1.3相似度的度量方法

 

8.1.4基於用戶的協同過濾算法

 

8.1.5基於物品的協同過濾算法

 

8.2基於矩陣分解的推薦算法

 

8.2.1矩陣分解

 

8.2.2基於矩陣分解的推薦算法

 

8.2.3非負矩陣分解

 

8.3基於圖的推薦算法

 

8.3.1二部圖

 

8.3.2由用戶商品矩陣到二部圖

 

8.3.3PageRank算法

 

8.3.4問題說明

 

8.4SVD協同作用

 

8.4.1SVD

 

8.4.2FunkSVD

 

8.4.3BiasSVD

 

8.4.4SVD++

 

8.5小結

 

8.6習題

 

第9章Python頻繁項集

 

9.1關聯分析

 

9.1.1支持度與置信度

 

9.1.2窮舉法

 

9.2Apriori算法

 

9.2.1Apriori算法簡介

 

9.2.2Apriori定理

 

9.2.3Apriori算法應用

 

9.2.4Python生成候選項集

 

9.3FPGrowth算法

 

9.3.1用FP樹編碼數據集

 

9.3.2從FP樹中挖掘頻繁項

 

9.3.3從新聞網站點擊流中挖掘

 

9.4PrefixSpan算法

 

9.5小結

 

9.6習題

 

第10章Python數據預處理

 

10.1概述

 

10.1.1為什麽要對數據預處理

 

10.1.2數據預處理的主要任務

 

10.2數據清理

 

10.2.1數據缺失

 

10.2.2過濾數據

 

10.2.3檢測和過濾異常值 

 

10.2.4移除重復數據 

 

10.3處理缺失值

 

10.3.1處理缺失值的方法

 

10.3.2缺失值補全法

 

10.3.3特徵編碼

 

10.3.4數據標準化、正則化

 

10.3.5特徵選擇

 

10.3.6稀疏表示和字典學習

 

10.4機器模型

 

10.4.1損失函數和風險函數

 

10.4.2模型評估

 

10.4.3性能度量

 

10.5索引的設置

 

10.6小結

 

10.7習題

 

參考文獻