機器學習

目錄

第1章機器學習概述

微課視頻146分鐘

1.1什麽是機器學習

1.2機器學習的分類

1.2.1基本分類

1.2.2監督學習及其功能分類

1.3構建機器學習系統

1.3.1機器學習的基本元素

1.3.2機器學習的基本概念

1.4通過簡單示例理解機器學習

1.4.1一個簡單的回歸示例

1.4.2一個簡單的分類示例

1.5深度學習

本章小結

本章習題

第2章統計與優化基礎

微課視頻129分鐘

2.1概率基礎

2.1.1離散隨機變量 

2.1.2連續隨機變量 

2.1.3隨機變量的基本特徵

2.1.4隨機特徵的蒙特卡洛逼近

2.2概率實例

2.2.1離散隨機變量示例

2.2.2高斯分佈

2.2.3指數族

2.2.4高斯混合過程

2.2.5馬爾可夫過程

2.3最大似然估計

2.4貝葉斯估計——最大後驗估計

2.5隨機變量的熵特徵

2.5.1熵的定義和基本性質

2.5.2KL散度、互信息和負熵

2.6非參數方法

2.7優化技術

2.7.1基本優化算法

2.7.2拉格朗日方法

本章小結

本章習題

第3章貝葉斯決策

微課視頻39分鐘

3.1機器學習中的決策

3.2分類的決策

3.2.1加權錯誤率準則

3.2.2拒絕判決

3.3回歸的決策

3.4高斯情況下的分類決策

3.4.1相同協方差矩陣情況的二分類

3.4.2不同協方差矩陣情況的二分類

3.4.3多分類情況

3.5KNN方法

*3.6概率圖模型

3.6.1貝葉斯網絡

3.6.2無向圖模型

3.6.3圖模型的學習與推斷

本章小結

本章習題

第4章基本回歸和分類算法

微課視頻158分鐘

4.1線性回歸

4.1.1基本線性回歸

4.1.2線性回歸的遞推學習

4.1.3正則化線性回歸

4.1.4多輸出線性回歸

*4.2稀疏線性回歸Lasso

4.2.1Lasso的循環坐標下降算法

4.2.2Lasso的LAR算法

4.3線性基函數回歸

4.4基本分類問題

4.5線性判別函數模型

4.5.1Fisher線性判別分析

*4.5.2感知機

4.6邏輯回歸

4.6.1二分類問題的邏輯回歸

4.6.2多分類問題的邏輯回歸

4.7樸素貝葉斯方法

本章小結

本章習題

第5章機器學習流程、評價和性能界

微課視頻90分鐘

5．1機器學習流程

5．1．1機器學習基本流程

5．1．2數據清洗和數據預處理

5．1．3模型的訓練、驗證與測試

5．1．4特徵工程

5．1．5樣本不平衡

5．2機器學習模型的性能評估

5．3機器學習模型的誤差分解

5．4機器學習模型的泛化性能

5．4．1假設空間有限時的泛化誤差界

*5．4．2假設空間無限時的泛化誤差界

本章小結

本章習題

第6章支持向量機與核函數方法

微課視頻91分鐘

6.1線性支持向量機

6.1.1不等式約束的優化

6.1.2線性可分情況的SVM

6.1.3不可分情況的SVM

6.1.4合頁損失函數

6.1.5SVM用於多分類問題

6.2非線性支持向量機

6.2.1SVM分類算法小結

*6.2.2SMO算法

6.3支持向量回歸

*6.4核函數方法

本章小結

本章習題

第7章決策樹

微課視頻75分鐘

7.1基本決策樹算法

7.1.1決策樹的基本結構

7.1.2信息增益和ID3算法

7.1.3信息增益率和C4.5算法

7.2CART算法

7.2.1分類樹

7.2.2回歸樹

7.3決策樹的一些實際問題

7.3.1連續數值變量

7.3.2正則化和剪枝技術

7.3.3缺失屬性的訓練樣本問題

本章小結

本章習題

第8章集成學習

微課視頻63分鐘

8.1Bagging和隨機森林

8.1.1自助採樣和Bagging算法

8.1.2隨機森林算法

8.2提升和AdaBoost算法

8.2.1AdaBoost算法介紹

*8.2.2AdaBoost算法分析

8.3提升樹算法

8.3.1加法模型和提升樹

8.3.2梯度提升樹

本章小結

本章習題

第9章神經網絡與深度學習之一： 基礎

微課視頻94分鐘

9.1神經網絡的基本結構

9.1.1神經元結構

9.1.2多層神經網絡解決異或問題

9.1.3多層感知機

9.1.4神經網絡的逼近定理

9.2神經網絡的目標函數和優化

9.2.1神經網絡的目標函數

9.2.2神經網絡的優化

9.3誤差反向傳播算法

9.3.1反向傳播算法的推導

9.3.2反向傳播算法的向量形式

9.3.3反向傳播算法的擴展

9.4神經網絡學習中的一些問題

9.4.1初始化

9.4.2正則化

9.4.3幾類等價正則化技術

本章小結

本章習題

第10章神經網絡與深度學習之二： 結構

微課視頻123分鐘

10.1捲積神經網絡

10.1.1捲積運算及其物理意義

10.1.2基本CNN的結構

10.1.3CNN的參數學習

*10.1.4捲積的一些擴展結構

*10.1.5CNN示例介紹

10.2循環神經網絡

10.2.1基本RNN

10.2.2RNN的計算和訓練

*10.2.3長短期記憶模型

*10.2.4門控循環單元

本章小結

本章習題

第11章神經網絡與深度學習之三： 擴展

微課視頻174分鐘

11.1深度學習中的優化算法

11.1.1小批量SGD算法

11.1.2動量SGD算法

11.1.3自適應學習率算法

11.2深度學習訓練的正則化技術

11.2.1Dropout技術

11.2.2批歸一化

*11.2.3層歸一化

*11.3對抗訓練

*11.4自編碼器

11.4.1自編碼器的基本結構

11.4.2自編碼器的一些擴展

*11.5註意力機制和Transformer

11.5.1註意力機制

11.5.2序列到序列模型

11.5.3Transformer

*11．6預訓練技術和模型實例

11．6．1GPT模型

11．6．2BERT模型

本章小結

本章習題

第12章聚類和EM算法

微課視頻65分鐘

12.1聚類算法

12.1.1K均值聚類算法

12.1.2DBSCAN聚類算法

12.1.3其他度量和聚類算法

12.2EM算法

12.2.1EM算法的隱變量形式

12.2.2獨立同分佈情況

*12.2.3EM算法擴展到MAP估計

*12.2.4通過KL散度對EM算法的解釋

12.3基於EM算法的高斯混合模型參數估計

12.3.1GMM參數估計

12.3.2GMM的軟聚類

本章小結

本章習題

第13章降維和連續隱變量學習

微課視頻20分鐘

13.1主分量分析

13.1.1主分量分析原理

13.1.2廣義Hebb算法

*13.2樣本向量的白化和正交化

13.2.1樣本向量的白化

13.2.2向量集的正交化

*13.3獨立分量分析

13.3.1獨立分量分析的原理和目標函數

13.3.2不動點算法FastICA

13.3.3自然梯度算法

13.3.4模擬實驗舉例

本章小結

本章習題

第14章強化學習之一： 經典方法

微課視頻178分鐘

14.1強化學習的基本問題

14.2馬爾可夫決策過程

14.2.1MDP的定義

14.2.2貝爾曼方程

14.2.3最優策略

14.2.4強化學習的類型

14.2.5探索與利用

14.3動態規劃

14.3.1策略迭代方法

14.3.2值函數迭代方法

14.4強化學習的蒙特卡洛方法

14.4.1MC部分策略評估

14.4.2MC策略改進

14.4.3在軌策略和離軌策略

14.5強化學習的時序差分方法

14.5.1基本時序差分學習和Sarsa算法

14.5.2離軌策略和Q學習

14.5.3DP、MC和TD算法的簡單比較

*14.5.4多步時序差分學習和資格跡算法

*14.6多臂賭博機

本章小結

本章習題

第15章強化學習之二： 深度強化學習

15.1強化學習的值函數逼近

15.1.1基本線性值函數逼近

*15.1.2線性值函數逼近的最小二乘策略迭代算法

15.1.3深度Q網絡

15.2策略梯度方法

15.2.1MC策略梯度算法Reinforce

15.2.2行動器評判器方法

*15.3連續動作確定性策略梯度方法

15.3.1DPG算法

15.3.2DDPG算法

15.3.3連續動作DRL的一些進展概述

*15．4深度強化學習的應用實例

15．4．1AlphaGo

15．4．2Suphx

15．4．3DRL在無人機自主導航中的應用

本章小結

本章習題

第16章深度生成模型

微課視頻203分鐘

16．1深度生成模型概述

16．2生成對抗網絡

16．2．1基本的生成對抗網絡

*16．2．2改進生成對抗網絡的目標函數

*16．2．3改進生成對抗網絡的結構

16．3變分自編碼器

16．3．1變分自編碼器原理

16．3．2變分自編碼器訓練算法

16．4深度擴散模型

16．4．1前向和反向過程

16．4．2擴散模型的目標函數

16．4．3擴散模型訓練算法和實現實例

*16．4．4擴散模型與評分網絡的關系和其他擴展

*16．5歸一流模型

本章小結

本章習題

附錄A課程的實踐型作業實例

A.1第1次實踐作業

A.2第2次實踐作業

A.3第3次實踐作業

附錄B函數對向量和矩陣的求導

附錄C術語表

參考文獻

視頻目錄

視 頻 名 稱時長/min位置

第1集導論1651.1節

第2集導論2311.3節

第3集導論3501.4節

第4集統計基礎1712.1節

第5集統計基礎2582.5節

第6集決策論393.1節

第7集回歸學習714.1節

第8集分類學習1514.4節

第9集分類學習2364.7節

第10集流程和評估905.1節

第11集核與SVM916.1節

第12集決策樹757.1節

第13集集成學習638.1節

第14集神經網絡949.1節

第15集深度學習17810.1節

第16集深度學習24510.2節

第17集深度學習33711.1節

第18集深度學習46811.4節

第19集深度學習56911.5.2節

第20集無監督學習16512.1節

第21集無監督學習22013.1節

第22集強化學習19514.1節

第23集強化學習28314.3節

第24集深度生成模型15316.1節

第25集深度生成模型24816.3節

第26集深度生成模型310216.4節