機器學習實戰

肖睿，課工場創始人，北京大學教育學博士，北京大學軟件學院特約講師，北京大學學習科學實驗室特約顧問。
作為北大青鳥 Aptech 的聯合創始人，歷任學術總監、研究院院長、公司副總裁等核心崗位，擁有20多年的IT職業教育產品管理和企業管理經驗。
於2015年創辦課工場，兼任總經理，旨在為大學生提供更可靠的 IT 就業教育及服務。

第 1章 推薦系統簡介． ． ． 1
技能目標． ． ．　1
本章任務． ． ．　1
任務1．1　了解推薦系統的發展歷史 ． ． ． 2
任務1．2　掌握推薦系統的核心要素． ． ．　4
1．2．1　用戶． ． ．　4
1．2．2　物品和內容 ． ． ．　4
1．2．3　事件． ． ． 5
1．2．4　語境． ． ．　6
任務1．3　掌握推薦系統的基本構成． ． ．　6
1．3．1　召回模塊 ． ． ． 8
1．3．2　排序模塊． ． ．　13
1．3．3　過濾模塊． ． ．　14
任務1．4　了解推薦系統的新發展． ． ．　15
1．4．1　基於會話的推薦系統． ． ．　15
1．4．2　強化學習與推薦系統． ． ．　17
任務1．5　認清推薦系統的發展方向． ． ．　17
本章小結． ． ．　18
本章習題． ． ． 18

第　2章 搭建試驗平台． ． ． 19
技能目標． ． ．　19
本章任務． ． ．　19
任務2．1　安裝和配置Anaconda ． ． ．　20
2．1．1　下載並安裝Anaconda ． ． ．　21
2．1．2　新建環境． ． ．　22
2．1．3　管理環境． ． ．　23
2．1．4　添加國內的安裝源 ． ． ．　25
2．1．5　安裝scikit-surprise軟件包． ． ．　26
2．1．6　安裝其他軟件包 ． ． ．　27
任務2．2　獲取試驗數據集MovieLens． ． ．　28
2．2．1　下載數據集 ． ． ．　28
2．2．2　檢查文件內容 ． ． ．　29
2．2．3　分析評分數據． ． ． 31
任務2．3　安裝集成開發環境PyCharm． ． ．　35
2．3．1　下載PyCharm ． ． ．　35
2．3．2　創建項目Recommender ． ． ．　35
2．3．3　創建測試文件 ． ． ． 37
任務2．4　測試集成開發環境Spyder． ． ．　38
任務2．5　測試Jupyter Notebook ．　40
2．5．1　安裝並啟動Jupyter Notebook ．　41
2．5．2　設置根目錄 ．　42
2．5．3　Jupyter Notebook基本用法 ． ．　44
2．5．4　運行測試文件　46
本章小結．　47
本章習題．　48

第3章　推薦系統的評測 ． 49
技能目標．　49
本章任務．　49
任務3．1　學習用戶成長飛輪模型．　50
任務3．2　掌握推薦系統的評測方法．　51
3．2．1　離線測試． ．　51
3．2．2　用戶測試． ．　52
3．2．3　線上測試． ．　54
任務3．3　掌握推薦系統的評測指標．　55
3．3．1　預測準確率 ．　55
3．3．2　覆蓋率． ．　61
3．3．3　多樣性． ．　62
3．3．4　驚喜度． ．　63
3．3．5　新穎度． ．　64
3．3．6　實時性． ．　65
3．3．7　健壯性． ．　65
3．3．8　商業目標． ．　66
3．3．9　小結　68
任務3．4　實際評測推薦系統　69
3．4．1　線下測試． ．　69
3．4．2　線上測試． ． 72 本章小結．　74
本章習題．　74

第4章　基於內容的召回 ． 75
技能目標．　75
本章任務．　75
任務4．1　掌握物品特徵抽取的基本方法 ． ．　76
4．1．1　抽取基本特徵　77
4．1．2　抽取文本特徵　79
4．1．3　抽取圖像特徵　81
任務4．2　掌握相似度的衡量方法．　84
4．2．1　曼哈頓距離 ．　85
4．2．2　歐氏距離． ．　85
4．2．3　餘弦相似度 ．　86
任務4．3　實際開發一款基於內容召回的推薦系統　86
4．3．1　準備電影特徵　87
4．3．2　計算電影間的相似度．　89
4．3．3　預測用戶評分　91
4．3．4　生成頭部推薦　92
任務4．4　掌握橫向評測框架的開發和使用方法 ． ．　93
4．4．1　自定義預測算法 ． ．　93
4．4．2　比較控制器 ．　95
4．4．3　評測內容召回推薦算法　97
任務4．5　理解基於內容召回的優點和缺點 ．　99
4．5．1　內容召回的優點 ． ．　99
4．5．2　內容召回的缺點　100
本章小結． ．　100
本章習題． ．　100

第5章　基於協同過濾的召回 ． 102
技能目標． ．　102
本章任務． ．　102
任務5．1　掌握協同過濾的基本思想和主要分類　103
任務5．2　掌握協同過濾中相似性的衡量方法 ．　104
5．2．1　行為數據的特點　105
5．2．2　相似性的衡量 ．　105
任務5．3　實際開發一款基於用戶的協同過濾推薦系統． ．　108
5．3．1　創建用戶評分矩陣 ． ． 108 5．3．2 創建用戶相似度矩陣． ．　108
5．3．3　尋找相似用戶 ．　109
5．3．4　根據相似用戶的喜好給出推薦 ． ．　109
5．3．5　排序並過濾推薦電影列表（基於用戶的協同過濾） ． ． 110
5．3．6　運行項目． 110
任務5．4　實際開發一款基於物品的協同過濾推薦系統112
5．4．1　創建電影評分矩陣　113
5．4．2　創建電影相似度矩陣114
5．4．3　獲取當前用戶喜好　114
5．4．4　根據用戶喜好給出推薦115
5．4．5　排序並過濾推薦電影列表（基於電影的協同過濾） ． ． 115
5．4．6　運行項目． 115
任務5．5　實際評測協同過濾與評分預測融合模型． ． 118
5．5．1　基於用戶的K最近鄰推薦118
5．5．2　基於物品的K最近鄰推薦118
5．5．3　評測K最近鄰推薦算法119
本章小結． ．　120
本章習題． ．　121

第6章　基於深度學習的召回 ． 122
技能目標． ．　122
本章任務． ．　122
任務6．1　掌握並實際評測矩陣分解算法　124
任務6．2　掌握並實際評測受限玻爾茲曼機算法　129
任務6．3　掌握並實際評測自動編碼機算法 ． ．　133
任務6．4　掌握優兔基於深度學習的召回模型 ．　136
任務6．5　了解Netflix的推薦模型　139
本章小結． ．　141
本章習題． ．　141

第7章　經典排序模型142
技能目標． ．　142
本章任務． ．　142
任務7．1　下載並探索一個排序用數據集　143
任務7．2　掌握並實際評測邏輯回歸排序算法 ．　146
7．2．1　邏輯回歸的基本原理． ．　146
7．2．2　邏輯回歸示例代碼 ． ．　147
任務7．3　掌握並實際評測梯度提升決策樹和邏輯回歸融合模型 ． ． 150 7．3．1 梯度提升決策樹的工作原理　150
7．3．2　梯度提升決策樹與邏輯回歸融合模型　152
7．3．3　梯度提升決策樹和邏輯回歸融合模型的示例代碼． ．　153
任務7．4　掌握並實際評測貝葉斯個性化排序算法．　156
7．4．1　貝葉斯法則 ． ．　157
7．4．2　貝葉斯個性化排序算法原理　162
7．4．3　貝葉斯個性化排序示例代碼　163
本章小結． ．　170
本章習題． ．　170

第8章　基於深度學習的排序 ． 171
技能目標． ．　171
本章任務． ．　171
任務8．1　掌握因子分解機的基本原理．　172
任務8．2　掌握廣度和深度融合模型的基本原理　177
任務8．3　掌握優兔深度學習排序模型的基本原理．　185
本章小結． ．　187
本章習題． ．　188

第9章　基於會話的推薦 ． ． 189
技能目標． ．　189
本章任務． ．　189
任務9．1　了解基於會話的推薦系統的發展歷史　190
任務9．2　掌握循環神經網絡在推薦系統中的應用．　192
9．2．1　基於門控循環單元的推薦系統 ． ．　193
9．2．2　多會話迷你批處理 ． ．　194
9．2．3　批處理中的負採樣 ． ．　194
9．2．4　排序損失函數的選擇． ．　195
9．2．5　實驗過程　195
任務9．3　學習將語境信息融入循環神經網絡推薦系統． ．　196
9．3．1　語境的重要性 ．　197
9．3．2　語境的融入方法　198
9．3．3　融合語境的循環神經網絡模型 ． ．　199
9．3．4　實驗過程　202
本章小結． ．　203
本章習題． ．　204

第　10章 基於強化學習的推薦 ． ． 205
技能目標． ．　205 本章任務． ．　205
任務10．1　了解在推薦系統中應用強化學習的背景． ．　206
任務10．2　了解強化學習的技術基礎　207
10．2．1　情境描述．　207
10．2．2　策略學習．　209
10．2．3　用戶長期參與度 ．　210
任務10．3　深入研究“探索與開採並舉”的強化學習推薦系統　210
10．3．1　提升多樣性的強化學習推薦系統 ． ．　210
10．3．2　試驗過程．　213
10．3．3　試驗結果．　216
本章小結． ．　217
本章習題． ．　218

第　11章 工業級推薦系統． 219
技能目標． ．　219
本章任務． ．　219
任務11．1　了解深度規模化稀疏張量網絡引擎　220
任務11．2　掌握DSSTNE深度學習框架的使用方法　221
11．2．1　轉換數據 ．　224
11．2．2　訓練階段 ．　224
11．2．3　預測階段 ．　226
任務11．3　了解工業級推薦系統的架構方法　226
11．3．1　系統架構 ．　227
11．3．2　並行化． ．　228
11．3．3　結束語． ．　229
本章小結． ．　229
本章習題． ．　230