演化機器學習（第2版）

目錄

上篇深度改進的分佈估計算法

第1章上篇導言31.1研究背景3

1.2主要內容4

1.3結構安排5

第2章相關研究綜述7

2.1概述7

2.2組合優化問題概述7

2.3單變量分佈估計算法綜述9

第3章基於共軛先驗分佈的單模分佈估計算法14

3.1概述14

3.2Beta分佈與二項分佈15

3.3兩層分佈估計算法16

3.3.1算法框架16

3.3.2模型更新過程19

3.4測試與實驗20

3.4.1測試問題20

3.4.2參數研究22

3.4.3實驗設置24

3.4.4實驗結果24

3.5本章小結31目錄  演化機器學習（第2版）〖2〗〖2〗 〖1〗 第4章基於信息熵的多模分佈估計算法32

4.1概述32

4.2概念引導組合算子32

4.3基於概念引導組合算子的多模分佈估計算法34

4.3.1算法框架34

4.3.2坍縮個體的生成過程36

4.4測試與實驗38

4.4.1測試問題38

4.4.2實驗設置41

4.4.3實驗結果43

4.5本章小結45

第5章基於分解的多目標分佈估計算法47

5.1概述47

5.2基於分解的多目標演化算法框架47

5.2.1分解方法47

5.2.2MOEA/D框架48

5.3規模自適應生成算子49

5.4測試與實驗52

5.4.1測試問題52

5.4.2參數研究53

5.4.3實驗設置與性能指標53

5.4.4實驗結果55

5.5本章小結58

第6章上篇總結與展望59

6.1主要工作和結論59

6.2未來研究工作展望60

中篇內嵌特徵選擇的學習分類器

第7章中篇導言637.1研究背景63

7.2主要內容65

7.3結構安排66

第8章相關工作綜述68

8.1概述68

8.2學習分類器研究綜述68

8.2.1進化計算概述69

8.2.2基於遺傳的機器學習思想概述70

8.2.3Michigan式學習分類器研究進展71

8.2.4Pittsburgh式學習分類器研究進展72

8.3特徵選擇方法綜述74

8.3.1特徵選擇的問題描述75

8.3.2特徵選擇的搜索模型76

8.3.3特徵選擇的主要方法77

8.4本章小結80

第9章基於Memetic算法的WrapperFilter特徵選擇方法81

9.1概述81

9.2Memetic算法概述81

9.2.1Memetic算法思想起源82

9.2.2Memetic算法框架83

9.3混合式WrapperFilter特徵選擇方法85

9.3.1算法設計思想85

9.3.2算法整體框架86

9.3.3全局搜索的GAWrapper算法設計87

9.3.4局部搜索的ReliefF算法設計88

9.3.5計算復雜度分析90

9.4本章小結91

第10章基於合作式協同進化內嵌特徵選擇的學習分類器92

10.1概述92

10.2協同進化算法概述92

10.2.1協同進化思想起源93

10.2.2競爭式協同進化算法94

10.2.3合作式協同進化算法95

10.3基於合作式協同進化的學習分類器算法設計96

10.3.1算法設計思想96

10.3.2算法整體框架97

10.3.3分類器演化的Pittsburgh式學習分類器算法設計99

10.3.4計算復雜度分析100

10.4本章小結101

第11章算法評估結果與分析102

11.1概述102

11.2算法比較實驗框架102

11.2.1Benchmark數據集102

11.2.2性能評估指標104

11.2.3實驗方法104

11.3MFS算法實驗105

11.3.1算法參數設置105

11.3.2實驗結果與討論106

11.4CoCoLCS_MFS算法實驗107

11.4.1算法參數設置107

11.4.2實驗結果與討論108

11.4.3顯著性檢驗109

11.5特徵選擇對學習分類器的影響分析110

11.5.1分類準確率110

11.5.2運行時間111

11.5.3特徵約簡率112

11.5.4顯著性檢驗113

11.6本章小結113

第12章基於混合式GVNS算法的多處理器任務調度研究115

12.1概述115

12.2多處理器任務調度綜述115

12.2.1研究背景116

12.2.2多處理器任務調度問題模型117

12.2.3多處理器任務調度算法118

12.3基於啟發式的混合式GVNS調度算法的總體設計121

12.3.1混合式設計的算法思想121

12.3.2算法整體框架121

12.4任務優先級定序的啟發式策略123

12.5全局搜索的遺傳算法設計124

12.5.1種群個體的基因編碼124

12.5.2種群初始化與個體適應度評估124

12.5.3遺傳操作設計125

12.6局部搜索的變鄰域搜索算法設計126

12.6.1算法流程126

12.6.2鄰域結構設計127

12.6.3局部搜索128

12.7算法實驗129

12.7.1性能評估指標與參數設置129

12.7.2確定圖上的結果130

12.7.3隨機圖上的結果133

12.7.4顯著性檢驗135

12.7.5局部搜索有效性分析136

12.8本章小結137

第13章中篇總結與展望138

13.1主要工作和結論138

13.2未來研究工作展望139

下篇分佈估計的學習分類器

第14章下篇導言14314.1研究背景143

14.2主要內容145

14.3結構安排147

第15章分佈估計算法和學習分類器148

15.1概述148

15.2進化計算148

15.3遺傳算法149

15.4分佈估計算法151

15.4.1分佈估計算法的基本流程151

15.4.2分佈估計算法分類152

15.5學習分類器153

15.5.1Michigan式學習分類器153

15.5.2Pittsburgh式學習分類器154

第16章基於L1正則化貝葉斯網絡的分佈估計算法157

16.1概述157

16.2L1正則化貝葉斯網絡158

16.2.1貝葉斯網絡與L1正則化158

16.2.2候選鏈接關系建立160

16.2.3剪枝搜索162

16.3L1正則化貝葉斯網絡與分佈估計算法整合164

16.4實驗設置165

16.4.1測試函數165

16.4.2參數設置167

16.5優化性能比較168

16.5.1第一組實驗168

16.5.2第二組實驗170

16.6模型比較180

16.6.1測試函數的理想模型180

16.6.2模型復雜度比較181

16.6.3模型準確度比較183

16.7本章小結187

第17章基於分佈估計算法的分類器進化算法188

17.1概述188

17.2算法框架介紹189

17.3分類器的知識表示189

17.4規則進化191

17.4.1規則評價191

17.4.2規則重組192

17.5規則集進化194

17.5.1規則集評價194

17.5.2規則集重組194

17.6規則與規則集進化整合195

17.7實驗設置196

17.7.1測試數據196

17.7.2比較對象199

17.7.3評價指標200

17.7.4參數設置201

17.8實驗結果202

17.8.1構造問題202

17.8.2實際問題210

17.8.3參數敏感度分析218

17.9本章小結220

第18章面向學習分類器的嵌入式特徵選擇算法221

18.1概述221

18.2本章相關工作222

18.3算法框架介紹223

18.4嵌入式特徵選擇算法223

18.4.1特徵冗餘度計算223

18.4.2特徵關聯度計算224

18.5特徵選擇與學習分類器整合226

18.6實驗設置228

18.6.1測試數據228

18.6.2比較對象229

18.6.3評價指標229

18.6.4參數設置230

18.7實驗結果230

18.7.1構造問題230

18.7.2實際問題232

18.7.3參數敏感度分析240

18.8本章小結242

第19章基於進化糾錯輸出編碼的多分類算法243

19.1概述243

19.2糾錯輸出編碼方法簡介244

19.3編碼矩陣設計245

19.3.1編碼矩陣評價245

19.3.2優化方法248

19.4解碼策略248

19.5實驗設置250

19.5.1測試數據250

19.5.2比較對象251

19.5.3評價指標與參數設置251

19.6實驗結果251

19.6.1分類準確率251

19.6.2訓練開銷253

19.6.3結果復雜度與特徵約簡率255

19.6.4糾錯輸出編碼性能257

19.7本章小結259

第20章下篇總結與展望260

20.1主要工作和結論260

20.2未來研究工作展望261

參考文獻262

附錄A縮略語280

圖索引284

表索引287