神經網絡入門與實戰

張立毅，男，生於1963年2月，1985年畢業於太原工業大學（現太原理工大學）獲工學學士學位，2003年畢業於北京理工大學獲工學博士學位，2008年天津大學通信與信息系統博士後流動站出站。
現任天津商業大學研究生部主任兼學科建設辦公室主任、教授，天津大學信息與通信工程一級學科博士研究生導師。
先後兼任全國微波毫米波測試專業學會副主任，中國電子學會電路與系統分會委員，山西省通信學會常務理事，山西省通信學會學術委員會副主任，天津市通信學會高校工作委員會理事，中國電子學會高級會員，中國通信學會高級會員。
研究方向為信號檢測與處理，智能計算與信息處理。指導碩士研究生畢業86名，博士研究生8名，博士後4名。
2009年被評為天津市優秀教師，2011年被評為天津市勞動模範。
先後完成鑑定國家自然科學基金、中國博士後基金、國家863子課題等項目20餘項，在國內外學術期刊及會議上發表論文200餘篇，其中被EI等收錄100餘篇次。

目錄
第1章概述1
1.1人工神經網絡簡介1
1.1.1人工神經網絡的基本概念1
1.1.2人工神經網絡的發展史2
1.1.3神經網絡的研究內容5
1.2神經網絡的特點5
1.3神經網絡的結構6
1.4人工神經網絡的分類7
1.5人工神經網絡的學習方式9
1.6人工神經網絡的應用9
1.6.1人工神經網絡在全球氣候變化中的應用10
1.6.2人工神經網絡在控制系統中的應用10
1.6.3人工神經網絡在疾病預後研究中的應用11

第2章感知器13
2.1感知器元件14
2.1.1神經元14
2.1.2神經元參數16
2.1.3組合功能16
2.1.4激活功能16
2.1.5輸出功能18
2.1.6結論18
2.2感知器模型19
2.2.1超平面的定義19
2.2.2數據集的線性可分20
2.3感知器學習算法22
2.3.1感知器學習算法的原始形式23
2.3.2感知器學習算法的對偶形式24
2.4感知器的收斂性25
2.5感知器應用舉例25
2.5.1問題描述25
2.5.2添加權重和閾值26
2.5.3建立決策模型26
2.5.4向量化27
2.5.5神經網絡的運作過程28
2.6感知器的局限性29
2.6.1感知器能做什麼29
2.6.2感知器不能做什麼29

第3章BP神經網絡31
3.1前向傳播37
3.2反向傳播38

第4章支持向量機41
4.1問題提出41
4.2SVM問題42
4.2.1支持向量與樣本間隔42
4.2.2支持向量機形式化描述43
4.3對偶問題43
4.3.1SVM問題的對偶問題43
4.3.2對偶問題再討論44
4.3.3對偶問題求解45
4.4核函數46
4.4.1如何處理非線性可分數據46
4.4.2核函數的提出47
4.4.3幾種常見的核函數48
4.5軟間隔與正則化49
4.5.1如何處理噪聲數據49
4.5.2軟間隔支持向量機49
4.5.3軟間隔支持向量機對偶問題50
4.5.4正則化51

第5章深度學習53
5.1深度神經網絡概述53
5.2深度卷積神經網絡55
5.2.1卷積算子55
5.2.2卷積的特徵55
5.3深度卷積神經網絡的典型結構56
5.3.1基本網絡結構56
5.3.2網絡結構模式56
5.4深度卷積神經網絡的層60
5.4.1卷積層60
5.4.2池化層60
5.4.3激活層60
5.5深度卷積神經網絡在圖像識別中的應用61

第6章強化學習63
6.1強化學習概述63
6.2強化學習問題建模——馬爾可夫決策過程64
6.3強化學習算法簡介65
6.3.1基於值函數的策略學習方法65
6.3.2策略搜索算法70
6.4深度強化學習76
6.5小結79

第7章極限學習80
7.1極限學習概述80
7.2極限學習算法80
7.3極限學習的改進82
7.3.1核極限學習82
7.3.2增量型極限學習84
7.3.3深度極限學習85
7.4極限學習的應用87
7.4.1極限學習在圖像分類中的應用88
7.4.2極限學習在入侵檢測中的應用88
7.4.3極限學習在故障識別中的應用91
7.5小結91

第8章TensorFlow機器學習平台93
8.1TensorFlow起源95
8.2TensorFlow簡介95
8.3TensorFlow的特徵96
8.4TensorFlow使用對象、環境及兼容性97
8.5TensorFlow的其他模塊98
8.6安全性101

第9章神經網絡的應用102
9.1基於神經網絡的圖像處理102
9.2基於神經網絡的信號處理109
9.3基於神經網絡的模式識別109
9.4基於神經網絡的機器控制122

參考文獻126