人工智能應用實踐教程（Python實現）（慕課版）

陈景强 教学经历：担任《高级语言程序设计A》、《面向对象程序设计及C++》、《Python语言程序设计》、《Python编程及人工智能应用》教学工作；担任贝尔学院《高级语言程序设计A》课程负责人、《Python编程及人工智能应用》课程负责人。 科研经历：研究方向为自动摘要、自然语言处理、人工智能，以第一作者身份在EMNLP、FGCS等高水平国际会议和期刊上发表文章7篇，主持并结题国家自然科学基金青年基金1项，主持并结题江苏省自然科学基金青年基金1项。

第1章 人工智能與Python概述 1

1.1　人工智能的起源與發展　1

1.2　人工智能的核心概念　3

1.2.1　人工智能的三大學派　3

1.2.2　強人工智能與弱人工智能　4

1.3　人工智能的分支領域　5

1.3.1　機器學習與深度學習　5

1.3.2　人工智能的應用分支領域　7

1.4　人工智能行業應用與人才需求　9

1.4.1　人工智能行業應用舉例　9

1.4.2　人工智能人才需求　11

1.5　Python與人工智能的關系　12

1.6　Python人工智能開發環境安裝　13

1.6.1　Python的安裝和運行　13

1.6.2　人工智能開發庫的安裝　15

1.6.3　Python集成開發環境　16

1.6.4　Anaconda　18

本章小結　19

課後習題　19

第2章　Python基礎　21

2.1　基本語法　21

2.1.1　對象及其類型　21

2.1.2　變量和賦值　22

2.1.3　運算符和表達式　23

2.1.4　字符串　24

2.1.5　流程控制　26

2.2　組合數據類型　28

2.2.1　列表（list）　29

2.2.2　元組（tuple）　30

2.2.3　字典（dict）　31

2.2.4　集合（set和frozenset）　33

2.3　函數　34

2.3.1　函數的定義和調用　34

2.3.2　匿名函數與lambda關鍵字　35

2.4　異常處理和文件操作　35

2.4.1　異常處理　35

2.4.2　文件處理的一般過程　36

2.4.3　文件的寫操作　36

2.4.4　文件的讀操作　37

2.5　面向對象程序設計　37

2.5.1　類和對象　37

2.5.2　類的繼承　39

2.6　數值計算庫NumPy　39

2.6.1　NumPy多維數組　39

2.6.2　NumPy數組的索引和切片　44

2.6.3　NumPy數組的運算　45

2.6.4　NumPy數組的讀寫操作　46

2.6.5　NumPy中的數據統計與

分析　47

本章小結　49

課後習題　49

第3章　線性回歸及其Python實現　53

3.1　線性回歸問題簡介　53

3.2　單變量線性回歸問題　54

3.3　基於scikit-learn庫求解單變量線性

回歸　55

3.3.1　scikit-learn庫的LinearRegression

類說明　55

3.3.2　求解步驟與編程實現　56

3.3.3　基於scikit-learn庫的模型

評價　58

3.4　基於最小二乘法的自定義求解

單變量線性回歸　61

3.4.1　使用導數法求解　61

3.4.2　使用矩陣法求解　64

3.5　基於梯度下降法的自定義求解

單變量線性回歸　65

3.5.1　簡單二次函數的梯度下降法

求極值　65

3.5.2　批量梯度下降法　67

3.5.3　隨機梯度下降法　70

3.6　多變量線性回歸問題　71

3.6.1　基於scikit-learn庫求解　72

3.6.2　基於最小二乘法自定義求解　72

3.6.3　基於梯度下降法自定義求解　73

3.6.4　數據歸一化問題　74

3.6.5　高階擬合問題　75

本章小結　77

課後習題　77

第4章　邏輯斯蒂分類及其Python實現　79

4.1　邏輯斯蒂分類簡介　79

4.2　二分類邏輯斯蒂分類問題　81

4.3　基於scikit-learn庫求解二分類

邏輯斯蒂分類問題　83

4.3.1　scikit-learn庫的

LogisticRegression類說明　83

4.3.2　求解步驟與編程實現　84

4.4　基於梯度下降法求解二分類

邏輯斯蒂分類　86

4.4.1　確定優化目標　86

4.4.2　梯度計算　87

4.4.3　Python編程實現　88

4.5　分類模型的評價　90

4.5.1　分類模型的評價方法　90

4.5.2　正確率、精準率、召回率和

F1指數　90

4.5.3　ROC曲線　93

4.6　非線性分類問題　94

4.6.1　非線性分類問題的提出與

分析　94

4.6.2　基於scikit-learn庫的求解

實現　96

4.7　正則化問題　97

4.7.1　正則化問題的提出與分析　97

4.7.2　正則化問題的求解實現　98

4.8　多分類邏輯斯蒂分類　100

4.8.1　問題提出與分析　100

4.8.2　基於scikit-learn庫的

求解實現　101

4.8.3　基於梯度下降法的自定義

求解實現　102

本章小結　103

課後習題　103

第5章　最大熵模型及其Python實現　105

5.1　最大熵模型簡介　105

5.2　最大熵模型定義與對偶形式　106

5.2.1　最大熵模型的定義　106

5.2.2　最大熵模型的對偶形式　107

5.2.3　最大熵模型的應用舉例　109

5.2.4　最大熵模型與Softmax

分類器　111

5.3　最大熵模型的優化算法及

Python實現　111

5.3.1　通用迭代尺度算法　111

5.3.2　基於GIS算法的最大熵模型的

Python實現　112

5.3.3　改進的迭代尺度算法　115

5.3.4　基於IIS算法的最大熵模型的

Python實現　117

5.4　熵相關指標總結　119

本章小結　121

課後習題　121

第6章　K-近鄰分類與K-均值聚類及其Python實現　122

6.1　“近鄰”與分類和聚類　122

6.2　K-近鄰分類　122

6.2.1　K-近鄰分類的定義　122

6.2.2　自定義程序實現K-近鄰

分類算法　123

6.2.3　K-近鄰分類模型的3個基本

要素　125

6.2.4　基於scikit-learn庫實現K-近鄰

分類算法　126

6.2.5　K-近鄰分類算法的優缺點

分析　127

6.3　K-均值聚類　129

6.3.1　K-均值聚類算法的定義　129

6.3.2　自定義程序實現K-均值

聚類算法　130

6.3.3　基於scikit-learn庫實現K-均值

聚類算法　131

本章小結　132

課後習題　132

第7章　樸素貝葉斯分類及其Python

實現　134

7.1　貝葉斯分類簡介　134

7.2　樸素貝葉斯分類的定義、推導與

建模　135

7.2.1　定義與推導　135

7.2.2　對房屋是否好賣預測案例的

建模與計算　136

7.3　自定義程序實現樸素貝葉斯分類　138

7.3.1　建立特徵矩陣　138

7.3.2　計算先驗概率　138

7.3.3　進行預測　139

7.3.4　Python編程實現　140

7.4　基於scikit-learn庫實現樸素

貝葉斯分類　141

7.4.1　scikit-learn庫的

MultinomialNB類說明　141

7.4.2　求解步驟與編程實現　142

7.5　連續型特徵值的樸素貝葉斯分類　143

7.5.1　問題定義與分析　143

7.5.2　基於scikit-learn庫的

GaussianNB類實現　145

本章小結　145

課後習題　146

第8章　決策樹及其Python實現　148

8.1　決策樹簡介　148

8.2　ID3決策樹　149

8.2.1　ID3決策樹的基本原理　149

8.2.2　基於NumPy庫構建ID3

決策樹　150

8.2.3　用ID3決策樹實現分類　156

8.3　CART決策樹　157

8.3.1　CART決策樹的基本原理　157

8.3.2　scikit-learn庫的

DecisionTreeRegressor類介紹　158

8.3.3　基於scikit-learn庫構建

CART決策樹　159

8.3.4　用CART回歸樹實現預測　162

本章小結　163

課後習題　164

第9章　神經網絡及其Python實現　166

9.1　神經網絡簡介　166

9.2　TensorFlow　167

9.2.1　TensorFlow簡介　167

9.2.2　TensorFlow 2.0的安裝　168

9.2.3　TensorFlow 2.0的張量　168

9.2.4　TensorFlow 2.0的基本運算　169

9.2.5　TensorFlow 2.0的自動微分和

梯度計算　170

9.2.6　TensorFlow 2.0的常用模塊　171

9.3　Keras　171

9.3.1　Keras簡介　171

9.3.2　Keras的安裝　172

9.3.3　Keras的Sequential模型　172

9.3.4　Keras的Model模型　173

9.4　全連接神經網絡及其Keras實現　174

9.4.1　全連接神經網絡的基本原理　174

9.4.2　基於Keras庫構建全連接

神經網絡　176

9.4.3　基於Keras庫訓練全連接

神經網絡　179

9.4.4　用全連接神經網絡實現

圖像識別　181

9.5　全連接神經網絡的自定義程序

實現　182

9.5.1　全連接神經網絡類的定義　182

9.5.2　激活函數和損失函數的定義　183

9.5.3　全連接神經網絡模型的定義　184

9.5.4　訓練函數的定義　185

9.5.5　測試函數的定義　186

9.5.6　主函數的定義　186

9.6　捲積神經網絡及其TensorFlow

實現　187

9.6.1　捲積神經網絡的基本原理　187

9.6.2　基於TensorFlow庫構建捲積

神經網絡　189

9.6.3　基於TensorFlow庫訓練捲積

神經網絡　191

9.6.4　用捲積神經網絡實現

圖像識別　193

9.7　捲積神經網絡的AlexNet編程

實現　193

9.7.1　準備工作　194

9.7.2　AlexNet類的定義　195

9.7.3　主函數的定義　196

本章小結　196

課後習題　197

第10章　圖像識別領域的應用案例　198

10.1　圖像識別問題簡介　198

10.2　CIFAR10數據集　198

10.2.1　數據集簡介　198

10.2.2　數據預處理和加載

cifar10_reader.py　200

10.3　基於K-近鄰分類的圖像識別　203

10.3.1　問題分析　203

10.3.2　數據採樣　203

10.3.3　數據間距離計算　204

10.3.4　實現K-近鄰分類算法　206

10.3.5　用常規驗證方法選取K值　207

10.3.6　用交叉驗證法選取K值　208

10.4　基於邏輯斯蒂分類的圖像識別　210

10.4.1　自定義程序實現圖像識別　210

10.4.2　基於LogisticRegression

類實現圖像識別　211

10.5　基於最大熵模型的圖像識別　212

10.5.1　Softmax分類器　212

10.5.2　加載和預處理數據　214

10.5.3　實現圖像識別　215

10.5.4　歸一化方法的影響　217

10.6　基於樸素貝葉斯分類的圖像識別　217

10.6.1　連續型特徵值的樸素貝葉斯

圖像識別　217

10.6.2　離散型特徵值的樸素貝葉斯

圖像識別　218

10.7　基於全連接神經網絡的圖像識別　220

10.7.1　基於Keras實現全連接神經

網絡圖像識別　220

10.7.2　自定義程序實現雙層全連接

神經網絡　223

10.7.3　使用自定義TwoLayerNet

類進行圖像分類　226

10.8　基於捲積神經網絡的圖像識別　228

10.8.1　基於基礎捲積神經網絡實現

圖像識別　228

10.8.2　基於VGGNet實現圖像

識別　230

10.8.3　基於ResNet實現圖像

識別　232

本章小結　236

課後習題　236