增強深度神經網絡 Strengthening Deep Neural Networks

Katy Warr

專攻人工智能和數據分析。
她此前有多年企業軟件架構設計和開發經驗。
她擁有愛丁堡大學人工智能和計算機科學學位

目錄
前言
第1部分人工智能騙術簡介
第1章簡介
深度學
深度學
人工智能“視錯覺”：驚人的
什麼是“對抗性輸入”？
對抗性擾動
不自然的對抗性輸入
對抗性補丁
物理的對抗性樣例
更廣闊的領域：“對抗機器學br/>對抗性輸入的啟示

第2章攻擊動機
繞過Web過濾器
線上聲譽和品牌管理
偽裝自己，逃避監控
保護個人在線上的隱私
迷惑自動駕駛車輛
語音控制型設備

第3章深度神經網絡基礎
機器學r/>深度學概念
深度神經網絡模型作為數學函數
深度神經網絡的輸入和輸出
深度神經網絡的內部和前饋處理
深度神經網絡如何學r/>創建一個簡單的圖像分類器

第4章用深度神經網絡處理圖像、音頻和
圖像
圖像的數字表示
圖像處理深度神經網絡
卷積神經網絡簡介
音頻
音頻的數字化表示
音頻處理深度神經網絡
循環神經網絡簡介
語音處理

的數字化表示
處理深度神經網絡
對抗性思考
利用ResNet50網絡為圖像分類

第2部分生成對抗性輸入
第5章對抗性輸入的原理
輸入空間
從訓練數據泛化
用OoD數據做實驗
深度神經網絡在想什麼？
擾動攻擊：化改動，化影響
對抗性補丁：化分散注意力
度量可檢測性
度量擾動的一種數學方法
考慮人的感知
小結

第6章對抗性擾動的生成方法
白盒方法
搜索輸入空間
利用模型的線性性質
對抗顯著，陛
增加對抗置信度
白盒方法的變體
有限黑盒方法
基於分數的黑盒方法
小結

第3部分理解真實的威脅
第7章真實的攻擊模式
攻擊模式
直接攻擊
品攻擊
遷移攻擊
通用遷移攻擊
可複用補丁和可複用擾動
整合起來：混合方法和折中處理

第8章物理攻擊
對抗性物體
對抗性物作和攝像機性能
視角和環境
對抗性聲音
音頻复現和麥克風性能
音頻位置和環境
在物理創建對抗性樣例的可行性
第4部分防禦
第9章評估模型對對抗性輸入的健壯性
對抗性的目的、能力、約束和知識
目的
能力、知識和對系統的掌控權
模型評估
實證型健壯性度量標準
理論型健壯性度量標準
小結

第10章防禦對抗性輸入
模型
梯度遮罩
對抗性訓練
應對OoD，置信度納入訓練
隨機失活不確定的度量值
數據預處理
大型處理鏈中的預處理
智能移除對抗性內容
隱藏目標
構建對抗性輸入的強大防禦機制
開源項目
全局視角

第11章未來趨勢：面向更健壯的人工智能係統
用輪廓識別增加健壯性
多感官輸入
物體的構成和層級
寫在最後
附錄A數學術語參考
作者介紹
封面介紹