現代推薦算法

趙致辰
本碩畢業於清華大學電子工程系。
主要研究方向包括動作識別、人臉識別、廣告和推薦中的排序模型及冷啟動問題等，發表相關學術領域論文7篇。
曾從事移動端人臉識別工作，開發的紅外人臉識別算法應用於國內多款手機；
在推薦領域，提出的“POSO”模型在用戶冷啟動問題上取得突破性收益，已經在業界廣泛應用，
國內外多家公司與產品如TikTok、快手、Meta等都在以POSO為原型探索冷啟動模型。

目錄
總覽篇
第1章推薦系統概述
1.1 推薦系統是什麼
1.2 推薦系統發展的天時、地利、人和
1.2.1 天時
1.2.2 地利
1.2.3 人和
第2章現代推薦鏈路
2.1 召回、粗排、精排——各有所長
2.2 召回、粗排、精排——級聯漏斗
2.3 打壓、保送、重排——拍不完的腦袋
模型篇
第3章精排之鋒
3.1 簡單“复讀機”——邏輯回歸模型
3.2 工業邏輯回歸模型的稀疏性要求
3.3 FM的一小步，泛化的一大步
3.4 多彩的FNN/PNN/ONN/NFM世界
3.5 高階交叉
3.6 工具人GBDT
3.7 嵌入表示亦福亦禍，樹模型的新機遇
3.8 DNN與兩大門派，“一念神魔”與功不唐捐
3.9 再論特徵與嵌入生成
3.10 機器學習唯一指定王牌技術——注意力機制
3.11 注意力機制的幾種寫法
3.12 Transformer的升維打擊
第4章粗排之柔
4.1 粗排存在與否的必要性
4.2 粗排複雜化的方法
4.3 Pair-wise與List-wise
第5章召回之厚
5.1 u2i之雙塔進擊史
5.2 i2i及u2u2i方案
5.3 近似搜索概覽
5.3.1 向量量化類方法
5.3.2 基於圖的搜索
5.4 樹模型與類樹模型的衝擊
第6章模型迭代的術與道
6.1 什麼是“老湯模型”
6.2 模型迭代的“術”
6.3 模型迭代的“道”
前沿篇
第7章用戶興趣建模
7.1 從百到萬的用戶長期興趣建模
7.1.1 從百到千
7.1.2 從千到萬
7.2 用戶多峰興趣建模
第8章多任務學習
8.1 多任務學習的實踐意義
8.2 多任務學習的基本框架
8.3 平行關係建模———MMoE類方法
8.4 非平行關係建模，任務間的因果
第9章非梯度場景
9.1 線上與線下的鴻溝
9.2 弱個性化CEM，強個性化強化學習
9.3 探微參數與性能的關係，把點連成面
第10章探索與利用
10.1 為什麼要探索與利用
10.2 探索的本質是巧妙“貪心”
第11章後精排環節
11.1 定義多樣性問題，簡單的形式與復雜的標準
11.2 DPP算法與多樣性
11.3 考慮上下文的重排序
第12章推薦中的偏差與消除
12.1 各種各樣的偏差
12.2 流行度偏差的消除
12.3 位置偏差的消除
第13章自動機器學習技術
13.1 網絡結構搜索與網絡微操的探索
13.2 特徵的搜索
13.3 模型壓縮
第14章圖計算
14.1 數據結構的終極
14.2 GNN的極簡發展史
14.3 物料非原子化，建模轉向圖
難點篇
第15章延遲轉化
15.1 轉化與廣告機制
15.2 轉化的分解
15.3 其他角度
第16章物料冷啟動
16.1 “多模態之石，可以攻玉”
16.2 預排序向左，個性化向右
16.3 流量分配，“普度眾生”還是“造神”
第17章用戶冷啟動
17.1 元學習，對模型拔高的要求
17.2 初始化的基底分解與生成
17.3 POSO，首個從結構角度改善用戶冷啟動的模型
17.4 精品池：抓住人性需求
第18章因果推斷
18.1 當分佈不夠用時
18.2 尋找“工具人”，將因果推斷直接應用於推薦
第19章長尾優化
決策篇
第20章流量
20.1 重新認識流量
20.1.1 流量區分快慢
20.1.2 流量區分成本高低
20.1.3 流量是盲目的
20.1.4 流量是有“圈子”的
20.2 時間的研究
第21章分層
21.1 你必須理解的物料生命週期
21.2 你必須理解的用戶分層
21.3 三階段讓用戶為我“死心塌地”
第22章實驗現象與回收
22.1 決策上線的黃金法則
22.2 “臨門一腳”，結果真的置信了嗎
22.3 不萬能的A/B實驗和難以歸因的反轉
22.4 線上和線下的對齊——無窮逼近
後記
參考文獻