目錄
《大數(shù)據(jù)與數(shù)據(jù)科學(xué)專著系列》序
前言
第1章 經(jīng)典極限理論 1
1.1 基本概念 1
1.1.1 概率空間 1
1.1.2 條件概率 3
1.1.3 獨(dú)立性 3
1.1.4 隨機(jī)變量及其分布 4
1.1.5 二維隨機(jī)向量 6
1.1.6 多維隨機(jī)向量 8
1.1.7 數(shù)學(xué)期望 9
1.1.8 方差 11
1.1.9 協(xié)方差 12
1.1.10 條件期望 13
1.1.11 特征函數(shù) 13
1.1.12 矩量法 14
1.1.13 隨機(jī)變量的收斂 15
1.1.14 經(jīng)典極限定理 18
1.2 大數(shù)定律 18
1.3 中心極限定理 21
1.3.1 常用證明方法 22
1.3.2 Berry-Esséen界 23
1.3.3 Cramér中偏差 25
1.3.4 Edgeworth展開 25
1.4 弱不變原理 26
1.5 強(qiáng)不變原理 30
1.6 附注 31
1.7 習(xí)題 33
第2章 相依序列極限定理 39
2.1 相依隨機(jī)序列 39
2.1.1 鞅 39
2.1.2 平穩(wěn)序列 41
2.1.3 Markov鏈 41
2.2 平穩(wěn)隨機(jī)序列遍歷性 43
2.2.1 均值遍歷性 44
2.2.2 強(qiáng)遍歷性 47
2.3 鞅中心極限定理 49
2.3.1 平穩(wěn)鞅差序列 49
2.3.2 鞅差組列 51
2.4 鞅逼近方法 51
2.5 Markov鏈中心極限定理 60
2.6 線性過程中心極限定理 68
2.7 應(yīng)用 74
2.8 附注 78
2.9 習(xí)題 80
第3章 Stein方法 82
3.1 Stein引理和Stein方程 82
3.2 獨(dú)立隨機(jī)變量的部分和 86
3.3 非線性統(tǒng)計(jì)量 94
3.3.1 非線性統(tǒng)計(jì)量的Berry-Esséen界 94
3.3.2 U-統(tǒng)計(jì)量 99
3.4 可交換對 100
3.4.1 基本概念和性質(zhì) 101
3.4.2 L1界 102
3.4.3 Berry-Esséen界 111
3.5 非正態(tài)逼近 115
3.5.1 L1界 117
3.5.2 Berry-Esséen界 118
3.5.3 應(yīng)用：Curie-Weiss模型 119
3.6 附注 122
3.7 習(xí)題 123
第4章 自正則化極限理論 128
4.1 依分布收斂 128
4.1.1 獨(dú)立同分布情形 129
4.1.2 獨(dú)立非同分布情形 132
4.2 Berry-Esséen界 132
4.3 自正則化大偏差定理 135
4.4 自正則化中偏差定理 141
4.5 Cramér型中偏差定理 146
4.6 附注 152
4.7 習(xí)題 153
第5章 高維協(xié)方差矩陣 155
5.1 經(jīng)典多元統(tǒng)計(jì)分析理論 155
5.1.1 主成分分析 157
5.1.2 無線性分布 158
5.2 經(jīng)驗(yàn)譜分布 160
5.2.1 Mar？enko-Pastur分布 161
5.2.2 Stieltjes變換 162
5.2.3 經(jīng)驗(yàn)譜極限分布 165
5.3 線性特征根統(tǒng)計(jì)量的中心極限定理 168
5.4 極值特征根的漸近分布 174
5.4.1 極值特征根的幾乎必然收斂性 174
5.4.2 Tracy-Widom分布 177
5.4.3 極值特征根的漸近分布 182
5.5 有限秩擾動 184
5.6 附注 187
5.7 習(xí)題 192
第6章 隨機(jī)梯度下降法 197
6.1 強(qiáng)凸函數(shù)優(yōu)化 198
6.1.1 凸函數(shù)和強(qiáng)凸函數(shù) 198
6.1.2 簡單隨機(jī)梯度下降法 202
6.2 隨機(jī)逼近的收斂性 207
6.2.1 線性方程組求解 207
6.2.2 非線性問題求解 212
6.2.3 最小均方算法 214
6.3 非凸函數(shù)優(yōu)化 215
6.4 附注 222
6.5 習(xí)題 225
第7章 隨機(jī)復(fù)雜網(wǎng)絡(luò) 228
7.1 圖的基本概念 228
7.2 Erd？s-Rényi隨機(jī)圖 230
7.2.1 ER 隨機(jī)圖的演化和相變 232
7.2.2 ER 隨機(jī)圖頂點(diǎn)度的分布 237
7.3 偏好依附模型 241
7.4 復(fù)制模型 249
7.4.1 頂點(diǎn)的估計(jì) 251
7.4.2 頂點(diǎn)度的估計(jì) 253
7.5 譜半徑 254
7.6 半圓律 256
7.7 區(qū)塊檢測 260
7.8 附注 262
7.9 習(xí)題 264
第8章 分布式參數(shù)統(tǒng)計(jì)推斷 267
8.1 分布式一步估計(jì)法 268
8.1.1 線性平均估計(jì) 268
8.1.2 中位數(shù)估計(jì) 270
8.2 指數(shù)型分布族分布式參數(shù)估計(jì) 278
8.3 Newton-Raphson迭代法 285
8.3.1 分布式估計(jì)Newton型迭代法 285
8.3.2 分布式估計(jì)Newton型迭代法 288
8.4 加權(quán)分布式估計(jì) 298
8.5 附注 302
8.6 習(xí)題 304
第9章 Gauss逼近 310
9.1 Gauss 隨機(jī)向量部分量的最大值 319
9.2 獨(dú)立隨機(jī)向量部分和的最大分量 324
9.2.1 條件獨(dú)立分布逼近 324
9.2.2 強(qiáng)逼近 326
9.3 經(jīng)驗(yàn)過程Gauss逼近 329
9.4 應(yīng)用 334
9.4.1 局部經(jīng)驗(yàn)過程 334
9.4.2 輪廓經(jīng)驗(yàn)過程 335
9.4.3 非Gauss模型的Dantzig選擇 337
9.4.4 偽發(fā)現(xiàn)選擇 340
9.5 附注 343
9.6 習(xí)題 348
附錄 常用概率不等式 353
A 基本概率不等式 353
B 獨(dú)立隨機(jī)變量部分和的概率不等式 355
C 鞅不等式 357
D 其他不等式 359
參考文獻(xiàn) 363
《大數(shù)據(jù)與數(shù)據(jù)科學(xué)專著系列》已出版書目 375