Note1

次高斯随机变量及其性质

1)次高斯随机变量是根据其中心化的矩母函数来定义的,即

E(eλ(Xμ))eλ2σ2/2
对任意λR成立。其中σ>0称为次高斯参数。由该定义可知:

  1. 它关于X具有对称性,即若X是关于参数σ的次高斯,则X也是关于σ的次高斯。

  2. 和高斯变量类似,满足线性性质,即独立次高斯变量X1(关于σ1)和X2(关于σ2)的和仍然是次高斯(关于σ12+σ22)。如果X1X2相关,结论是否成立呢?

  3. Radmacher随机变量是关于1的次高斯变量;

  4. 有界随机变量X[a,b]是关于ba的次高斯变量;也是关于(ba)/2的次高斯随机变量,这个界更金一些。

2)根据Chernoff方法可以证明上偏差不等式和下偏差不等式为

P(Xμt)et22σ2,P(Xμt)et22σ2.
从而由union bound可以得到Concentration inequality:
P(|Xμ|t)P(Xμt)+P(Xμt)2et22σ2.

3)次高斯随机变量序列的极大值的期望不等式:假设Xi是一个均值为0的以σ为参数的次高斯序列(不要求独立),则对任意n1E(maxiXi)2σ2log(n)

证明: exp(EmaxiXi)Eexp(maxiXi)=EmaxieXiiEeXi,于是有exp(EmaxiXi)nexp(σ2/2),两边同时取对数,得到

EmaxiXilog(n)+σ2/2.