方差|极客教程

方差（英语：Variance），应用数学里的专有名词。在概率论和统计学中，一个随机变量的方差描述的是它的离散程度，也就是该变量离其期望值的距离。一个实随机变量的方差也称为它的二阶矩或二阶中心动差，恰巧也是它的二阶累积量。这里把复杂说白了，就是将各个误差将之平方（而非取绝对值，使之肯定为正数），相加之后再除以总数，透过这样的方式来算出各个数据分布、零散（相对中心点）的程度。继续延伸的话，方差的正平方根称为该随机变量的标准差（此为相对各个数据点间）。

方差定义

设X为服从分布F的随机变量，如果E[X]是随机变数X的期望值（平均数μ=E[X]）
随机变量X或者分布F的方差为：

$\operatorname{Var}(X) = \operatorname{E}\left[(X – \mu)^2 \right]$
这个定义涵盖了连续、离散、或两者都有的随机变量。方差亦可当作是随机变量与自己本身的协方差：

$\operatorname{Var}(X) = \operatorname{Cov}(X, X)$
方差典型的标记有Var(X), $\scriptstyle\sigma_X^2$ ,　或是 $\sigma^{2}$ ，其表示式可展开成为：

$\operatorname{Var}(X)= \operatorname{E}\left[X^2 – 2X\operatorname{E}[X] + (\operatorname{E}[X])^2\right] = \operatorname{E}\left[X^2\right] – 2\operatorname{E}[X]\operatorname{E}[X] + (\operatorname{E}[X])^2 = \operatorname{E}\left[X^2 \right] – (\operatorname{E}[X])^2$
上述的表示式可记为”平方的期望减掉期望的平方”。

离散随机变量

如果随机变量X是具有概率质量函数的离散概率分布 $x_1 \mapsto p_1, \dots, x_n \mapsto p_n$ ，则：

$\operatorname{Var}(X) = \sum_{i=1}^n p_i\cdot(x_i – \mu)^2 = \sum_{i=1}^n (p_i\cdot x_i^2) – \mu^2$
此处 $\mu$ 是其期望值, i.e.

$mu = \sum_{i=1}^n p_i\cdot x_i$ .
当X为有N个相等概率值的平均分布：
$\operatorname{Var}(X) = \sigma^{2} =\frac{1}{N} \sum_{i=1}^N (x_i – \mu)^2 = \frac{1}{N} \left(\sum_{i=1}^N x_i^2 – N\mu^2 \right)$

N个相等概率值的方差亦可以点对点间的方变量表示为：

${Var}(X) = \frac{1}{N^2} \sum_{i=1}^N \sum_{j=1}^N \frac{1}{2}(x_i – x_j)^2$

连续型随机变量

如果随机变量X是连续分布，并对应至概率密度函数f(x)，则其方差为：
${Var}(X) =\sigma^2 =\int (x-\mu)^2 f(x) dx\, =\int x^2 f(x) dx- \mu^2$
此处 $\mu$ 是一期望值，

$\mu = \int x f(x) dx$ ,
且此处的积分为以X为范围的x定积分（definite integral）
如果一个连续分布不存在期望值，如柯西分布（Cauchy distribution），也就不会有方差（不予定义）。

方差特性

方差不会是负的，因为次方计算为正的或为零：

$\operatorname{Var}(X)\ge 0$
一个常数随机变量的方差为零，且当一个资料集的方差为零时，其内所有项目皆为相同数值：

$P(X=a) = 1\Leftrightarrow \operatorname{Var}(X)= 0$
方差不变于定位参数的变动。也就是说，如果一个常数被加至一个数列中的所有变量值，此数列的方差不会改变：

$\operatorname {Var} (X+a)=\operatorname {Var} (X).$
如果所有数值被放大一个常数倍，方差会放大此常数的平方倍：

$\operatorname{Var}(aX)=a^2\operatorname{Var}(X)$
两个随机变量合的方差为：

$\operatorname{Var}(aX+bY)=a^2\operatorname{Var}(X)+b^2\operatorname{Var}(Y)+2ab\, \operatorname{Cov}(X,Y),$

$\operatorname{Var}(X-Y)=\operatorname{Var}(X)+\operatorname{Var}(Y)-2\, \operatorname{Cov}(X,Y)$ ,
此数Cov(., .)代表协方差。

对于N个随机变量 ${X_1,\dots,X_N}$ 的总和：

$\operatorname{Var}\left(\sum_{i=1}^N X_i\right)=\sum_{i,j=1}^N\operatorname{Cov}(X_i,X_j)=\sum_{i=1}^N\operatorname{Var}(X_i)+\sum_{i\ne j}\operatorname{Cov}(X_i,X_j)$
在样本空间Ω上存在有限期望和方差的随机变量构成一个希尔伯特空间： $L^2（Ω, dP）$ ，不过这里的内积和长度跟协方差，标准差还是不大一样。所以，我们得把这个空间“除”常变量构成的子空间，也就是说把相差一个常数的所有原来那个空间的随机变量做成一个等价类。这还是一个新的无穷维线性空间，并且有一个从旧空间内积诱导出来的新内积，而这个内积就是协方差。