《机器学习：算法视角（原书第2版）》 —2.4.3　高斯分布

2.4.3　高斯分布

最有名的概率分布（实际上，许多人知道甚至需要知道的唯一一个）是高斯（Gaussian）分布或正态分布（normal distribution）。在一维空间中，它具有图2-14所示的熟悉的“钟形”曲线，其一维方程为：　图2-14　一维高斯曲线p(x)=12πσexp-(x-μ)22σ2(2.26)其中μ是均值，σ是标准差。由于中心极限定理，高斯分布出现了许多问题，中心极限定理表明许多小的随机数加起来为高斯。在高维空间它看起来像：p(x)=1(2π)d2Σ12exp-12(x-μ)TΣ-1(x-μ)

(2.27)其中Σ是n×n的协方差矩阵（Σ是它的行列式，Σ-1是它的逆）。图2-15显示了二维空间下三种不同情况：当协方差矩阵是单位方阵时；当只有矩阵的主对角线有数字时；一般情况。第一种情况称为球面协方差矩阵，只有1个参数。第二种和第三种情况在二维中为椭圆，或者与轴（具有n个参数）对齐，或者更一般地，与n2个参数对齐。

图2-15　二维高斯分布（左）协方差矩阵是单位矩阵，（中心）协方差矩阵

只有主对角线上具有元素，（右）一般情况