AI摘要：

这篇文章深入介绍了概率论的基础数学知识。主要内容包括期望、二阶原点矩、二阶中心矩（方差）等基本概念，以及随机变量表示、高斯分布（正态分布）及其性质、二维分布函数和概率密度、边缘分布、条件分布等内容。文章还涉及内积、协方差与相关系数，强调了正交与不相关的概念，阐述了独立事件的条件，引入了联合高斯分布的概念。此外，复随机变量和复高斯随机变量的相关概念也被详细探讨。整体而言，文章系统性地介绍了概率论中的数学基础，并深入讨论了各个概念之间的关联，为深入理解概率论打下了坚实的基础。

概率论基础

  • 期望

    $$ E[X]=\sum_{i} p_i x_i \quad E[X]=\int_{-\infty}^{\infty} xf(x)\, {\rm d}x $$

  • 二阶原点矩

    $$ E[X^2] $$

  • 二阶中心矩（方差）

    $$ Var(X)=E[(X-E[X])^2]=E[X^2]-(E[X])^2=D(X) $$

  • 一切随机变量都可以表示成一个零均值随机变量叠加一个确定量

  • 高斯分布（正态分布）

    $$ p_X(x)=\frac{1}{\sqrt{2\pi \sigma ^2}}e^{-\frac{(x-a)^2}{2\sigma ^2}} $$

    $$ E(X)=a \quad Var(X)=E[(x-a)^2]=\sigma ^2 $$

    $$ erfc(x)=\frac{2}{\sqrt{\pi }}\int_{x}^{\infty} e^{-t^2}\, {\rm d}t \quad 对应 X\thicksim \mathcal{N}(0,1/2) $$

    $$ Q(x)=\frac{1}{\sqrt{2\pi }}\int_{x}^{\infty} e^{-t^2/2}\, {\rm d}t \quad 对应 X\thicksim \mathcal{N}(0,1) $$

  • 二维分布函数

    $$ F_{X,Y}(x,y)=Pr\{X\leq x,Y \leq y\} = \int_{-\infty}^{x} \int_{-\infty}^{y} p_{XY}(x,y)\, {\rm d}y\, {\rm d}x $$

  • 二维概率密度

    $$ p_{XY}(x,y)=\frac{\partial F_{X,Y}(x,y)}{\partial x \partial y} $$

  • 边缘分布

    $$ p_x(x)=\int_{-\infty}^{\infty} p_{XY}(x,y)\, {\rm d}y $$

  • 条件分布

    $$ p_{X|Y}(x|y)=\frac{p_{XY}(x,y)}{p_Y(y)} $$

  • 内积

    $$ \left \langle X,Y \right \rangle = E[XY] $$

  • 协方差与相关系数

    $$ Cov(X,Y)=E[(X-E[X])(Y-E[Y])]=E[XY]-E[X]E[Y] $$

    $$ r_{XY}=E[\tilde{X}\tilde{Y}]=\frac{Cov(X,Y)}{\sqrt{Var(X)Var(Y)}} \quad 均值归零方差归一 $$

    $$ 两个零均值随机变量：r_{XY}=\frac{E[XY]}{\sqrt{E[X^2]E[Y^2]}} $$

  • 内积为0：正交；协方差为0：不相关。两个不相关随机变量有：

    $$ Var(X+Y)=Var(X)+Var(Y) $$

  • 两事件独立：条件概率等于无条件概率，联合概率等于各自概率之积
  • 联合高斯：若$X_1, X_2, ⋯, X_n$的一切线性组合都服从高斯分布，则称$X_1, X_2, ⋯, X_n$服从联合高斯分布。

  • 复随机变量：将样本映射到复数

    $$ Z=X+j·Y $$

    $$ E[Z]=E[X]+j·E[Y] $$

    $$ E[|Z|^2]=E[|X|^2]+E[|Y|^2] $$

    $$ Var(Z)=Var(X)+Var(Y) $$

    $$ \left \langle Z_1,Z_2 \right \rangle = E[Z_1Z_2^*] $$

    $$ Cov(Z_1,Z_2)=E[(Z_1-E[Z_1])(Z_2-E[Z_2])^*] $$

  • 复高斯随机变量的实部和虚部服从联合高斯分布
文章目录