跳转至

资料

【AI学组】概率统计与随机过程复习资料

本资料由 AI 学组编写，是概率统计与随机过程课程的期末复习资料。内容涵盖概率论基础（随机事件与概率、条件概率与独立性、随机变量及其分布）、数理统计（参数估计、区间估计、假设检验）、常用分布族（正态分布、χ² 分布、t 分布、F 分布）及其统计量的构造，以及随机过程初步（泊松过程、马尔可夫链）。资料以知识点精讲配合典型例题的形式呈现，帮助把握考试重点。

【AI学组】概率统计与随机过程复习资料

【AI学组】概率统计与随机过程复习讲座讲义

本讲义是 AI 学组举办的期末复习讲座配套资料。围绕考试高频考点展开，重点讲解参数估计（矩估计与极大似然估计）、区间估计（正态总体均值和方差的置信区间）、假设检验（显著性检验的基本步骤、单/双侧检验、两类错误）以及随机过程的核心概念。讲义结构清晰，配合典型例题逐步讲解，适合在复习后期快速回顾和查漏补缺。

【AI学组】概率统计与随机过程复习讲座讲义

概率论复习课速览

  • 高频痛点：参数估计(80%)、假设检验(93%)
  • 核心分布：\(\chi^2(n),\ t(n),\ F(n,m)\) 及其构造关系
  • 正态总体三宝：
  • \(\bar X\) 与 \(S^2\) 独立
  • \(\displaystyle \frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)\)
  • \(\displaystyle \frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)\)
  • 区间估计速查（置信度 \(1-\alpha\)）：
  • 均值：\(\bar x\pm t_{\alpha/2}(n-1)\dfrac{s}{\sqrt n}\)
  • 方差：\(\displaystyle \Bigl(\frac{(n-1)s^2}{\chi^2_{\alpha/2}},\ \frac{(n-1)s^2}{\chi^2_{1-\alpha/2}}\Bigr)\)
  • 假设检验口诀：
    “均值用 \(t\)，方差用 \(\chi^2\)，双总体方差比 \(F\) 走起”
  • 随机过程两问：
  • 泊松过程间隔 \(\sim\mathrm{Exp}(\lambda)\)
  • 宽平稳 \(\Leftrightarrow\) 均值为常数且 \(R_X(\tau)\) 仅依赖时差
概率论PPT

下面是ShwStone厚颜无耻的宣传自己编写的内容的地方

假设检验

本文梳理经典假设检验的核心逻辑：
1. 以拒绝域 \(R\) 控制第一类错误概率 \(P(X\in R\mid H_0)\le\alpha\)，对第二类错误不设限。
2. 检验结论只有“拒绝 \(H_0\)”或“未能拒绝 \(H_0\)”，不存在“接受”；拒绝即支持备择假设 \(H_1\)。
3. 点值假设 \(H_0:\theta=\theta_0\) 只能作原假设，因备择无界难以控制尺寸。
4. 单侧假设 \(H_0:\theta\le\theta_0\) vs \(H_1:\theta\ge\theta_0\) 不会同时拒绝；若两单侧均未能拒绝，仅说明样本不足。
5. 贝叶斯视角视 \(P(H_0)\) 为先验，可算后验 \(P(H_0\mid X)\)，但先验需人为设定。

假设检验 (Markor)

正态分布统计量的一些问题

本文用线性代数视角重新梳理正态样本的两大核心统计量

\[ \bar{X}=\frac{1}{n}\sum_{i=1}^n X_i,\quad S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar{X})^2 \]

的分布与独立性。

  1. 把样本写成中心化多元正态
\[ \mathbf{Z}=(Z_1,\dots,Z_n)^{\mathsf T},\quad Z_i=\frac{X_i-\mu}{\sigma}\sim N(0,1), \]

其协方差阵为单位阵\(I_n\)。

  1. 证明\(\bar{X}\)与\(S^2\)独立：
  2. \(\bar{X}\)仅依赖全1方向\(u=(1,\dots,1)^{\mathsf T}\)；

  3. \(S^2\)可写成正交补空间上的二次型

    \[ \frac{(n-1)S^2}{\sigma^2}=\mathbf{Z}^{\mathsf T}(I_n-\tfrac{1}{n}uu^{\mathsf T})\mathbf{Z}. \]

因投影矩阵\(I_n-\tfrac{1}{n}uu^{\mathsf T}\)的零空间恰为\(u\)，故两统计量正交投影互补，在多元正态下即独立。

  1. 分布结果：
\[ \frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1),\quad \frac{\bar{X}-\mu}{S/\sqrt{n}}\sim t(n-1). \]

全文以特征值分解与二次型几何为核心，澄清了“为何分子分母独立”这一常见疑惑，并顺带揭示主成分分析与正态等高椭圆的内在联系。

正态分布统计量的一些问题 (Markor)

样本方差vs样本中心矩

对正态样本 \(X_1,\dots,X_n\)，最大似然估计（MLE）把均值与方差同时视为待估参数。
- 均值 MLE：\(\hat\mu_{\text{MLE}}=\bar X\)，即样本一阶原点矩。
- 方差 MLE：\(\hat\sigma^2_{\text{MLE}}=\frac1n\sum_{i=1}^n(X_i-\bar X)^2\)，即样本二阶中心矩。

MLE 通过最大化似然函数 \(L(\mu,\sigma^2)\) 得到，不保证无偏，但具有一致性与渐近有效性。
无偏方差估计 \(\hat\sigma^2_{\text{unbiased}}=\frac1{n-1}\sum_{i=1}^n(X_i-\bar X)^2\) 虽消除偏差，却非 MLE。

选择依据：
- 小样本或强调无偏 → 用 \(n-1\) 修正；
- 大样本、关注效率与计算简便 → 保留 MLE（样本中心矩）。

样本方差vs样本中心矩 (Markor)