第二章：随机变量.pptVIP

第二章：随机变量 上节课内容 概率理论 概率公理及推论 随机事件之间的关系：条件概率、独立/条件独立、贝叶斯公式 本节课内容 随机变量及其分布 随机变量变换 常见分布族 多元随机向量的分布 联合分布、边缘分布、条件分布、独立 随机变量 统计推断是与数据相关的。随机变量就是将样本空间/随机事件与数据之间联系起来的纽带 随机变量是一个映射 ，将一个实数值 赋给一个试验的每一个输出 例2.2：抛10次硬币，令X(ω)表示序列ω中正面向上的次数，如当 ω = HHTHHTHHTT，则 X(ω) = 6。 随机变量的概率描述 事件的概率 ? 随机变量的概率描述 给定一随机变量X及实数子集A，定义 例2.4：抛2次硬币，令X表示正面向上的次数，则 随机变量的分布函数 随机变量X的累积分布函数 (cumulative distribution function, CDF) 定义为 CDF是一个非常有用的函数：包含了随机变量的所有信息。 CDF的性质：略 （见书） 例：随机变量的CDF 例2.6：公正地抛硬币2次，令X表示正面向上的次数，则 CDF 右连续、非减函数 对所有实数x都有定义 虽然随机变量只取0、1、2 离散型随机变量的概率函数 离散型随机变量的概率函数 (probability function or probability mass function, pmf)定义为 对所有的 CDF与pmf之间的关系为： 例：离散型随机变量的pmf 例2.10：公正地抛硬币2次，令X表示正面向上的次数，则 概率函数为： 连续型随机变量的概率（密度）函数 对连续型随机变量X，如果存在一个函数 ，使得对所有的x， ，且对任意 有 则函数 被称为概率密度函数 (probability density function, pdf)。 CDF与pdf之间的关系： 在所有 可微的点x，则 例：连续型随机变量的CDF和pmf 例2.12：设X有PDF: 显然有 有该密度的随机变量为(0,1)上的均匀分布：Uniform(0, 1)，即在0和1之间随机选择一个点。 其CDF为： 分位函数 (quantile function) 令随机变量X的CDF为F，CDF的反函数或分位函数(quantile function)定义为 其中 。若F严格递增并且连续，则 为一个唯一确定的实数x，使得 。 为增函数 中值(median)： 一个很有用的统计量，对噪声比较鲁棒 随机变量的变换 X：老的随机变量， Y：新的随机变量， 离散： 离散型随机变量的变换 例2.45：假设 Y的取值比X少，因为该变换不是一一映射。 连续型随机变量的变换 CDF方法 变换的三个步骤 对每个y，计算集合 计算CDF PDF为 连续型随机变量的变换 当r为单调增函数/减函数，定义r的反函数 ，则 当X、Y存在一一映射时，上述结论仍可用—Jacobian方法 分区间：在每个 区间内为单调函数，可分区间利用上述结论 例：连续型随机变量的变换 例2.46： 则 令 则 或直接用Jacobian方法 例：连续型随机变量的变换 例：[概率积分变换] X有连续CDF ，定义随机变量Y为 ，则Y为[0,1]上的均匀分布，即 对随机数产生特别有用（Chp2第15题） 常见分布族 离散型随机变量 [Ch2, p25] 均匀(Uniform)分布 贝努利(Bernoulli)分布 二项(Binnomial)分布 超几何(HyperGeometric)分布 几何(Geometric)分布 泊松(Possion)分布 连续型随机变量 [Ch2, p27] 均匀(Uniform)分布 正态(Normal)分布 Gamma分布 Beta分布 分布 指数(Exponential)分布 常见分布族 每个分布族 pdf/pmf形式 参数 典型应用 均值、方差 正态分布 亦称高斯分布， : 位置（location）参数 : 尺度（scale）参数 如图像处理中的多尺度分析 正态分布 最重要的分布之一 在实际遇到的许多随机现象都服从或近似服从正态分布 如考试成绩 中心极限定理：随机样本的均值近似服从正态分布 对任意IID样