一、随机变量与分布律
1. 随机变量
称满足可测性条件的实值函数
常见的有离散型(Discrete Random Variable)和连续型(Continuous Random Variable)随机变量。
这两类并不涵盖所有随机变量,例如还有混合型。
2. 离散型随机变量的分布律
其中
二、期望、方差与标准差
1. 期望
离散型随机变量的期望:
性质:
。 。 。 (线性)。 - 对有限个随机变量,有
期望的线性性质不要求相互独立,对离散型和连续型都成立。
2. 方差
方差记为
记
性质:
。 。 。
3. 标准差
标准差记为
三、协方差、互斥、独立与不相关
1. 协方差与相关系数
协方差用来描述两个随机变量共同变化的方向:
:正相关,整体上有同向变化的倾向。 :负相关,整体上有反向变化的倾向。 :不相关,但仍可能存在非线性依赖。
协方差的大小受单位影响。当
其取值范围为
与方差的关系:
因此,
即
2. 互斥
互斥描述的是事件。若
3. 独立
事件的独立:
事件
当
随机变量的独立:
随机变量
对离散型随机变量,这等价于对所有可能取值
4. 它们之间的关系
- 互斥与独立:若
、 ,且 互斥,则它们一定不独立。若互斥事件中至少有一个概率为 ,则它们也满足独立的定义。 - 独立推出不相关:在二阶矩有限的前提下,独立可推出
,从而 。 - 不相关不能反推独立:不相关只排除了以协方差衡量的线性相关,不能排除其他依赖关系。
例如,令
所以
两者不相等,故
四、常见离散型分布
1. 0–1 分布
其中
分布律:
期望与方差:
2. 二项分布
其中
分布律:
对于
其中
当
令
期望与方差:
最可能取值
求使
当
当
可知概率随
且
- 若
不是整数,则唯一的最可能取值为 。 - 若
为整数,则有两个最可能取值: 和 。
3. 几何分布
在相互独立、每次成功概率均为
分布律:
其中
期望与方差:
当
4. 负二项分布
其中
在相互独立、每次成功概率均为
分布律:
其中
令
期望与方差:
当
5. 泊松分布
其中
分布律:
其中
期望与方差:
利用指数函数的级数展开,可得
泊松分布的可加性
若
五、连续型随机变量与概率密度
1. 连续型随机变量
定义: 设
则称
这里的连续型是指分布具有概率密度,不能仅凭"取值可以是某个区间内的一切实数"判断。
2. 概率密度的直观含义
若
因此,
即概率密度近似等于"附近区间的概率 ÷ 区间长度",描述随机变量在某个位置附近出现的相对集中程度。
注意:
3. 概率密度的性质
设
(1)非负性
(2)概率由面积表示
更一般地,对任意 Borel 集
(3)总面积为
(4)单点概率为
由此可得,连续型随机变量落在某个区间内的概率,与区间端点的开闭无关:
六、常见连续型分布
1. 均匀分布
设
则称
直观理解:
区间内每个点的密度相同。对于
概率正比于区间长度,因此等长子区间具有相同的概率。
适用情形:
- 在给定有限区间内,按长度均匀地随机取值。
- 几何概率问题,例如按长度、面积或体积均匀取点。
- 随机模拟与蒙特卡洛方法。
2. 指数分布
设
则称
其中
区间概率与尾概率
对
对
适用情形:
指数分布常用来描述等待时间或寿命。例如,在发生率恒定的齐次泊松过程中,相邻两次事件之间的等待时间服从指数分布。
无记忆性
若
在非负、非退化的连续型随机变量分布中,指数分布是唯一具有无记忆性的分布。
最小值分布
设
则
特别地,当所有
3. 正态分布
设
则称
其中
常见建模情形:
- 数据受大量微小、独立因素影响。
- 分布大致对称,中间多、两头少。
- 极端值较少,但仍可能出现。
- 在独立同分布且方差有限等条件下,样本量足够大时,样本均值近似正态。
- 测量误差、自然波动、随机噪声等。
密度曲线的性质
- 曲线关于
对称,在 时递增,在 时递减。 - 当
时,密度取得最大值 。 - 当
时, 。 - 曲线在
处有拐点。 - 固定
、改变 时,图形形状不变,只沿横轴平移。 - 固定
、改变 时,对称轴不变。 越小,图形越高越窄; 越大,图形越低越宽。
标准正态分布
若
则称
其分布函数记为
由对称性,
对
例: 求
标准正态分布表
下表给出
行表示整数位与十分位,列表示百分位。例如,查
| 0.00 | 0.01 | 0.02 | 0.03 | 0.04 | 0.05 | 0.06 | 0.07 | 0.08 | 0.09 | |
|---|---|---|---|---|---|---|---|---|---|---|
| 0.0 | 0.5000 | 0.5040 | 0.5080 | 0.5120 | 0.5160 | 0.5199 | 0.5239 | 0.5279 | 0.5319 | 0.5359 |
| 0.1 | 0.5398 | 0.5438 | 0.5478 | 0.5517 | 0.5557 | 0.5596 | 0.5636 | 0.5675 | 0.5714 | 0.5753 |
| 0.2 | 0.5793 | 0.5832 | 0.5871 | 0.5910 | 0.5948 | 0.5987 | 0.6026 | 0.6064 | 0.6103 | 0.6141 |
| 0.3 | 0.6179 | 0.6217 | 0.6255 | 0.6293 | 0.6331 | 0.6368 | 0.6406 | 0.6443 | 0.6480 | 0.6517 |
| 0.4 | 0.6554 | 0.6591 | 0.6628 | 0.6664 | 0.6700 | 0.6736 | 0.6772 | 0.6808 | 0.6844 | 0.6879 |
| 0.5 | 0.6915 | 0.6950 | 0.6985 | 0.7019 | 0.7054 | 0.7088 | 0.7123 | 0.7157 | 0.7190 | 0.7224 |
| 0.6 | 0.7257 | 0.7291 | 0.7324 | 0.7357 | 0.7389 | 0.7422 | 0.7454 | 0.7486 | 0.7517 | 0.7549 |
| 0.7 | 0.7580 | 0.7611 | 0.7642 | 0.7673 | 0.7704 | 0.7734 | 0.7764 | 0.7794 | 0.7823 | 0.7852 |
| 0.8 | 0.7881 | 0.7910 | 0.7939 | 0.7967 | 0.7995 | 0.8023 | 0.8051 | 0.8078 | 0.8106 | 0.8133 |
| 0.9 | 0.8159 | 0.8186 | 0.8212 | 0.8238 | 0.8264 | 0.8289 | 0.8315 | 0.8340 | 0.8365 | 0.8389 |
| 1.0 | 0.8413 | 0.8438 | 0.8461 | 0.8485 | 0.8508 | 0.8531 | 0.8554 | 0.8577 | 0.8599 | 0.8621 |
| 1.1 | 0.8643 | 0.8665 | 0.8686 | 0.8708 | 0.8729 | 0.8749 | 0.8770 | 0.8790 | 0.8810 | 0.8830 |
| 1.2 | 0.8849 | 0.8869 | 0.8888 | 0.8907 | 0.8925 | 0.8944 | 0.8962 | 0.8980 | 0.8997 | 0.9015 |
| 1.3 | 0.9032 | 0.9049 | 0.9066 | 0.9082 | 0.9099 | 0.9115 | 0.9131 | 0.9147 | 0.9162 | 0.9177 |
| 1.4 | 0.9192 | 0.9207 | 0.9222 | 0.9236 | 0.9251 | 0.9265 | 0.9279 | 0.9292 | 0.9306 | 0.9319 |
| 1.5 | 0.9332 | 0.9345 | 0.9357 | 0.9370 | 0.9382 | 0.9394 | 0.9406 | 0.9418 | 0.9429 | 0.9441 |
| 1.6 | 0.9452 | 0.9463 | 0.9474 | 0.9484 | 0.9495 | 0.9505 | 0.9515 | 0.9525 | 0.9535 | 0.9545 |
| 1.7 | 0.9554 | 0.9564 | 0.9573 | 0.9582 | 0.9591 | 0.9599 | 0.9608 | 0.9616 | 0.9625 | 0.9633 |
| 1.8 | 0.9641 | 0.9649 | 0.9656 | 0.9664 | 0.9671 | 0.9678 | 0.9686 | 0.9693 | 0.9699 | 0.9706 |
| 1.9 | 0.9713 | 0.9719 | 0.9726 | 0.9732 | 0.9738 | 0.9744 | 0.9750 | 0.9756 | 0.9761 | 0.9767 |
| 2.0 | 0.9772 | 0.9778 | 0.9783 | 0.9788 | 0.9793 | 0.9798 | 0.9803 | 0.9808 | 0.9812 | 0.9817 |
| 2.1 | 0.9821 | 0.9826 | 0.9830 | 0.9834 | 0.9838 | 0.9842 | 0.9846 | 0.9850 | 0.9854 | 0.9857 |
| 2.2 | 0.9861 | 0.9864 | 0.9868 | 0.9871 | 0.9875 | 0.9878 | 0.9881 | 0.9884 | 0.9887 | 0.9890 |
| 2.3 | 0.9893 | 0.9896 | 0.9898 | 0.9901 | 0.9904 | 0.9906 | 0.9909 | 0.9911 | 0.9913 | 0.9916 |
| 2.4 | 0.9918 | 0.9920 | 0.9922 | 0.9925 | 0.9927 | 0.9929 | 0.9931 | 0.9932 | 0.9934 | 0.9936 |
| 2.5 | 0.9938 | 0.9940 | 0.9941 | 0.9943 | 0.9945 | 0.9946 | 0.9948 | 0.9949 | 0.9951 | 0.9952 |
| 2.6 | 0.9953 | 0.9955 | 0.9956 | 0.9957 | 0.9959 | 0.9960 | 0.9961 | 0.9962 | 0.9963 | 0.9964 |
| 2.7 | 0.9965 | 0.9966 | 0.9967 | 0.9968 | 0.9969 | 0.9970 | 0.9971 | 0.9972 | 0.9973 | 0.9974 |
一般正态分布的标准化
对于
则
对
特别地,
例: 设
若使用上表,并将
正态分布的 规则
对于
即约有
4. 伽玛分布
设
则称
这里采用"形状—率"参数化:
为形状参数。 为率参数。
有些资料使用尺度参数
伽玛函数及其递推关系
伽玛函数定义为
它满足
由于
与指数分布的关系
当
因此,
即指数分布是伽玛分布的特例。
与卡方分布的关系
若
称
为自由度为
当
此外,称
七、常见分布汇总表
1. 离散型分布
| 分布名称 | 记号 | 参数范围 | 分布律 |
期望 |
方差 |
|---|---|---|---|---|---|
| 0-1分布 | |||||
| 二项分布 | |||||
| 几何分布 | |||||
| 负二项分布 | |||||
| 泊松分布 |
2. 连续型分布
| 分布名称 | 记号 | 参数范围 | 概率密度函数 |
期望 |
方差 |
|---|---|---|---|---|---|
| 均匀分布 | |||||
| 指数分布 | |||||
| 正态分布 | |||||
| 标准正态分布 | — | ||||
| 伽玛分布 | |||||
| 卡方分布 | 即 |
说明:
- 0-1分布是二项分布
当 时的特例。 - 几何分布是负二项分布
当 时的特例。 - 指数分布是伽玛分布
当 时的特例。 - 卡方分布
等同于 。