★ FEATURED ARTICLE 概率分布函数和概率密度函数这两个词在概率论与数理统计的课本里几乎是绑定出现的但很多人学到一半题目会做了图会画了被问到分布函数和密度函数到底谁决定谁时又讲不出个所以然。我自己当年学到这里也卡了很久后来是靠着把两者的关系反复在脑内翻译成累积和变化率两个视角才算真正把这根线捋顺。这篇笔记想把这条理解路径完整记录下来从离散到连续从定义到直觉从查表到采样把这两个函数彻底摊开来看。我写这篇笔记的初衷也很简单市面上讲概率的教材很多但大多数是定义-性质-例题三段式定理摆得很严谨直觉和动机却讲得很少导致读完了能做作业遇到实际问题还是不会挑工具。这篇内容会非常偏理解而不是背诵适合正在学概率论的同学也适合工作中需要和数据分布打交道、却对这些基础概念半生不熟的工程师。说得再直白一点读完这篇你应该能用一句话向别人说清密度函数和分布函数的区别并且知道在什么场景下该用哪个。1. 初学概率时我们最先碰到的其实是分布函数1.1 为什么这门课的起点不是密度函数而是分布函数翻开任何一本概率论教材连续型随机变量那一章的开场顺序几乎是固定的先定义分布函数再引出密度函数。很多初学者会觉得这是一种从难到易的编排毕竟密度函数看起来更直观画个钟形曲线谁都能看懂分布函数反而要绕一道弯。但教材敢这么排说明分布函数在逻辑上更基础密度函数只是它的一个衍生物。我们先看分布函数的原始定义。对于一个随机变量 (X)它的分布函数 (F(x)) 被定义为[ F(x) P(X \le x) ]也就是说(F(x)) 衡量的是随机变量 (X) 的取值落在 ((-\infty, x]) 这个区间里的概率。如果我想知道 (X) 的取值范围落在某个区间 ([a, b]) 内只需要做一个减法[ P(a X \le b) F(b) - F(a) ]这个定义有一个很重要的特点它不关心随机变量是离散的还是连续的只要是实数值随机变量就一定能写出它的分布函数。在数学上哪怕 (X) 是那种既不是纯离散、也不是纯连续的混杂型变量分布函数照样可以定义得清清楚楚。这就是它作为逻辑起点的底气。也正因为如此分布函数对所有人来说都是公平的。它在任何情况下都存在、都有定义、都有单调性和值域限制先讲它后面再分情况讨论离散和连续整棵知识树才不会长歪。1.2 三个一眼就能看出来的性质分布函数这个定义看着简单但它身上有三个性质几乎可以用来做判断题也在后续的推导里反复出现。第一是单调不减。如果 (x_1 x_2)那么事件 ({X \le x_1}) 一定包含在事件 ({X \le x_2}) 里所以概率自然满足 (F(x_1) \le F(x_2))。画成图像分布函数就是一条只升不降的曲线。第二是有界性。当 (x) 趋近负无穷时(F(x)) 趋近 0当 (x) 趋近正无穷时(F(x)) 趋近 1。这个很好理解随机变量总能取某个值它落在整条实数轴上的概率必然等于 1落在负无穷远处一个空集般的范围内概率必然是 0。第三是右连续性。如果 (F(x)) 在某一点处出现跳跃那么这个跳跃的落点定义在左开右闭区间上处理离散分布时需要格外留意。很多证明题喜欢考为什么是右连续而不是左连续归根结底是因为我们的原始定义用了 (X \le x) 的闭端这个技术细节在第一遍学的时候甚至可以忽略但到了后期学随机过程的时候会被反复用到。这三条性质在考试里最常见的玩法就是给你一个分段函数让你判断它能不能作为分布函数。我一般会用单调性排除掉曲线往下掉的选项再用趋近值排除掉左右极限不对的选项最后用右连续性找茬分段点几乎百分百能做对。2. 离散型随机变量从分布律到分布函数的台阶图2.1 分布律和分布函数的对应关系离散型随机变量是我们最容易建立的直觉模型。举一个很常见的例子掷一颗均匀的六面骰子随机变量 (X) 表示朝上的点数。这时候 (X) 的可能取值只有 1 到 6每一个取值都有一个确定的概率 (P(X k) \frac{1}{6})这些概率合在一起就叫分布律也常写成概率质量函数PMF的形式。那么 (X) 的分布函数 (F(x)) 是什么呢按照定义它就是所有小于等于 (x) 的取值的概率加总[ F(x) \sum_{k \le x} P(X k) ]当 (x 1) 时没有任何一个点数小于等于它所以 (F(x) 0)。当 (1 \le x 2) 时只有点数 1 满足条件所以 (F(x) \frac{1}{6})。当 (2 \le x 3) 时点数 1 和 2 都满足所以 (F(x) \frac{2}{6})。以此类推当 (x \ge 6) 时(F(x) 1)。画出来就是一段一段的台阶平时是平线在每个可能取值点上向上跳一格跳跃的高度恰好等于这个点对应的概率。这也是离散分布函数最直观的图像记忆法。分布函数等于分布律的累积和这句话值得写进任何学习笔记的第一处高光。2.2 为什么离散分布没有密度函数的说法细心的读者会发现离散情形很少提密度函数这个词用的是概率质量函数。原因在于离散型随机变量的概率集中在一个个孤立点上如果用单位长度上的概率来衡量就等于在一个没有长度的点上承载了一段大于零的概率这会让密度这个概念无从谈起。打个生活中的比方。把概率想象成一把沙子如果沙粒都堆在一根根高度不一的柱子上那么问你某一根柱子旁边的地面上每厘米有多少沙子答案就是 0因为沙子不在柱子上就在空气里地面上什么都没有。此时有意义的问题是这堆沙子里有多少在柱子 A 和柱子 B 之间这就对应着做累加对应着分布函数。而连续型的场景则更像是一层均匀铺开的沙毯任何位置都能挖一点出来称重这才能谈每平方米多少克这种密度的概念。所以离散型随机变量的核心工具是分布律由分布律推出分布函数连续型随机变量的核心工具是密度函数由密度函数积分得到分布函数。两条分支在一开始就分道扬镳但是终点却又可以重新对齐在分布函数这一框架上。3. 连续型随机变量概率密度函数到底在密什么3.1 从频率直方图到密度函数的自然过渡连续型随机变量的概率分布没法用每个点有多少概率来描述因为取值空间的点是无穷不可数的。说 (X) 恰好等于某个具体值的概率是 0.1在连续型情形下直接就是错的。这时候统计学里的频率直方图给了我们一个很好的启发。想象我们要研究某个城市成年人的身高分布。如果按 1 厘米的间隔去统计每个区间的人数占比会得到一根根柱子柱子的高度就是该区间的人数除以总人数。这个数字本身会随着区间宽度的变化而改变同一个城市你按 1 厘米分组和按 5 厘米分组柱子的绝对高度完全不同所以柱高本身不是一个稳定的描述量。真正稳定的量是柱子的高度除以柱子的宽度也就是单位宽度上的概率。随着样本量越来越大分组越来越细这根柱子的轮廓会趋近一条光滑的曲线这条曲线就是概率密度函数 (f(x))。它告诉我们的是在这个取值附近概率的密集程度有多高。值大说明这个区域含概率的能力强值小说明这里很稀疏。[ P(a X \le b) \int_a^b f(x)dx ]这个积分式可以理解为把区间 ([a,b]) 内每一小段的密集程度乘上小段宽度再全部累加得到的就是落在该区间的总概率。类比到生活里它就像把一段路分成无数小截每截的厚度乘以截长然后加总得到整段路的土方量。密度函数的值本身没有概率的量纲它的单位是概率每单位长度但积分之后就有概率了。3.2 标准正态分布把密度函数和分布函数揉在一起看正态分布大概是所有人最熟悉的连续型分布。标准正态分布的密度函数长这样[ f(x) \frac{1}{\sqrt{2\pi}} e^{-x^2/2} ]画出来就是那条经典的钟形曲线关于 (x0) 对称在顶点处密度最高往两边迅速衰减。对应地标准正态分布的分布函数是[ F(x) \int_{-\infty}^{x} \frac{1}{\sqrt{2\pi}} e^{-t^2/2} dt ]这个函数在教科书和统计软件里一般记作 (\Phi(x))。很多人第一次接触 (\Phi) 表的时候有个困惑为什么表中列的全是 (F(x)) 的值而不是 (f(x)) 的值原因是在实际计算里我们更常需要回答的是小于某个阈值的概率有多大这是一种累积计算用的正是分布函数。而密度函数的意义更多体现在理论推导、似然估计、图像解释和后续的统计推断中。两个视角的关系可以这样理解密度函数是坡度分布函数是海拔。某一点的密度函数值大说明在那附近累积概率的海拔上升得快密度函数值小说明海拔几乎平缓。你站在分布函数曲线的某个点上它的切线斜率就是密度函数在那个点的值。这个几何直觉一旦建立两个函数的关系也就很难再忘记了。3.3 一个容易让新手血压升高的点密度函数值可以大于 1这个困惑基本每届学生都会遇到。密度函数在某一点的取值可能远大于 1比如指数分布的密度函数在接近 0 的位置可以轻易超过 1但这并不违反任何概率规则因为密度函数不是概率。只有在它乘以一段区间的宽度、积分之后才会变成概率只要整条曲线下方的面积是 1它就是一条合法的密度函数。一个 200 kg 的人放在体重秤上可能读数爆表但并不能因此说他的密度超过了合理范围这完全是两个概念。我当时的理解方式是把概率这个总质量 1 kg压到一根又细又短的区间上如果这根区间宽度只有 0.01那么要让区间内的积分等于 0.1平均密度就得达到 10。这个 10 是完全正常的。同理只要曲线足够高瘦面积照样能等于 1。所以判断一个函数能不能做密度函数关键指标永远只有两条非负以及从负无穷到正无穷的积分为 1。单独讨论某个点上的函数值大小没有意义。4. 分布函数和密度函数的互转一张图看透求导与积分4.1 核心公式与它们的几何解释到了这一步可以把整个逻辑链条收拢成两个式子。对连续型随机变量 (X)设它的分布函数为 (F(x))密度函数为 (f(x))那么[ F(x) \int_{-\infty}^{x} f(t) dt ]反过来[ f(x) F(x) ]前者说要想得到累积到某一点的概率就把之前的密度一点点都攒起来后者说要想知道某一点的密集程度就看分布函数在那里涨得多快。一个强调积一个强调导二者互为逆运算。为了在图里同时看清这两个方向把 (f(x)) 和 (F(x)) 上下叠放横轴对齐。上半张图的曲线是 (f(x))下半张图是 (F(x))。你会发现当上半张图的曲线高耸时下半张图的曲线恰好陡峭地上升当上半张图的曲线贴近横轴时下半张图的曲线几乎水平。如果我们把下半张图在某一点的切线画出来切线的斜率值恰好就是上半张图对应点的纵坐标。这就是微积分基本定理在概率论里最直观的一次落地。4.2 用分布函数求区间概率三种等价写法有了 (F) 和 (f) 的双向转换求 (P(a X \le b)) 就有了好几种等价写法[ P(a X \le b) F(b) - F(a) \int_a^b f(x) dx ]三种表达方式对应三种思维路径。用 (F(b)-F(a))脑子里想的是分布函数差用积分式脑子里想的是密度曲线下的面积还有一种是直接用 (f) 在某点的值做近似当区间足够窄时概率大约等于 (f(a) \cdot (b-a))。最后这个写法听起来很像密度乘长度做数值计算时经常会替代复杂积分来加速。在实际工程里比如统计一个加工零件的直径是否落在公差范围内已知材料的直径分布服从某种连续分布我们只需要查一下分布函数表用上限对应的函数值减去下限对应的函数值就能得到合格率。整个过程不需要碰积分公式。这也是分布函数表在传统统计时代极其重要的原因把函数值做成表供人查查完做减法问题结束。4.3 求导时的条件连续点才能求导吗连续型随机变量的分布函数是连续函数可它不一定处处可导。如果 (f(x)) 在某点不连续那么 (F(x)) 在那一点可能出现折角就像绝对值函数在原点的尖角一样导数写不出来。这个细节在理论习题里经常被用来挖坑。比如给你一个分段定义的密度函数在某一点上密度函数是跳跃断开的那分布函数在这点上依然连续因为积分会平滑掉跳跃但分布函数的曲线会有一个明显的折线转角导数在转角处不存在。遇到这种问题标准做法是分区间求导分段点单独用左导数右导数去核对不一致就直接说该点不可导。从实际使用者的角度来说这个细节并没有那么致命。因为在真实数据里我们几乎遇不到那种教科书里刻意设计的钉子点大多数常用分布正态、指数、均匀、伽马的密度函数都光滑得很直接求导没任何压力。但理解连续≠可导这件事能帮你更好地判断什么时候可以直接上手用导数的公式、什么时候需要小心分段处理。5. 实际场景中最常见的三种误读逐个拆给你看5.1 误读一把密度函数值直接当概率这是新手最普遍的误读。比如标准正态分布密度函数在 (x0) 处的值是 (1/\sqrt{2\pi} \approx 0.3989)有的人就会脱口而出 (X0) 的概率是 0.3989。错得离谱。正确的说法应该是在 0 附近的一小段区间比如距离 0 点左右各 0.5 的范围落进去的概率才差不多是 0.3829。单独一个点上的概率连续型变量是 0。要纠正这个直觉可以反复在心里做这个换算密度函数值是斜率不是高度差。问一个点的斜率是多少和问从这一点到另一点上升了多少完全是两码事但初学者因为都对应着曲线的纵坐标总归会混淆一段时间。5.2 误读二认为分布函数必须光滑分布函数有两种长相对读者冲击特别大一种是离散分布的台阶状一种是连续分布的平滑曲线。看到台阶状就怀疑这也能叫分布函数吗的人不在少数。其实分布函数唯一的要求就是单调不减、左负无穷趋 0、右正无穷趋 1、右连续完全没要求曲线要光滑或者连续。离散变量的分布函数天然就是一堆台阶台阶的高度就是对应取值的概率。如果你看到某篇文章里把离散变量的分布函数画成了斜线那反而才是错的。5.3 误读三混淆 (f(x)) 和 (F(x)) 的定义域和值域有人分不清 (f) 和 (F) 的值域范围。(F(x)) 的取值范围严格限制在 [0,1] 内因为它就是概率本身。而 (f(x)) 可以比 1 大也可以比 1 小甚至可以趋近正无穷它的取值只要求非负唯一强制的约束是总面积等于 1。这两个约束条件完全不同解题时尤其要留意。还有一种容易出错的点在于有些题目为了考察这一点会故意构造一个在某处取值超过 1 的伪密度函数比如给一段 (3x^2) 在 [0,1] 上这个函数在 0.8 处的值是 1.92超过 1但它合法吗合法因为它在 [0,1] 上积分为 1。所以超过 1 并不是拒绝理由只要非负、总面积唯一它就是合法的密度函数。6. 从定义到实操用分布函数做随机数采样6.1 逆变换法的原理与步骤理解分布函数这件事最经典的落地应用之一就是生成服从某种分布的随机数。计算机里我们通常只直接拥有均匀分布的随机数发生器但通过分布函数可以把它转换成其他任意分布这个方法称为逆变换采样。步骤说起来并不复杂。设目标分布有严格单调递增的分布函数 (F(x))我们希望生成服从这个分布的 ({X_i})。第一步生成均匀分布随机数 (U \sim \mathrm{Unif}(0,1))第二步求 (F) 的反函数令 (X F^{-1}(U))第三步输出的 (X) 就服从未知的目标分布。原理也很直接如果随机变量 (Y F(X))那么 (Y) 在 [0,1] 上服从均匀分布。反过来对均匀分布的 (U) 做分位数变换就能映射回原来的随机变量。举个例子指数分布 (\mathrm{Exp}(\lambda)) 的分布函数是 (F(x) 1 - e^{-\lambda x})令 (U 1 - e^{-\lambda X})解得 (X -\frac{1}{\lambda}\ln(1-U))。因为 (1-U) 和 (U) 同分布实际代码里通常直接写成 (X -\frac{1}{\lambda}\ln(U))这一步优化被无数生成器沿用至今。我在实际写代码验证一个自己搭的统计模型时经常先用逆变换法生成几千个样本再用它们的经验分布函数去对比理论分布函数。两曲线大体贴合就说明模型设定没有离谱的偏差。用分布函数来做检验比单纯对比密度曲线的形态更稳定不容易被极少数异常点带偏。6.2 经验分布函数用样本逼近理论分布如果说逆变换法是从分布函数出发生成数据那么经验分布函数就是从已有数据出发去还原分布。对一组样本 (X_1, X_2, \dots, X_n)经验分布函数定义为[ F_n(x) \frac{1}{n}\sum_{i1}^n I(X_i \le x) ]这里 (I(\cdot)) 是指示函数当样本值不超过 (x) 时取 1否则取 0。所以 (F_n(x)) 计算的就是样本里有多少比例的人小于等于 (x)。它本身是一个随着样本量增加而不断逼近理论分布函数的随机阶梯函数。这个工具非常实用。当你要判断一批实际数据是否正态分布时完全可以不画 Q-Q 图直接把 (F_n(x)) 和正态分布的 (\Phi(x)) 放在同一个坐标里看。两者如果在整个取值范围内都贴得很近说明数据来源大概率就是正态或者近似正态。如果两头翘尾偏离明显乖乖去换分布族比硬着头皮用正态要稳得多。7. 从一维走向多维分布函数和密度函数的升级版7.1 联合分布函数与联合密度函数单个随机变量的分布函数和密度函数理解透了多维只是自然延伸。二维随机向量 ((X, Y)) 的联合分布函数定义成[ F(x, y) P(X \le x, Y \le y) ]也就是两个变量同时小于等于给定阈值的概率。联合密度函数 (f(x, y)) 则是二维平面上定义的非负函数要求在整个平面上的二重积分为 1。求某个矩形区域 ((a, b] \times (c, d]) 内的概率就做这个二重积分[ P(a X \le b, c Y \le d) \int_c^d \int_a^b f(x, y) , dx , dy ]从图形上一维密度函数对应曲线下的面积二维密度函数对应曲面下的体积思维模型是通用的。7.2 边缘分布把多余变量压扁多维分布里一个高频操作是求边缘分布。已知 ((X, Y)) 的联合密度 (f(x, y))要单独看 (X) 服从什么分布就把另一个变量 (Y) 整个积分掉[ f_X(x) \int_{-\infty}^{\infty} f(x, y) , dy ]边缘分布函数则是一维场景下的老面孔[ F_X(x) P(X \le x) \int_{-\infty}^x f_X(t) dt ]如果拿一张二维密度曲面图举例求 (X) 的边缘密度就相当于沿着 (Y) 方向把所有体量压到 (X) 轴上叠起来的高度就是 (f_X(x))。很多人第一次学边缘分布时觉得抽象其实就是不看 (Y)把 (Y) 的可能性全部平均掉的朴素思想。学了联合密度之后还能进一步引出条件分布、独立性的判断如果 (f(x, y) f_X(x) f_Y(y)) 对任意 (x, y) 都成立那么两个变量独立。判断独立性的另一等价方式是分布函数的乘积分解 (F(x, y) F_X(x) F_Y(y))。两条路线殊途同归用哪个取决于你手上方便计算的是密度还是分布函数。8. 给过去自己的一份理解清单写到这基本上把分布函数和密度函数的知识框架梳理完了。如果要我给刚开始学这部分内容的自己留一份清单大概会是下面这几条一分布函数是人类了解随机变量的入口一切概率都可以从 (F(x) P(X \le x)) 出发算出来。它普适、稳定、可靠天然适合作为一切讨论的基础。二连续型变量的密度函数不是取某个值的概率而是概率分布的密集程度求概率永远要积分不能直接查密度值。三(F) 和 (f) 是一对微积分搭档。(F) 是累积(f) 是变化率。遇到问题时先在脑内确认是在做累计还是做变化率再决定用 (F) 还是 (f) 表达。四离散和连续只是把同一个故事换了一种载体讲。离散版本里概率成坨地钉在几个点上所以累积函数是台阶连续版本里概率平滑地铺开所以累积函数是曲线。五检验理解程度的办法是能不能把分布函数画出来给一个完全没学过的人解释清楚你画的曲线在某点突然升高就说明随机变量大概率落在那个位置的附近曲线平缓就说明那边没什么质量。我在走出校园很久之后才真正意识到当初啃过的这些定义没有一个是为了考试而考试。做模拟仿真时要用分布函数做逆变换采样做统计分析时要用经验分布函数去对比理论分布做贝叶斯推断时要先写出联合分布函数再对后验做分解。分布函数和密度函数不是两个孤零零的公式它们是一整套随机世界的语言学透了再看任何概率模型都会觉得清爽不少。这篇笔记是理解概率分布系列的第一篇先把框架打好后面再继续往细节里钻。
阅读完成 · 觉得有帮助？
