运维123 - 统计学
type: channel
link: https://www.sddts.cn/index.php/tag/%E7%BB%9F%E8%AE%A1%E5%AD%A6/
items: 贝叶斯统计入门指南

贝叶斯统计入门指南
type: item
date: 2026-03-22T13:55:54+00:00
description: 贝叶斯统计入门指南一、概述1. 简介A. 是什么贝叶斯统计是一种统计推断方法，它将概率视为对不确定性的度量，而非事件发生的长期频率。与频率学派统计不同，贝叶斯统计将模型参数视为随机变量，通过数据不断更新对参数的认知。B. 为什么学提供更直观的不确定性量化方式先验知识可以自然地融入模型特别适合小数据场景和复杂模型可信区间比置信区间更易理解C. 学完能做什么理解贝叶斯与频率学派的核心区别使用贝叶斯方法进行参数估计应用 PyMC 等 MCMC 工具解决实际问题构建包含先验知识的稳健模型2. 前置知识A. 必备技能基础概率论概念条件概率和贝叶斯定理Python 编程基础B. 推荐知识频率学派统计基础最大似然估计线性回归二、核心概念1. 哲学差异贝叶斯统计与频率学派统计的根本区别在于对概率的理解：维度频率学派贝叶斯学派参数固定但未知随机变量，服从分布数据随机抽样固定观测值概率长期频率不确定性的度量区间估计置信区间可信区间A. 置信区间 vs 可信区间置信区间：如果重复抽样多次，95% 的区间会包含真实参数可信区间：参数有 95% 的概率落在该区间内graph LR A[问题] --> B{统计框架} B --> C[频率学派] B --> D[贝叶斯学派] C --> E[参数固定] C --> F[数据随机] C --> G[置信区间] D --> H[参数分布] D --> I[数据固定] D --> J[可信区间]2. 贝叶斯定理贝叶斯推断的核心是贝叶斯定理：P(θ|X) = P(X|θ) × P(θ) / P(X)其中：P(θ|X)：后验分布，是我们想求解的P(X|θ)：似然函数，表示给定参数下观测数据的概率P(θ)：先验分布，表示对参数的初始认知P(X)：标准化常数，通常不需要显式计算graph TD A[先验分布] --> B[观测数据] B --> C[似然函数] A --> D[贝叶斯定理] C --> D D --> E[后验分布] E --> F[后验预测分布]3. 核心术语先验分布：对参数的初始假设似然函数：数据对参数的支持程度后验分布：结合先验和数据后的参数认知MAP 估计：最大后验概率估计后验预测分布：对新数据的预测分布三、快速上手1. 骰子问题示例假设你观察到一个骰子投掷 8 次，结果为 [1, 1, 2, 3, 3, 4, 4, 4]，但不知道骰子有多少面。A. 频率学派方法使用最大似然估计：P(X|n) = (1/n)^8当 n = 4 时似然最大，因为投掷结果的最大值为 4。95% 置信区间为 [4, 6]。B. 贝叶斯学派方法选择先验分布 P(n)，计算后验分布：P(n|X) ∝ (1/n)^k × P(n)使用均匀先验时，后验均值约为 4.26，95% 可信区间为 [4, 5]。2. 先验的影响先验分布的作用：数据少时，先验影响大数据多时，似然函数主导后验好的先验可以补偿数据不足import pymc as pm import numpy as np # 观测数据 observations = np.array([1, 1, 2, 3, 3, 4, 4, 4]) k = len(observations) x_max = int(observations.max()) with pm.Model() as model: # 几何先验 excess = pm.Geometric("excess", p=0.5) - 1 n = pm.Deterministic("n", excess + x_max) # 似然函数 pm.Potential("likelihood", -k * pm.math.log(n)) # MCMC 采样 trace = pm.sample(10000, tune=2000, chains=4) # 获取后验分布 posterior_n = trace.posterior["n"].values.flatten() print(f"后验均值: {posterior_n.mean():.2f}")3. 环境准备安装必要的 Python 库：pip install pymc arviz numpy matplotlib四、进阶内容1. 实际应用案例A. 地理分布建模问题：根据历史订单数据生成合成数据，需要按地理位置分配订单。频率学派问题：对新类别或新邮编不鲁棒数据稀疏时估计分布噪声大贝叶斯解决方案：使用 Dirichlet-Multinomial 分布建模似然使用人口分布作为先验（非稀疏）先验作为数据不足时的后备2. 数值方法：MCMC当后验分布无法解析求解时，使用马尔可夫链蒙特卡洛方法。A. Metropolis 算法从当前点 θ_t 提议新点 θ_{t+1}，以以下概率接受：m…