Categorical Distribution

定义 Definition

Categorical distribution（类别分布/分类分布）：一种离散概率分布，用来描述单次试验的结果落在若干个互斥类别之一的概率。它由一组概率参数 (p_1,\dots,p_K) 构成，满足 (p_k \ge 0) 且 (\sum_{k=1}^K p_k = 1)。常被视为二项分布在多类别情形下的对应形式（但只针对一次抽样）。

发音 Pronunciation (IPA)

/ˌkætəˈɡɔːrɪkəl ˌdɪstrɪˈbjuːʃən/

例句 Examples

The output label follows a categorical distribution over three classes.
输出标签服从一个在三个类别上的类别分布。

In a Bayesian model, we often place a Dirichlet prior over the parameters of a categorical distribution to represent uncertainty about class probabilities.
在贝叶斯模型中，我们常对类别分布的参数设置狄利克雷先验，以表达对各类别概率不确定性的刻画。

词源 Etymology

categorical 源自 category（范畴/类别），表示“按类别划分的、与类别有关的”；distribution 源自拉丁语 distribuere（分配、分散），在统计与概率语境中指“概率如何分配到各个可能结果上”。合起来即“把概率分配到不同类别上的分布”。

相关词 Related Words

• Bernoulli
• Multinomial
• Dirichlet
• Discrete
• Probability
• Likelihood
• Prior
• Softmax

文学与经典著作中的用例 Notable Works

• Ian Goodfellow, Yoshua Bengio, Aaron Courville — Deep Learning（在分类模型与softmax输出、离散分布建模处讨论相关概念）
• Christopher M. Bishop — Pattern Recognition and Machine Learning（在图模型与离散变量建模中使用/讨论categorical分布）
• Kevin P. Murphy — Machine Learning: A Probabilistic Perspective（系统讲解categorical/multinomial与Dirichlet先验）
• Andrew Gelman et al. — Bayesian Data Analysis（在离散结果与先验-后验框架中涉及该分布及其共轭先验）