Mini-batch

定义 Definition

mini-batch（迷你批/小批量）：在机器学习与深度学习训练中，把训练数据分成较小的一组（一批）来计算损失和梯度并更新参数。它介于batch（全批）和stochastic/online（单样本）训练之间。也可泛指“较小批量的处理单位”。

发音 Pronunciation (IPA)

/ˈmɪni bætʃ/

例句 Examples

We trained the model using a mini-batch of 32 samples.
我们用包含 32 个样本的迷你批来训练模型。

To improve stability and speed, the optimizer updates the weights after each mini-batch, balancing noisy gradients and computational efficiency.
为了兼顾稳定性与速度，优化器会在每个迷你批之后更新权重，在梯度噪声与计算效率之间取得平衡。

词源 Etymology

由 **mini-**（“小型的、迷你的”）+ batch（“一批、一组”）构成。最初 batch 常用于工业与计算领域表示“成批处理”；在机器学习语境中，“mini-batch”用来指代比全量数据更小的训练批次，强调分组计算与迭代更新。

相关词 Related Words

• Batch
• Mini-batch Gradient Descent
• Stochastic Gradient Descent
• Batch Size
• Epoch
• Iteration
• Optimizer
• Gradient

文学与著作中的用例 Literary / Notable Works

• Deep Learning（Ian Goodfellow, Yoshua Bengio, Aaron Courville）——讨论以 mini-batch 形式进行梯度计算与训练流程。
• Neural Networks and Deep Learning（Michael Nielsen，在线教材）——介绍使用 mini-batches 进行随机梯度下降的训练方法。
• Pattern Recognition and Machine Learning（Christopher M. Bishop）——在优化与学习算法相关章节中涉及小批量/随机化训练思想（常与 mini-batch 训练并用）。