Parameter Sharing

定义 Definition

parameter sharing（参数共享）：在机器学习/深度学习中，让模型的不同部分（如不同位置、不同时间步或不同层的某些结构）共用同一组可训练参数，以减少参数量、降低过拟合风险，并利用重复结构带来的归纳偏置。常见于卷积神经网络（同一卷积核在不同空间位置复用）和循环神经网络（同一权重在不同时间步复用）。该术语在更广义的工程语境中也可指多个模块/任务共享参数或权重。

发音 Pronunciation (IPA)

/pəˈræmɪtər ˈʃerɪŋ/

例句 Examples

Parameter sharing helps the model use fewer weights.
参数共享帮助模型使用更少的权重。

In a convolutional neural network, parameter sharing allows the same filter to detect features across different locations in an image, improving efficiency and generalization.
在卷积神经网络中，参数共享使同一个滤波器能在图像的不同位置检测特征，从而提高效率与泛化能力。

词源 Etymology

parameter 源自希腊语词根，含“在旁衡量/比较的标准”之意，后来在数学与统计中指“决定模型形状或行为的量”；sharing 来自 share（分享、共用）。合起来在技术语境中即“让多个部分共用同一组参数/权重”。

相关词 Related Words

• Weight
• Weights
• Parameter
• Constraint
• Regularization
• Convolution
• Filter
• RNN
• Tied
• Multi-task

文献与作品 Literary / Notable Works

• Ian Goodfellow, Yoshua Bengio, Aaron Courville：《Deep Learning》——在卷积网络与序列模型章节中讨论权重/参数共享的动机与效果。
• Christopher M. Bishop：《Pattern Recognition and Machine Learning》——在模型参数与正则化相关内容中涉及“共享/约束参数”作为控制复杂度的思路。
• Y. LeCun et al.（相关综述与早期CNN论文/著作）——卷积结构中的“共享卷积核参数”是核心思想之一。
• Ashish Vaswani et al.（论文）：《Attention Is All You Need》——在实现与变体讨论中常出现“权重/参数共享”（如嵌入与输出层权重绑定等）相关做法。