Toxicity Detection

释义 Definition

toxicity detection：有害内容检测；指利用人工审核或算法（常见为机器学习/自然语言处理）识别文本、语音或评论中的侮辱、仇恨、骚扰、脏话、人身攻击等可能伤害他人的内容，用于内容审核与社区治理。（在不同语境中也可泛指对“有毒/有害”行为与信息的识别。）

发音 Pronunciation (IPA)

/tɑkˈsɪsəti dɪˈtɛkʃən/

例句 Examples

The forum uses toxicity detection to flag rude comments.
这个论坛使用有害内容检测来标记粗鲁的评论。

Researchers evaluated a toxicity detection model to reduce harassment while minimizing false positives against dialects and minorities.
研究人员评估了一种有害内容检测模型，目标是在减少骚扰的同时，把对方言与少数群体的误判降到最低。

词源 Etymology

toxicity 源自 toxic（“有毒的”），其更早来源与希腊语 toxikon（与“箭毒/毒药”相关）有关；后引申为“有害性、毒性”（包括社会互动中的“有害”）。detection 来自拉丁语 detegere（“揭露、发现”）。合起来表示“发现并识别有害性内容/言行”。

相关词 Related Words

• Content Moderation
• Hate Speech
• Harassment
• Abusive Language
• Profanity
• Text Classification
• Sentiment Analysis
• Bias

文学与著作 Literary Works

• Speech and Language Processing（Dan Jurafsky & James H. Martin）——在自然语言处理应用中讨论文本分类与有害语言相关任务，可关联到 toxicity detection。
• Natural Language Processing with Transformers（Lewis Tunstall, Leandro von Werra, Thomas Wolf）——涉及文本分类与内容过滤任务，常用于实现/理解 toxicity detection。
• Hate Speech and Abusive Language（学术论文与综述类文献常见主题）——该领域大量研究直接使用或讨论 “toxicity detection/abusive language detection” 等术语。