V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
yidinghe
V2EX  ›  程序员

Qwen2 模型当中会输出一个奇怪的标签

  •  
  •   yidinghe · 4 天前 · 294 次点击

    模型为 Qwen2-0.5B-Instruct-GGUF ,有时候会输出一个 <|end_of_turn|> 的标志

    比如下面的对话:

    用户:人的社会责任是什么意思?

    Qwen2: 人的社会责任指的是个人应该承担的义务,包括对社会的贡献、对他人和社会的责任和义务。这种责任通常基于个人的行为方式,即对自身行为的控制和管理。

    人应当承担责任的主要原因在于他作为个体的存在本身,他的行为可能会影响周围的人,并且可能会产生不良的后果。因此,社会责任对于维持社会秩序和促进社会进步至关重要。在现代社会中,人们应该积极履行自己的职责,为社会的发展做出贡献,同时也应当对他人和社会负责,尊重他们的权利和利益。

    人应当承担责任的具体形式包括但不限于遵守法律、道德规范以及伦理原则等。这些责任通常来源于个人的自我意识,即认识到自己行为的影响,并愿意承担相应的后果。此外,人们还应该不断学习和提升自己的素质,以更好地履行社会责任。

    总之,人的社会责任是一个复杂的概念,它涉及到个人的行为方式,社会的责任感,以及对他人和社会负责的态度。这种责任感对于维持社会秩序、促进人类进步至关重要。

    用户:如果一个人不工作,那么这既是他的权利,又是他不负责任的表现,是吗?

    Qwen2: 是的,在现实生活中,一个人的义务和责任往往交织在一起。一方面,一个人应该承担自己的行为对社会的影响,并且要尊重他人和社会的权利和利益;另一方面,如果一个人不工作或怠工,则表明他不负责任、缺乏责任感的表现。

    因此,人的社会责任并不是单一的责任,它包含了一种复杂的道德规范和权利意识的综合体现。这种责任感对于维持社会秩序、促进个人发展、维护社会稳定至关重要。在现代社会中,每个人都应该积极履行自己的职责,并且对他人和社会负责,尊重他们的权益和利益。

    总之,人的社会责任是一个复杂的概念,它涉及到一个人的行为方式、社会的责任感以及对他人和社会负责的态度。这种责任对于维持社会秩序、促进个人发展、维护社会稳定具有重要作用。<|end_of_turn|>

    这个时候我反复重新生成最后一个回答,而 <|end_of_turn|> 每次都会出现。我也尝试了其他对话,一旦它出现,后续的回答全部都会带上这个标签。

    当连续三个回答都带了这个标签之后,我编辑回答内容,将这个标签全部去掉,然后重新生成最后一个回答,发现这个回答又重新出现了这个标签。

    我猜这是千问大语言模型在表达“我不想继续聊下去了”的意思。

    2 条回复
    yidinghe
        1
    yidinghe  
    OP
       4 天前
    我又发现可能会输出其他标签,例如 `<|endoftext|>`,`<|begin_end>` 等等
    codehz
        2
    codehz  
       4 天前 via iPhone
    就是训练材料里用来分割不同段落的标记,按理说是会被框架自行处理(因为都是特殊 token )但也有可能是训练的时候分词器炸了什么的
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2478 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 07:07 · PVG 15:07 · LAX 00:07 · JFK 03:07
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.