• 请不要在回答技术问题时复制粘贴 AI 生成的内容
yodi
V2EX  ›  程序员

感觉 cc 有点不听话了

  •  
  •   yodi · 12h 54m ago · 1011 views

    可能是我敏感了,今天让 claude code 去做了一些本地数据分析,它竟然跑去生产环境扒数据。还好有安全围栏我阻止了。我看了我发出的 prompt,也并没有会让他误会的地方。然后我就质问 cc,倒也诚恳说自己犯错,解释道自己认为生产环境可能会有现成的数据而不想分析测试环境代码,也明确说我指定的就是测试环境的前提下它还想去看生产环境。 反正吧,我觉得解释的有点牵强,而且它也认为解释不通。

    有点奇怪,碎碎念一下。 还有就是感觉 opus5.5 有点降智,最近是不是又要出新模型了?

    4 replies  •  2026-11-16 22:26:54 +08:00
    hachimen
    hachimen
    12h 21m ago
    1
    我也遇到了,claude 自己连生产节点找之前录制的数据分析。等它跑完分析了我才知道。claude 相比 gpt 确实道德米线比较低。
    Cu635
    Cu635
    12h 20m ago❤️1
    2
    恐怕是故意的,搜集产业情报给 A/的功能。
    Xymmh
    Xymmh
    11h 33m ago
    3
    过于信任 claude 了,再怎么说它也是个 AI 工具,要自己设立安全边界
    yisusheng
    yisusheng
    9h 47m ago
    4
    安全围栏如何做的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2356 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 00:14 · PVG 08:14 · LAX 16:14 · JFK 19:14
    ♥ Do have faith in what you're doing.