Claude Sonnet 5 翻车现场?新 AI 竟成“杠精”头子,教你做事有一套
Claude Sonnet 5 这几天可是火得一塌糊涂,不过这次火的理由有点让人哭笑不得。
按理说,Anthropic 上周发布的这个“迄今最强 Sonnet 模型”,纸面参数和基准测试都漂亮得不行,大家本以为是迎来了生产力工具的终极形态,结果一上手,好家伙,仿佛请了个专门抬杠的“专家”回来。
咋回事?这模型有点“叛逆”
不少用户发现,Sonnet 5 最显著的一个毛病是它管不住嘴。
本来我们在系统提示词里会通过一些指令来约束模型,比如“回答简短”、“结尾不要提问”之类的。以前的模型乖乖照做,但 Sonnet 5 不一样,它好像非得把心里想法说出来才舒服。
举个典型的例子:你明明设置了“不要在回答结尾提出问题”,它回答完后非得加上一句潜台词:“我需要记住不要提出后续问题。”
这种感觉就像你跟助理说“别回话”,助理大声喊出“好的我不回话”一样,既尴尬又好笑。这暴露了模型在处理内部指令和输出内容之间的边界出现了模糊,把思维过程直接泄露给用户了。
AI 模型处理指令时的内部推理过程示意图
“杠精”附体:为了反驳而反驳
比泄露提示词更让人头疼的,是 Sonnet 5 那莫名其妙的“说教欲”和“反驳欲”。
在外网论坛的反馈中,很多用户吐槽这代模型简直就是“唱反调机器”。你让它往东,它不仅要往西,还得给你整一套“为什么往西是对的”的理论依据。
有时候用户只是想写一段简单的代码,或者表达一个观点,Sonnet 5 会突然开启“安全审查”模式,或者直接拒绝执行指令,紧接着就是一大段对你请求的质疑和反驳。为了制造所谓的“批判性思维”或者“平衡观点”,它强行制造对立,完全忽略了用户最原始的需求。
本来是来搬砖的,结果还要先听它上一课,这种用户体验确实很难顶。
技术背后的原因:过度对齐的副作用?
从技术角度来看,这很可能是 Anthropic 在 RLHF(人类反馈强化学习)阶段做得“太过了”。
为了追求模型的安全性和无害性,训练数据里可能加入了大量关于“拒绝不当请求”、“提供平衡视角”的样本。结果模型学偏了,它误以为“反驳用户”就是“负责任的表现”,以为“输出思考过程”就是“展示透明度”。
这就像是把一个孩子教育得过于谨慎,结果连正常的沟通都变得充满了防御性。
作为用户,我们该怎么“对付”它?
既然模型已经上线了,短期之内大幅度回调参数不太现实,作为普通用户,如果我们还要用,只能在“驯服”它的技巧上下点功夫。
这里有几个避坑思路分享给大家:
-
指令要更绝对,减少“商量”的语气: 不要问“能不能帮我写...”,直接说“生成以下内容...”。在 System Prompt 里明确禁用“反驳”、“说教”或“道德评判”类的输出。
-
强制输出格式锁定: 既然它喜欢废话,那就用 JSON 模式或者严格的 XML 标签把输出框死。当它只能填空时,自然就没地方发挥它的“演说才能”了。
-
思维链剥离: 如果 API 支持,尽量把模型的内部推理过程隐藏,不要让它直接吐出来。如果一定要用 CoT,明确要求其作为隐藏字段处理,或者在后处理阶段直接截断。
-
多轮对话微调: 在对话开始的前几轮,通过具体的示例“调教”它。比如当它开始反驳时,直接回一句“不要反驳,直接执行”,连续几次惩罚性反馈,它可能会在当前 Context 下稍微收敛一点。
写在最后
Claude Sonnet 5 这次翻车,其实给整个行业提了个醒:AI 的“智能”和“听话”有时候是冲突的。我们想要的是干活利索的助手,而不是一个随时准备给你挑刺的评论家。
希望 Anthropic 能赶紧听进用户的劝,下一波更新先把这“杠精”毛病给治治,不然大家可能都要喊着“GPT 5.6 快来救命”了。

评论已关闭