把 Composer 2.5 反代后模型变笨了？聊聊系统提示词与环境魔法的那些事

最近折腾 AI 的小伙伴们可能发现了个怪事：有些模型在官方特定的环境里用着巨顺手，一旦我们费尽心思通过反代或者 API 接到自己的工具里，它就好像突然“降智”了一样，不仅逻辑变差，有时候连我是谁都搞不清楚了。

模型在失去约束后输出混乱的示例

比如最近就有开发者吐槽，composer 2.5 在特定构建环境里表现得像个顶尖工程师，但通过 CPA 反代出来后，问个基础问题，它一会儿说是 DeepSeek，一会儿又扯到 Qwen 或者智谱，甚至还时不时报一串乱码。这到底是怎么回事？难道模型在被反代的过程中真的丢失了智商？

为什么反代后模型会“放飞自我”？

其实这大概率不是模型本身的智力问题，而是“环境魔法”失效了。很多人在使用大模型时，往往只关注了 Model Name（比如 claude-3.5-sonnet），却忽略了隐藏在背后的 System Prompt（系统提示词） 和 Fine-tuning（微调）。

在像 Grokbuild 或者 Cursor 这类原生环境中，开发者通常会在发送给你的请求之前，先注入一大段精心设计的系统提示词。这些提示词就像是给模型戴上了“紧箍咒”，框定了它的角色设定、输出格式、代码风格甚至安全边界。当模型被反代出来时，如果我们只是简单地透传了用户的消息，而丢失了这些前置的系统指令，模型就失去了约束，回到了最原始的状态。这种状态下，它对于角色认知可能会产生幻觉，或者因为缺乏上下文引导而输出混乱。

可能的解决方案

既然找到了症结，我们就有办法解决。如果你在自建反代服务或者接入第三方模型时遇到了“降智”问题，不妨试试以下几招：

1. 补全遗失的系统提示词 这是最直接的办法。你可以尝试抓包或者参考官方环境的描述，手动在 API 调用的 system 字段中加入适当的角色设定。例如，如果你希望它保持编程助手的专业性，可以加上类似“你是一个专业的编程助手，请只输出代码和简洁的解释”之类的指令，帮模型找回状态。

2. 检查 API 兼容性与头信息 有些反代工具在转换请求协议时，可能会丢弃某些特殊的 HTTP 头信息。官方环境可能依赖这些头信息来激活特定的模型版本或功能开关。检查一下你的 Nginx 或网关配置，确保关键的元数据没有被吃掉。

3. 回归原生环境（原汤化原食） 如果你不想折腾底层的配置细节，最稳的方式还是“原汤化原食”。就像有位老哥说的，Cursor 针对自家的 Agent 框架做过专门的训练和优化。如果你追求极致的体验，直接使用官方客户端或者支持官方 API 的工具，往往能避开这些水土不服的问题。毕竟，有些优化是深度绑定在特定工作流里的，单纯换个壳子很难完美复刻。

总结

模型反代虽然能让我们灵活地整合各种资源，但“搬运”不仅仅是换一个 URL 那么简单。系统提示词的缺失、协议转换的不兼容，都可能是导致 AI 表现下滑的罪魁祸首。下次再遇到模型“发疯”时，别急着骂模型笨，先看看是不是漏给了它那张“说明书”。

希望这些分析能帮你少踩几个坑，早日搭建出稳定的 AI 工作流！