HSM-CR 连上 TaoToken 后，能消除 Prompt 顺序造成的 35% 答案翻转

这篇记录一次「验证用量」视角的实验复现。TaoToken 官网 https://taotoken.net/?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content= 创建 Key 后，我把运行 Prompt-order 实验的 Claude Code 和 Codex 的 Base URL 统一指向 https://taotoken.net/api，用来核对每次请求的 Token 消耗，并复现同一组矛盾记忆换序后 35% 答案翻转、HSM-CR 治理后 0% 翻转的结果。

这组实验的重点不是再讲一遍 HSM-CR 架构，而是把「答案稳定性」和「用量账本」放在同一条链路里验证。因为 Prompt 顺序实验最容易出现一种误判：只看到答案翻转，却没有记录这次翻转对应了多少 input token、多少 output token、有没有重试、有没有缓存命中。如果这些信息分散在不同供应商的客户端里，你很难判断治理后的稳定性是真实收益，还是采样或调用差异造成的巧合。把 Claude Code/Codex 接到 TaoToken 后，每次实验请求都经过同一个 Base URL，模型调用、响应文本和 usage 字段能落在同一批记录里，这样才能把 7/20 与 0/20 的翻转率，和 token 用量一起复核。

原问题与场景：Claude Code/Codex 中同一组记忆换序，为什么会出现 35% 翻转

先还原实验场景。假设一个长期 Agent 的记忆池里有两条互相矛盾、但都处于可检索状态的信息：

• 记忆 A：用户当前主要使用 Java。
• 记忆 B：用户最近想试试 Rust。
• 问题 Q：用户当前主要使用什么语言？

如果系统不做冲突治理，A 和 B 可能同时进入 Prompt。此时构造两组上下文：

默认顺序：

Memory A Memory B Question

交换顺序：

Memory B Memory A Question

模型、问题、记忆内容、参数都不变，只交换两条记忆的前后位置。原文实验中，未做冲突治理的组在 20 个问题里有 7 个答案发生翻转，翻转率是 35%；经过 HSM-CR 治理的组，20 个问题里翻转数为 0，翻转率是 0%。

这个结果说明，记忆冲突不会安静地留在数据库里。只要矛盾状态同时进入 Prompt，模型就可能受到顺序、位置和注意力分布影响。对于用户来说，表现就是同一个问题今天问和明天问答案不同，或者只换了一下上下文顺序，Agent 对当前状态的判断就变了。

本条视角更关心「验证用量」。因为如果你要复现这组实验，不能只记录答案，还要记录每次请求的 input_tokens、output_tokens、重试次数和请求耗时。否则会出现两个问题：

第一，你不知道 35% 的翻转是不是伴随了不一致的 token 消耗。比如交换顺序后上下文长度变化、缓存命中变化、客户端重试，都可能让结果不可比。

第二，你无法判断治理后的稳定性是否来自更干净的上下文。HSM-CR 在记忆进入模型之前先过滤状态，只把 active 记忆放进默认 Prompt，这通常会减少进入上下文的历史冲突。回答稳定性提升和上下文成本下降，应该在同一个实验账本里体现。

因此，复现实验时建议固定这些变量：同一个模型 ID、同一组 20 个问题、同一份记忆内容、同一套 Prompt 模板、temperature 设为 0，只改变记忆顺序。然后为每个 sample 记录：

只有当答案表和用量表能按 sample_id 对齐时，35% 到 0% 的翻转差异才可复核。

TaoToken 前置：在官网创建 Key，把 Claude Code/Codex 接到统一 API

要让 Claude Code 和 Codex 跑同一组 Prompt-order 实验，第一步不是改实验脚本，而是把调用入口统一。

TaoToken 的官网入口是：

https://taotoken.net/?utm_source=taotoken_aicg_blog_end&utm_medium=csdn&utm_campaign=rewrite&utm_content=

在这里创建或确认 API Key，也就是后文配置里的：

YOUR_API_KEY

API 地址使用：

https://taotoken.net/api

注意，API 地址本身不加 UTM 参数。Claude Code 的 ANTHROPIC_BASE_URL、Codex 的 base_url 都应该指向这个地址，而不是指向官网首页，也不是把官网带 UTM 的链接填进配置。

如果你需要创建 Key 或查看接入方式，可以直接走这两个入口：

• API Keys：https://taotoken.net/console/api-keys?utm_source=taotoken_aicg_blog_end&utm_content=csdn_hsmcr_prompt_order&utm_campaign=rewrite
• 接入文档：https://taotoken.net/doc?utm_source=taotoken_aicg_blog_end&utm_content=csdn_hsmcr_prompt_order&utm_campaign=rewrite

前置检查清单如下：

1. 已创建 YOUR_API_KEY，并确认没有多余空格。
2. 已选定用于实验的 MODEL_ID，且该模型在 TaoToken 接入文档的可用列表里。
3. Claude Code 的配置文件准备为 settings.json。
4. Codex 的配置文件准备为 config.toml。
5. 终端或 IDE 已重启，确保环境变量和配置重新加载。
6. 实验脚本里记录每次请求的 usage 字段，而不是只记录最终答案。

统一入口的好处是：Claude Code 和 Codex 可能使用不同的客户端协议，但最终都通过同一个 Base URL 调用模型。这样你在核对 Token 消耗时，不需要在多个供应商后台之间切换，也不会把客户端差异误当成治理收益。

可复制配置：Claude Code 的 settings.json 与 Codex 的 config.toml

下面给出最小配置模板。把 MODEL_ID 替换成你在 TaoToken 接入文档里选择的模型 ID，把 YOUR_API_KEY 替换成实际 Key。

Claude Code 一般使用 settings.json。常见位置是：

~/.claude/settings.json

项目级配置也可以放在项目目录下：

.claude/settings.json

配置内容参考：

{ "env": { "ANTHROPIC_BASE_URL": "https://taotoken.net/api", "ANTHROPIC_AUTH_TOKEN": "YOUR_API_KEY", "ANTHROPIC_MODEL": "MODEL_ID", "ANTHROPIC_SMALL_FAST_MODEL": "MODEL_ID" } }

这里的关键点有三个：

• ANTHROPIC_BASE_URL 必须指向 https://taotoken.net/api。
• ANTHROPIC_AUTH_TOKEN 填 YOUR_API_KEY。
• ANTHROPIC_MODEL 和 ANTHROPIC_SMALL_FAST_MODEL 填同一个或不同可用模型 ID，以接入文档为准。

Codex 一般使用 config.toml。常见位置是：

~/.codex/config.toml

配置内容参考：

model = "MODEL_ID" model_provider = "taotoken" [model_providers.taotoken] name = "TaoToken" base_url = "https://taotoken.net/api" env_key = "TAOTOKEN_API_KEY" wire_api = "chat"

然后设置环境变量。Linux/macOS：

export TAOTOKEN_API_KEY=YOUR_API_KEY

Windows PowerShell：

$env:TAOTOKEN_API_KEY="YOUR_API_KEY"

配置完成后，建议先用最小请求验证通道。Claude Code 风格的消息接口可以用类似下面的形式测试，端点以接入文档为准：

curl https://taotoken.net/api/v1/messages \ -H "x-api-key: YOUR_API_KEY" \ -H "anthropic-version: 2023-06-01" \ -H "content-type: application/json" \ -d '{ "model": "MODEL_ID", "max_tokens": 32, "messages": [ {"role": "user", "content": "只回复 OK"} ] }'

如果走 OpenAI 兼容的 chat 接口，也可以用：

curl https://taotoken.net/api/v1/chat/completions \ -H "Authorization: Bearer YOUR_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "MODEL_ID", "messages": [ {"role": "user", "content": "只回复 OK"} ], "max_tokens": 32 }'

能返回 200 和正常文本，再进入 Prompt-order 实验。

验证请求与成功结果：20 个问题、35% 到 0%，以及 Token 用量怎么核对

实验执行时，不要直接跑完整历史对话。先构造 20 个与用户当前状态相关的问题。每个问题包含两条矛盾记忆，然后生成两种 Prompt：

AB 顺序：Memory A + Memory B + Question BA 顺序：Memory B + Memory A + Question

对每个 sample 调用同一条 TaoToken 通道，记录答案和 usage。成功结果至少应包含以下特征：

1. HTTP 状态正常，没有 401、404、429 等错误。
2. 返回内容非空，且能解析出答案字段。
3. 响应或请求记录里能看到 input_tokens 和 output_tokens。
4. 同一 sample 的 AB 与 BA 可以比较，answer 相同则未翻转，不同则翻转。
5. 不治理组统计到 7/20 翻转，翻转率 35%。
6. HSM-CR 治理组统计到 0/20 翻转，翻转率 0%。

可以用下面的 Markdown 表格记录结果：

用量核对建议按 sample 级记录，而不是只看总消耗。因为 Prompt 顺序实验的输入长度可能接近，但治理前后差异会体现在上下文构造上。你可以统计：

原文还提到长期记忆场景下的上下文成本差异：在 PersonaMem 1M 的 500 个同源配对实验中，Sliding Window 平均每次查询约 11.8 万上下文 token，而 HSM-CR 约 1.6k token，量级差距约 71 倍。这里要注意，这是上下文成本实验，不是价格结论，也不能简单说成完全无损。更准确的理解是：治理和结构化检索显著降低了进入 Prompt 的上下文规模，同时回答稳定性需要单独看翻转率。

对你自己的复现实验来说，最重要的成功结果不是「省了多少倍」这一句话，而是同一张表里同时出现：

• No CR 的 answer 翻转 7 次。
• HSM-CR 的 answer 翻转 0 次。
• 每个 sample 的 input_tokens/output_tokens 可追溯。
• 重试和缓存没有污染统计。

做到这四点，才算把「验证用量」和「验证稳定性」接在了一起。

本篇常见错排查：401、404、模型名和 settings.json/config.toml 路径

复现时最常见的错误不是实验逻辑，而是接入配置。下面按现象排查。

现象一：401 或 403。

优先检查 YOUR_API_KEY 是否填写正确。Claude Code 看 ANTHROPIC_AUTH_TOKEN，Codex 看 env_key 对应的 TAOTOKEN_API_KEY。不要把 Key 写成带引号、带空格、带 Bearer 前缀的字符串，除非接入文档明确要求。修改 settings.json 或 config.toml 后，重启终端和 IDE。

现象二：404。

多数情况是 Base URL 拼错。Claude Code 的 ANTHROPIC_BASE_URL 应该填：

https://taotoken.net/api

如果你填成 https://taotoken.net/api/v1，而客户端又自动追加 /v1/messages，就可能出现重复路径。也不要填官网首页或带 UTM 的页面地址。官网链接用于创建 Key 和查看文档，API 调用只使用 https://taotoken.net/api。

现象三：模型名不识别。

检查 MODEL_ID 是否真的替换了。Claude Code 里是 ANTHROPIC_MODEL，Codex 里是 model。两边模型 ID 可以不同，但必须来自可用列表。大小写、日期后缀、连字符都要按文档来。不要用上一个实验的旧模型名直接套。

现象四：settings.json 或 config.toml 不生效。

Claude Code 确认 settings.json 是放在 ~/.claude/settings.json 还是项目 .claude/settings.json。Codex 确认 config.toml 在 ~/.codex/config.toml。环境变量要在启动客户端的终端里生效。改完配置后，最好新开终端再跑一次最小 curl 或最小对话。

现象五：翻转率复现不出来。

先检查 temperature 是否固定为 0，问题集是否还是那 20 个，记忆内容是否真的矛盾，Prompt 模板是否只改了顺序。如果模型 ID 变了、系统提示词变了、检索 Top-K 变了，翻转率就没有可比性。建议把每次实验的模型、参数、Prompt 模板版本写进记录。

现象六：Token 用量对不上。

流式输出、重试、并发、缓存命中都会影响你看到的统计。以响应 usage 和 TaoToken 请求记录为准，不要用文本长度或行数估算。重试产生的 token 要单独列出来，否则会把接入抖动算进治理成本。若同一 sample 的 AB 和 BA 输入长度接近，但 output_tokens 差异很大，也要检查是否触发了不同停止条件。

现象七：把 API 地址和官网地址混用。

官网地址用于登录、创建 Key、看文档。API 地址用于 Claude Code/Codex 的 Base URL。两者不能互换。带 UTM 的链接适合点击进入控制台，不适合填进 settings.json 或 config.toml。

语义一致 CTA：接入、排障和长期 Agent 分别走哪条入口

如果你正在复现这组 Prompt-order 实验，或者卡在 settings.json、config.toml、401/404 这类接入问题上，建议先把 Key 和接入路径固定下来：到 TaoToken API Keys 创建或确认 YOUR_API_KEY，再按 接入文档 核对 Claude Code 的 ANTHROPIC_* 配置和 Codex 的 model_provider、base_url、env_key。

Base URL 统一使用 https://taotoken.net/api。这样你在跑 20 个问题的 AB/BA 对照时，才能在同一批请求记录里核对 input_tokens、output_tokens、重试次数和答案翻转情况。若你要把这类记忆治理实验长期跑成 Agent 任务，可以再看 Coding Plan；如果只是验证某个模型在换序 Prompt 下的回答稳定性，先用 API Keys 和接入文档把 Claude Code/Codex 调通，再回到控制台请求记录里做用量核对。这样 35% 到 0% 的翻转率，才和每一次 token 消耗落在同一套数据里。