做 Cohere 文档摘要，TaoToken 只提供 Base URL

1. Cohere 合并热点下的文档摘要出口替换：先拿 TaoToken Key 与 Base URL

最近 Cohere 与 Aleph Alpha 宣布签署最终协议合并，并以 Cohere 品牌继续全球运营，这条消息对普通用户可能只是行业动态，但对正在维护知识库、每天要跑 Cohere 文档摘要任务的开发者来说，工程上更值得先处理的是「摘要出口」的稳定接入。本文不展开评论合并本身，只解决一个具体问题：原来用 Cohere 作为文档摘要出口，现在把请求配置切到 TaoToken，怎么拿 Key、Base URL 填什么、Claude Code / Codex / CC Switch 怎么配、批量摘要脚本怎么跑通。

准备 Key 时打开 https://taotoken.net/?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 获取 Key；工具配置里的 Base URL 统一使用https://taotoken.net/api，Key 占位符先写成YOUR_API_KEY，不要在代码里硬编码真实 Key。本文的可复现产出包括：摘要请求片段、Base URL 对照表、Claude Codesettings.json示例、Codexconfig.toml示例、CC Switch 三件套配置、批量输出 JSONL 样例，以及 401 / 404 / 429 等常见报错的排查路径。所有命令和脚本建议在你本地终端执行，不要直接连生产库，也不要让 Agent 绕过权限去操作线上系统。

如果你原来的摘要流程是「读取 Cohere 文档 → 调用 Cohere endpoint → 返回摘要 → 写入知识库」，那么出口替换的核心就是两层：第一层是 SDK 或 HTTP 请求的base_url，第二层是 Key 的环境变量管理。Cohere 原生 SDK、OpenAI 兼容 SDK、Claude Code、Codex CLI 的配置项名称并不一样，尤其不要把 Claude Code 的ANTHROPIC_*套到 Codex 上。下面先给出对照表，再进入可直接复制的请求片段。

2. TaoToken Base URL 对照：Cohere SDK、OpenAI SDK、Claude Code、Codex 别填混

Base URL 在工具配置中不加 UTM 参数，统一写：

https://taotoken.net/api

不要写成https://taotoken.net/api/v1，也不要手动拼/chat/completions到base_url里，因为多数 SDK 会自己拼接路径。下面是常见场景对照：

创建或查看 Key 时，从 https://taotoken.net/console/api-keys?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 进入控制台。模型 ID 不要凭记忆写，建议在 https://taotoken.net/models/detail/chat?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 里选好对话模型后复制模型名，再填入脚本或工具配置。很多 400 / 404 报错不是 Key 的问题，而是模型名和 Base URL 路径组合错了。

3. 摘要请求片段：OpenAI 兼容方式跑通第一篇 Cohere 文档

知识库开发者最常用的方式是 OpenAI 兼容 SDK，因为分块、重试、并发、JSONL 输出都容易控制。假设你已经把 Key 放进环境变量：

export TAOTOKEN_API_KEY="YOUR_API_KEY" export TAOTOKEN_MODEL="YOUR_MODEL_NAME"

最小请求片段如下：

import os from openai import OpenAI client = OpenAI( api_key=os.environ.get("TAOTOKEN_API_KEY", "YOUR_API_KEY"), base_url="https://taotoken.net/api", ) doc = """ Cohere 文档片段：这里放你要摘要的原始内容。 建议一次不要超过模型上下文限制，长文档先分块。 """ resp = client.chat.completions.create( model=os.environ.get("TAOTOKEN_MODEL", "YOUR_MODEL_NAME"), messages=[ { "role": "system", "content": "你是知识库文档摘要助手，输出简洁、可入库的 JSON。", }, { "role": "user", "content": ( "请把下面文档压缩成 JSON，字段包括 title、summary、tags、key_points、risks。" "只输出 JSON，不要 Markdown 代码围栏。\n\n" + doc ), }, ], temperature=0.2, ) print(resp.choices[0].message.content)

如果模型支持response_format，可以加上：

response_format={"type": "json_object"},

但如果接口返回不支持该参数，就删掉这一行，继续用提示词约束 JSON 结构。摘要任务不需要太高温度，temperature=0.2到0.3比较稳。若你的 Cohere 文档里有大量代码块、表格、参数表，建议在提示词里明确要求「保留接口名、参数名、限制条件、版本号」，否则摘要容易只剩泛泛而谈的几句话。

你也可以先用 curl 做一次连通性验证：

curl -X POST "https://taotoken.net/api/chat/completions" \ -H "Authorization: Bearer YOUR_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "YOUR_MODEL_NAME", "messages": [ {"role": "system", "content": "你是文档摘要助手。"}, {"role": "user", "content": "用三条要点总结：Cohere 文档摘要任务出口替换。"} ], "temperature": 0.2 }'

curl 能通，说明 Key、Base URL、模型名三项基本正确。如果 curl 不通，先别改脚本，优先排查 Key 是否已替换、Base URL 是否多写了/v1、模型名是否从模型对话页复制。

4. 批量摘要脚本：分块、并发、JSONL 输出样例

单个请求跑通后，就可以做批量处理。下面脚本读取docs/目录下的 Markdown、txt、rst 文件，先分块摘要，再合并成最终 JSON，最后写入summaries.jsonl。这是知识库入库前比较实用的中间格式，后续可以导入向量库、搜索索引或审核后台。

import json import os import pathlib import time from typing import Iterable from openai import OpenAI API_KEY = os.environ.get("TAOTOKEN_API_KEY", "YOUR_API_KEY") BASE_URL = "https://taotoken.net/api" MODEL = os.environ.get("TAOTOKEN_MODEL", "YOUR_MODEL_NAME") client = OpenAI(api_key=API_KEY, base_url=BASE_URL) DOC_DIR = pathlib.Path("docs") OUT_FILE = pathlib.Path("summaries.jsonl") DOC_EXTS = {".md", ".txt", ".rst"} SYSTEM_PROMPT = "你是知识库文档摘要助手。只输出一个 JSON 对象，不要输出 Markdown 代码围栏。" def read_text(p: pathlib.Path) -> str: for enc in ("utf-8", "utf-8-sig", "gb18030"): try: return p.read_text(encoding=enc) except UnicodeDecodeError: continue return p.read_text(encoding="utf-8", errors="ignore") def chunk_text(text: str, size: int = 6000, overlap: int = 400) -> Iterable[str]: start = 0 while start < len(text): end = min(start + size, len(text)) yield text[start:end] if end >= len(text): break start = max(0, end - overlap) def summarize_one(path: pathlib.Path) -> dict: text = read_text(path) parts = list(chunk_text(text)) partials = [] for i, part in enumerate(parts): prompt = f"""文档路径：{path} 分块：{i + 1}/{len(parts)} 任务：为这一段写 3-6 条要点，保留关键名词、接口名、参数名和限制条件。 内容： {part} """ resp = client.chat.completions.create( model=MODEL, messages=[ {"role": "system", "content": SYSTEM_PROMPT}, {"role": "user", "content": prompt}, ], temperature=0.2, ) partials.append(resp.choices[0].message.content) time.sleep(0.5) merge_prompt = f"""以下是同一篇文档的分块摘要。请合并成最终 JSON： {{ "title": "文档标题", "summary": "不超过 200 字的摘要", "tags": ["标签1", "标签2"], "key_points": ["要点1", "要点2"], "risks": ["注意事项或限制"] }} 分块摘要： {chr(10).join(partials)} """ final = client.chat.completions.create( model=MODEL, messages=[ {"role": "system", "content": SYSTEM_PROMPT}, {"role": "user", "content": merge_prompt}, ], temperature=0.1, ) raw = final.choices[0].message.content.strip() data = json.loads(raw) data["source_file"] = str(path) return data def main() -> None: files = [p for p in DOC_DIR.rglob("*") if p.suffix.lower() in DOC_EXTS] with OUT_FILE.open("w", encoding="utf-8") as f: for p in files: try: item = summarize_one(p) f.write(json.dumps(item, ensure_ascii=False) + "\n") f.flush() print("ok", p) except Exception as e: print("fail", p, repr(e)) if __name__ == "__main__": main()

运行：

python batch_summarize.py

输出样例：

{"title": "Cohere Rerank 使用说明", "summary": "本文说明 Rerank 的输入、候选集构造、分数解释与常见限制。", "tags": ["Cohere", "Rerank", "检索"], "key_points": ["Rerank 用于对候选文档重新排序", "输入包含 query 与 documents", "分数越高相关性越强"], "risks": ["候选集过大会增加延迟", "需控制 top_n"], "source_file": "docs/cohere-rerank.md"} {"title": "Cohere Embed 批量处理注意点", "summary": "本文整理 Embed 接口的批量大小、维度、截断策略和费用控制建议。", "tags": ["Cohere", "Embed", "向量化"], "key_points": ["长文本需要分块", "批量大小要限制", "注意输入截断"], "risks": ["超长文档需要先切分", "重复调用会增加成本"], "source_file": "docs/cohere-embed.md"}

如果文档量很大，建议把并发控制在 2 到 4，并在异常分支里加指数退避。不要为了追求吞吐把所有请求同时打出去，429 通常就是这么来的。

5. Claude Code settings.json：ANTHROPIC_* 三件套只属于 Claude Code

Claude Code 的配置入口是settings.json，核心环境变量是ANTHROPIC_*。如果你只是用 Claude Code 来辅助阅读 Cohere 文档、生成摘要提示词或整理知识库目录，可以这样配：

{ "env": { "ANTHROPIC_BASE_URL": "https://taotoken.net/api", "ANTHROPIC_AUTH_TOKEN": "YOUR_API_KEY", "ANTHROPIC_MODEL": "YOUR_MODEL_NAME", "ANTHROPIC_DEFAULT_HAIKU_MODEL": "YOUR_SMALL_MODEL_NAME" } }

放置位置通常在用户目录下的 Claude Code 配置目录中，具体路径以你本地安装版本为准。配置后重启 Claude Code，再用内置状态检查确认当前 Base URL 和模型是否生效。这里最容易犯的错是把ANTHROPIC_BASE_URL填成带/v1的地址，或者把YOUR_API_KEY原样留在文件里。另一个错误是把 Claude Code 的ANTHROPIC_*复制到 Codex 配置里，这两套工具的环境变量完全不同。

如果你需要更完整的 Claude Code 接入说明，可以参考 https://taotoken.net/doc/ClaudeCodeAnthropic?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 。文档路径和配置项以该页面为准，本文示例只保留最小可用字段。 Claude Code 适合交互式整理文档，批量摘要仍然推荐用第 3、4 节的 Python 脚本，因为前者不适合无人值守跑几千个文件。

6. Codex config.toml：不要把 ANTHROPIC_* 套到 Codex

Codex CLI 使用config.toml，配置项是model_provider、base_url、env_key这类字段，和 Claude Code 的ANTHROPIC_*不是一套。示例：

model = "YOUR_MODEL_NAME" model_provider = "taotoken" [model_providers.taotoken] name = "TaoToken" base_url = "https://taotoken.net/api" env_key = "TAOTOKEN_API_KEY" wire_api = "chat"

环境变量：

export TAOTOKEN_API_KEY="YOUR_API_KEY"

然后在项目目录下运行 Codex，让它读取当前目录的config.toml。如果你的 Codex 版本对wire_api或 provider 字段有差异，以本机codex --help和官方配置说明为准。关键点只有两个：Base URL 用https://taotoken.net/api，环境变量名不要写成ANTHROPIC_AUTH_TOKEN。把 Claude Code 的配置复制到 Codex，通常表现为启动后仍然走默认 provider，或者直接报鉴权失败。

如果你同时使用 Claude Code 和 Codex，建议把两者配置分目录管理，不要共用同一个环境变量文件。Codex 用TAOTOKEN_API_KEY，Claude Code 用ANTHROPIC_AUTH_TOKEN，这样切换时不容易互相覆盖。

7. CC Switch 三件套与多环境切换：本地、测试、批量任务分开

CC Switch 这类配置切换工具适合管理多个供应商或多个环境。配置时抓住三件套：Base URL、API Key、模型名。新增一个 TaoToken 配置时填写：

名称：TaoToken Base URL：https://taotoken.net/api API Key：YOUR_API_KEY 模型：YOUR_MODEL_NAME

如果是 Claude Code 场景，三件套对应到环境变量就是：

ANTHROPIC_BASE_URL=https://taotoken.net/api ANTHROPIC_AUTH_TOKEN=YOUR_API_KEY ANTHROPIC_MODEL=YOUR_MODEL_NAME

建议至少分三个配置档：local-dev用于单篇文档调试，test-batch用于小批量摘要验证，prod-batch用于正式批量任务。每档可以使用不同 Key 或不同模型，避免调试时的请求污染正式任务。切换后先用一篇短文档验证返回 JSON 是否可解析。如果 CC Switch 切换后 Claude Code 仍然走旧配置，检查是否还有系统级环境变量覆盖了settings.json。

8. 排障清单：401、404、429、模型名与流式输出

401 Unauthorized：优先检查YOUR_API_KEY是否已替换，环境变量是否已export，以及工具读取的是不是另一个配置文件。命令行里可以临时打印变量是否存在，但不要把 Key 完整输出到日志。

404 Not Found：多数情况是 Base URL 多写了/v1或/chat/completions。正确 Base URL 是https://taotoken.net/api，SDK 会自己拼路径。另一个可能是模型名不存在，去模型对话页复制正确 ID。

400 Bad Request / model not found：模型名大小写、前缀、版本号必须与模型列表一致。不要把展示名称当成模型 ID。

429 Too Many Requests：批量任务降并发，增加time.sleep，失败重试采用指数退避。知识库摘要任务通常可以接受几分钟延迟，不必追求瞬时吞吐。

流式输出中断：检查本地网络、超时设置和终端缓冲。批量任务建议先不用流式，直接拿完整响应再解析 JSON。

Claude Code 配置不生效：确认settings.json中env字段层级正确，重启 Claude Code，检查状态页显示的 Base URL 和模型。不要把 Codex 的config.toml与 Claude Code 的settings.json混用。

Codex 配置不生效：确认model_provider与[model_providers.taotoken]名称一致，环境变量TAOTOKEN_API_KEY已导出，wire_api与接口兼容。不要写ANTHROPIC_*。

9. 上线前检查与 CTA 路径：模型对话 → Coding Plan → 创建 Key → Claude Code 文档

上线前逐项检查：

1. Base URL 是否统一为https://taotoken.net/api，没有多余路径。
2. Key 是否用环境变量或配置文件管理，没有硬编码进代码仓库。
3. 模型名是否从模型对话页复制，批量脚本和交互工具是否一致。
4. 单篇摘要、小批量摘要、异常重试是否都跑通。
5. 输出 JSONL 是否能被下游入库程序解析，字段是否稳定。
6. Claude Code 与 Codex 配置是否分文件管理，没有互相套用环境变量。

完整的高转化路径可以按这个顺序走：先在 https://taotoken.net/models/detail/chat?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 选好模型并试聊一段 Cohere 文档；再到 https://taotoken.net/coding-plan?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 查看 Coding Plan 是否适合你的开发工作流；接着去 https://taotoken.net/console/api-keys?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 创建 Key，把YOUR_API_KEY替换成真实值；最后按 https://taotoken.net/doc/ClaudeCodeAnthropic?utm_source=taotoken_aicg_blog_end&utm_content=cohere_doc_summary 配置 Claude Code。整个流程中，TaoToken 只提供 Base URL 和 Key 接入点，摘要任务的分块策略、提示词、重试、入库结构仍然由你的知识库工程决定。把出口替换做小、做稳、可回滚，比一次性重写整个摘要流水线更重要。