用Agents-K1挖掘科研文献：SciERC、BC5CDR等生物医学语料的NER/RE抽取实战

Agents-K1 是一款面向科研文献挖掘的 4B 知识抽取模型，基于 Qwen3-4B-Instruct-2507 使用 GRPO 强化学习微调而成，专攻英文科学文本中的命名实体识别（NER）与关系抽取（RE）。它在 SciERC、BC5CDR、NCBI-Disease、GENIA_NER 等生物医学语料上平均 F1 提升 3.3 分，并能输出带逐步推理的严格 JSON 结果，非常适合用来做文献信息抽取、知识图谱构建和多跳问答预处理。

一、Agents-K1 是什么：科研文献抽取的骨干模型

Agents-K1 不是一个通用聊天模型，而是一个"专职"的结构化信息抽取器 🎯

• 任务定位：面向 NER（找实体）和 RE（找实体间关系），输出结构化 JSON
• 训练方式：GRPO（Group Relative Policy Optimization）规则奖励强化学习，奖励由格式分（0.2）、JSON 合法性分（0.1）和任务 F1（0.7）组成，无需人工偏好数据
• 输出格式：严格的think...+ ` 标签结构，推理过程可审计，JSON 解析可靠
• 训练数据：来自 IEPile，覆盖 22 个源数据集，既含科学域（SciERC、GENIA_NER、BC5CDR、BC2GM、BC4CHEMD、AnatEM、NCBI），也含通用域（CoNLL2003、NYT11、kbp37 等）；约 30% 样本为空标签，防止模型"无中生有"

模型为 36 层、2560 维隐藏层的 Qwen3 架构，bfloat16 精度，最大支持 262144 上下文长度，详见 config.json。

二、如何加载 Agents-K1：最快上手步骤

使用 Hugging Facetransformers库即可加载运行：

from transformers import AutoModelForCausalLM, AutoTokenizer model_id = "InternScience/Agents-K1" tok = AutoTokenizer.from_pretrained(model_id) model = AutoModelForCausalLM.from_pretrained( model_id, torch_dtype="bfloat16", device_map="auto")

模型沿用 Qwen3-4B-Instruct 的对话模板（定义在 chat_template.jinja 中），生成参数见 generation_config.json（默认 temperature=0.7、top_k=20、top_p=0.8）。

三、NER 实战：从生物医学文本中抽取实体

NER 任务要求必须提供实体类型列表（schema 驱动）。以 BC5CDR 风格的疾病/药物抽取为例：

User: You are an expert in named entity recognition. Please extract entities that match the schema definition from the input... Entity types to extract: ["disease", "chemical"] Input text: Insulin was tested for the treatment of diabetes...

模型会先输出中的逐步推理（如"diabetes 属于疾病、insulin 属于化学物质"），再在中给出 JSON 字典。若文本中不存在某类实体，会返回空列表——这正是训练中空标签样本带来的能力，能有效降低误报。

对 NCBI-Disease、GENIA_NER、BC4CHEMD 等语料，只需把Entity types换成对应类型（如 disease、gene/protein、chemical），流程完全一致 ✅

四、RE 实战：抽取"头实体-关系-尾实体"三元组

关系抽取（RE）的提示只需把实体类型换成关系类型：

Relation types to extract: ["expression", "coexpression", ...]

输出是一个 JSON 字典，每个关系类型映射到{head, tail}实体对列表。以 SciERC（科学文献中的基因/蛋白关系语料）为例，模型可以识别出"蛋白 X 在疾病 Y 中被上调"这类表达关系，直接产出可用于知识图谱的三元组 🔗

conll04 这类通用域 RE 数据同样适用，模型在训练与评测中均保持了稳定增益。

五、效果对比：10 个 NER/RE 基准的成绩单

官方在 10 个基准的官方测试集上报告 micro-F1（摘自 README.md）：

值得注意：5 个 CrossNER 域并不在训练数据中，全部取得提升，说明模型具备真实泛化能力而非过拟合 📈

六、使用注意事项（重要 ⚠️）

1. 必须 schema 驱动提问：一定要显式给出实体/关系类型列表；自由提问很可能得到格式错误的 JSON
2. 面向英文科学文本：模型针对英文科研与通用域训练，中文文献建议先翻译或使用其他模型
3. 定位清晰：它专为结构化抽取设计，不适合当作通用聊天模型
4. 数据合规：Apache-2.0 许可发布，但派生使用时需同时遵守 IEPile 各子数据集的许可

七、仓库文件速查

💡 小贴士：把 Agents-K1 作为"抽取层"接入你的文献挖掘流水线——先用它批量产出实体与关系 JSON，再入库构建知识图谱，即可支撑引用链接、多跳问答等下游任务。