不用给大模型"塞提示词"，还能省八成 token：GLiNER2 到底动了什么"手术"
【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1
最近技术社区里，"省 token"三个字被玩成了梗。
有博主刷到一个项目，名字翻译成"马尾辫"，头像一看——长马尾、椭圆眼镜，介绍里写着"你给他看五十行代码，他反手换成一行"。评论区笑翻了，但笑完发现人家是真能帮你省 token、省钱的。
这波讨论里，顺带被扒出来一个"老玩家"：GLiNER2（读作 g-line-r-two）。它没靠梗出圈，靠的是一个更朴素的问题——
你想从一段文字里抠出人名、公司、金额、情绪、字段……为什么非得每次去问一个千亿参数的大模型？
大模型当然能干这事。但你得先把一整段"作业要求"喂给它，它再一个字一个字把答案"打"出来，最后你还得祈祷它别把 JSON 格式打错、别瞎编。token 哗哗地烧，延迟一秒起，钱按量算。
GLiNER2 团队（Fastino AI）今年 7 月把论文挂上了 arXiv，编号 2507.18546，社区里的工程党这两天正在疯狂拆解它。今天咱们就把这篇论文"翻译"成人话，看看它到底动了哪几台手术。
一、先说人话：这是个什么东西？
一句话：GLiNER2 是个"会做阅读理解题"的小型 AI，专门干"从文字里抠信息"这一件事。
大模型抽信息像什么？像找博士论文导师帮你读合同：你得把要求和背景全文递过去，他慢悠悠给你打出来一份总结，按字数收费，偶尔还夹带私货。
GLiNER2 像什么？像开卷考试里的那本"参考答案速查表"。你把题目（要抽哪些东西）和原文一贴，它"唰"地给你划出答案、标好位置，不跟你多聊一个字。
它的体量有多大？大约2 亿多参数，什么概念——现在动辄喊"70 亿参数"的大模型，它是人家的几十分之一。官方给的三个版本里，最小的只有7400 万参数，连显卡都不需要，普通电脑的 CPU 就能跑，单条文本毫秒级出结果。
最关键的是：它不是 2024 年那个初代 GLiNER 的换皮。初代只会"圈实体"（比如认出人名地名），社区后来自己又长出了抽关系的、做分类的分支模型，各干各的，部署时一套得伺候好几个。GLiNER2 做的事，就是把这帮"散装"兄弟合并成一整建制。
二、它到底动了哪三台"手术"？
第一台：把"作业要求"从作文改成了填空题
用大模型抽信息，输入端的 token 大头是什么？是你写的那一大段自然语言指令——"请仔细阅读以下文本，帮我找出其中的人名、公司名、产品名和金额，以 JSON 格式输出，格式如下……"
GLiNER2 换了一套思路：用一张极简的"任务说明书"（术语叫 Schema）代替长篇大论。说明书里只写"要抽什么"，比如实体类型、分类标签、要填的字段名，格式高度压缩。
打个比方：以前是跟新员工开 30 分钟会交代工作，现在是发一张 A4 纸的操作表，条目清清楚楚。输入端直接瘦下来一大截。
第二台：从"打答案"改成"划答案"——80% 的 token 就省在这
这是最狠的一刀，也是"省 token"的真正来源。
大模型是"生成式"的：输出要靠一个字一个字往外蹦。抽出来的每个实体、每个逗号、每个括号都要花 token，花 token 就要花时间和钱，而且蹦到一半还可能崩格式。
GLiNER2 干脆不生成任何文字。它读完原文后，做的事像极了做语文划线题：
- 实体？直接给你标出开头在哪、结尾在哪，"Tim Cook"四个字从原文里划出来，不用重新"写"一遍；
- 分类？给每个候选标签直接打分，选最高分，不输出推理过程；
- 表格字段？先数一句"这段里有 2 条记录"，再逐格去原文里"划"内容。
输入只扫一遍，输出几乎零 token。
这就是"不用 LLM 抽 JSON"的核心机制：不是它比大模型聪明，而是它根本不走"一个字一个字打字"这条路。省 token，本质是省掉了"把答案打出来"这个动作本身。
第三台：几个模型并成一个，一次"阅读"办所有事
以前的工程现场是这样的：认实体一个模型，判情感又一个，抽表格再来一个。每加一个任务，多一套部署、多一遍延迟，标签一改还得重训。
GLiNER2 把实体识别、文本分类、结构化表格抽取、关系抽取全塞进同一个模型。你一口气声明"我要抽人名、判情绪、填采购表、找出谁给谁上班"，它只把原文读一遍，四个任务同时出结果。
算力上等于：一次阅读理解 + 几个轻量打分头，而不是"任务数 × 完整模型"。
三、效果到底怎么样？直接上数字
论文里的数据（都是"零样本"，也就是不给它任何额外训练，直接用）：
- 分类任务：7 个公开基准上，GLiNER2 平均准确率0.72，把同为开源的 GLiClass（0.63）和 DeBERTa 零样本（0.69）都压了下去，只比 GPT-4o（0.84）低一截——而它小了两个数量级。
- 实体识别：跨领域基准上 F1 分数0.590，跟 GPT-4o 的 0.599 基本打平，个别领域（AI、文学）甚至反超。
- 速度（CPU 上）：50 个标签的分类，它只要208 毫秒。对比方案里有个经典做法是"每个标签单独跑一遍模型"，那种做法在 20 个标签时慢它6.8 倍——翻译成人话，成本直接砍掉八成以上；而 GPT-4o 走 API，慢它约2.6 倍（还要付钱）。
另外说个冷知识：这模型是用25 万多条样本喂出来的，真实文档（新闻、维基、法律、论文）+ GPT-4o 帮忙打的标注和合成数据，所以它见得多、不挑食，客服话术、邮件、社交媒体都能上手。
社区工程党评价得很实在：**"字段基本固定、量大、要低延迟、数据不能出内网"的场景，它就是答案；开放式理解长报告，还是得找大模型。**不是谁取代谁，是分工——GLiNER2 当前锋过滤器和大头兵，大模型当军师。
四、2.5 多语言版来了，这次连中文都照顾到了
前面聊的是 2 代的论文本体，而最近社区在盯的，是它的新版本GLiNER2.5，尤其是今天这篇的主角——多语言版（multi）。
它相当于给上面的"全能选手"又升了一级：
- 底座换成了多语言编码器（mDeBERTa-v3-base），2.87 亿参数，权重文件 594MB——什么概念？比一部蓝光电影还小，下载几分钟的事；
- 一次最多能读 4096 个词的长段落，比论文里说的 2048 还翻倍；
- 新加了**"带属性的实体"**：不光认出"Alice 和 Bob 是人名"，还能顺手标出"Alice 这句是褒义，Bob 是吐槽"；
- 关系抽取直接成图："Alice 为 Acme 工作、Acme 在巴黎"，一次调用全给你画出来，连知识图谱的原料都备好了；
- 长文档也不怕，自带分段扫描模式，自动把结果拼回原文位置。
一句话总结这版：一个模型、一次调用，实体 + 分类 + 表格 + 关系 + 情绪标签全都要，还能跨语言。
五、普通人怎么上手？门槛高不高？
这是它最香的部分——门槛低到离谱。
不需要显卡，不需要服务器，甚至不需要写代码。
- 官方配了网页版演示，打开就能玩：左边贴文本，右边配标签，实时看抽取效果，零门槛体验；
- 会一点 Python 的开发者，一行命令装好，加载模型、贴上文本、声明要抽什么，十几行之内就能看到结果；
- 想省事的，团队还托管了云端 API，连权重都不用下；
- 觉得通用版不够懂你的业务？扔几百条自己标好的数据，就能微调出"专属版"，官方连训练流程都打包好了。
适合谁？客服系统要做工单自动分拣的、要把合同简历发票"表格化"的、给大模型知识库（RAG）入库前先扫一遍敏感个人信息的、做跨语言内容分析的——基本就是所有"文本要过机器"的行业。而且它开源、Apache 2.0 协议，商用不心疼。
六、最后聊两句
这波"省 token"的热议，表面上是两个项目的段子，背后其实是整个行业的一次集体反思：
不是所有活儿都得交给最大的锤子。
大模型很强，但让它干"从固定格式文本里抠固定字段"这种活，就像派清华博士去流水线上拧螺丝——能拧，但拧一颗的成本是熟练工的一百倍。GLiNER2 代表的这类小模型，是流水线上的老师傅：不挑活、不废话、不要显卡、数据不出门。
未来的 AI 系统大概率不是"一个大包工头管一切"，而是大模型当军师 + 一群各怀绝技的小专家干活。GLiNER2 就是其中一个已经能打硬仗的。
最后留个问题给评论区：
如果给你一个"贴文本、秒出表格"的小工具，你最想先拿它处理什么？合同、邮件、还是你家的快递单和体检报告？
【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
