那个挂着「马尾辫」的 GitHub 项目刷屏了:GLiNER2 号称帮你省下 80% 的 token
【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1
最近开源圈流传着一个项目,名字不响、头像不酷,打开仓库首页,第一反应多半是:"这是哪个大聪明在恶搞?"
没错,就是它——被程序员戏称为「马尾辫」的那个仓库。有掘金博主专门写了篇吐槽文,标题就很有画面感:"幽默,一个 GitHub 名字叫'马尾辫',但是他给你省了 80% 的 token"。文章两千多阅读、十几条点赞,评论区清一色是:"笑完我去装了。"
今天咱不笑,聊聊它到底在帮谁省钱。
一、它到底是个啥?一句话说清
先说人话。
现在大家让 AI 干活的套路是这样的:把一段文字丢给 ChatGPT 或者大模型,说"帮我从这段话里把人名、公司、产品、价格都挑出来,整理成一张表"。大模型确实能办到,但它有个毛病——又贵、又慢、还不一定守口如瓶:你每发一次请求,输入的文字、它生成的表格,全都要按 token 计费;而且你的合同、客户数据,都得原封不动传到别人的服务器上。
GLiNER2 的思路完全反过来:它不是大模型,是一个只有2.87 亿参数的小模型(对比一下,主流大模型动辄 70 亿起步,差了两百倍)。你把它当成一位专门管档案的老文书:不用教、不用喂整篇文章、不用看它一步步"思考",你把文字和"要抓哪几样东西"往它面前一放,它一次扫描、瞬间出结果。
更关键的是,这位"老文书"可以完全放在你自己电脑上跑。CPU 就行,不用显卡,不用联网,数据一个字节都不出你的机器。
二、到底有多牛?三个点最扎心
第一个:一个顶五个,一次出全套。
普通的文字处理工具,挑人名是一个模型、判情绪是一个模型、抽关系又是一个模型,得摆一排。GLiNER2 是一个模型同时干五样活:抽实体、判主题和情感、整理成结构化表格、抓人物之间的关系、甚至能给每个被提到的人单独标上"他对这件事是高兴还是不满"。
官方 README 里有组直观的演示,输入一句话:"苹果 CEO 蒂姆·库克昨天在库比蒂诺发布了 iPhone 15",它直接吐出:公司——苹果(置信度 0.98)、人物——蒂姆·库克(0.97)、产品——iPhone 15(0.96)、地点——库比蒂诺(0.95)。
每条还附带一个"我有多确定"的分数,哪条拿不准,你自己一眼就能看出来,不用盲信。
第二个:小个子,成绩不输大模型。
别小看"只有 2.87 亿参数"。它背后的论文(今年 7 月挂在 arXiv 上)里有一张很能打的对比表:
- 零样本实体识别:GLiNER2 拿了 0.590 分,GPT-4o 是 0.599——基本打平;
- 文本分类 7 个基准平均分:0.72,把同级别的其他开源方案甩开了半个身位;
- 速度:在普通 CPU 上,50 个标签的分类任务只要约 0.2 秒,比 GPT-4o 走 API 还快约 2.6 倍,比同类小模型方案快一个数量级。
翻译成人话:挑信息的活,它干得和几十倍体量的大模型差不多,但快得多,还不要钱。
第三个:省钱省在哪,这里给你算明白。
"省 80% token"这个说法是社区传开的,具体省多少因场景而异,但方向一点不虚。走大模型路线,你处理一条文本,要付"输入 token + 输出 token + 等待时间"三笔账,文本越长、表格越复杂,账单越肥;走 GLiNER2 路线,小模型本地一次算完,输出短小精悍,token 账单直接趋近于零,而且批处理一万条和一条,单价不打折——它压根没单价。
另外它还是多语种的,中英混着来、二十多种语言都支持,对处理跨境电商评价、海外舆情这类活儿特别对路。
三、普通人怎么上手?门槛有多高?
先泼半盆冷水:它不是那种装了就跟你聊天的 App,而是给做 AI 应用的人准备的"省钱配件"。
但对开发者来说,门槛真的低到离谱:
- 不需要显卡,一台普通的办公笔记本就能跑(官方还备了一个 7400 万参数的"迷你版",跑在 CPU 上飞快);
- 安装就是一行命令的事,装完直接调用,模型自动下载,全程不用碰服务器;
- 嫌折腾?它家还有个云端托管服务,上传一批标注数据就能帮你微调出"行业专属版",不用自己租 GPU;
- 开源协议是 Apache 2.0,商用免费,不用看谁脸色。
谁最受益?做 RAG 知识库和智能问答的团队(先把文档里的关键信息"刮"干净,再喂给大模型,成本立降)、做电商订单和售后工单自动归档的公司、需要盯舆情分类的媒体运营,还有金融、法律这种数据绝对不能出内网的行业——最后这一点,恰恰是大模型 API 最给不了的东西。
四、程序员为什么看完会心一笑
因为大家突然发现,风向变了。
过去一年,行业里有个默认动作:遇到什么文字处理需求,第一反应都是"丢给大模型吧"。大模型什么都行,但"什么都能干"的代价是"什么都贵"。GLiNER2 这类项目的走红,等于给所有人提了个醒——不是每个活都得请教授出马,一个训练有素的专业技工,干起特定活儿又快又便宜。
这就是那个"马尾辫"项目真正有意思的地方:它名字像个玩笑,干的却是笔实打实的账。GitHub 上 2400 多颗星,一半是冲着名字来的,一半是算了算电费之后默默加上的。
最后留个问题给大家:你手里有没有那种"明明很简单、却只能靠大模型硬算"的任务?比如订单归档、评论打标签、合同要素提取——欢迎在评论区聊聊,说不定下一个省 80% token 的项目,就从你们的吐槽里长出来了。
【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考