news 2026/10/9 23:28:33

刚刚开源就登顶热榜:Ornith-1.5 空降 ModelScope 前 15,下载量直奔 2.1 万

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
刚刚开源就登顶热榜:Ornith-1.5 空降 ModelScope 前 15,下载量直奔 2.1 万

刚刚开源就登顶热榜:Ornith-1.5 空降 ModelScope 前 15,下载量直奔 2.1 万

【免费下载链接】Ornith-1.5-35B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/ornith-ai/Ornith-1.5-35B-A3B-GGUF

Ornith-1.5 系列 8 月 19 日官宣开源,20 日 GGUF 量化仓库即在 ModelScope 上线,上线 24 小时内累计下载量冲至 2.1 万量级,并一度挤进 ModelScope 热榜前 15。对于一个单仓库存储体量超过 170GiB 的模型仓库来说,这个数字的分量远超普通的"上榜新闻"。本文基于该仓库(Ornith-1.5-35B-A3B-GGUF)的真实文件与 README,结合社区部署实测数据,拆解三件事:榜单与下载量背后的信号、35B 总参数仅激活 3B 的量化版本为什么被本地部署社区抢着下,以及这次发布在节奏上踩中了什么点。

一、ModelScope 榜单位置与 2.1 万下载量:这组数字说明什么

先给三个可复核的硬数据。发布初期,Ornith-1.5-35B-A3B-GGUF 仓库的累计下载量为 2.12 万;而在文章撰写前的最新平台 API 快照中,该数字已上涨至 2.7 万,仓库星标 128,存储体量 172.8GiB——也就是说,"2.1 万"只是它爬升轨迹上的一个中间点,热度仍在延续。

这组数据有三层值得注意的含义:

第一,热榜本身就是下载速度的函数。模型社区的热门榜由下载增速驱动,而不是由话题量驱动。一个刚上线一两天的新仓库能压进前 15,意味着它不是靠"围观",而是靠实打实的带宽消耗在拉排名。

第二,仓库体量决定了流量含金量。该仓库 6 个 GGUF 文件(BF16 主权重 + Q4_K_M / Q5_K_M / Q6_K / Q8_0 四档量化 + 视觉投影文件)合计约 173GiB,平均一份完整克隆约 165GB。2.7 万次下载对应的是 PB 级出口流量,而不是"顺手试一下"级别的采样行为——每一笔下载背后大概率都是一台准备实际跑推理的机器。

第三,下载量集中在 Q4_K_M 档,指向一个明确的消费场景。20.2GB 的 Q4_K_M 是这个 35B 模型能在单张 24GB 消费级显卡上完整加载的档位(配合 mmap 与量化 KV cache,甚至可以在更小显存上以 CPU offload 方式运行)。对比一下:同参数的稠密模型 BF16 权重就要 70GB。谁在 35B 档位把"单卡可跑"的门槛压到 20GB,谁就能吃到本地部署的主力流量——这个仓库目前的下载曲线,验证的就是这一点。

二、35B 总参数、每 token 激活 3B:量化版为何被社区抢着下

仓库里到底有什么

这个仓库是标准的 llama.cpp 系 GGUF 发布形态,6 个文件全部经 Git LFS 托管,sha256 可从平台元数据直接核对:

文件大小说明
Ornith-1.5-35B-BF16.gguf66.5GB全精度权重
Ornith-1.5-35B-Q4_K_M.gguf20.2GB约为 BF16 的 61%,本地部署主力档
Ornith-1.5-35B-Q5_K_M.gguf23.6GB质量优先档
Ornith-1.5-35B-Q6_K.gguf27.2GB双卡中显存场景
Ornith-1.5-35B-Q8_0.gguf35.2GB接近无损
mmproj-Ornith-1.5-35B-BF16.gguf860MB视觉投影模块,多模态推理时配套加载

两个细节常被忽略:其一,量化压缩比相当漂亮,Q4_K_M 仅占 BF16 的 60.8%,Q8_0 仍有 84.3%,这得益于 MoE 权重的分布特性——量化损失没有稠密 35B 那么敏感;其二,从平台解析出的架构标记为qwen35moe,chat 模板中带有<|vision_start|><|image_pad|><|vision_end|>等视觉标记,配合 860MB 的 mmproj 文件可以确认:这是一个带图像输入能力的 MoE 模型,"35B-A3B" 并不只是纯文本编码模型。

MoE 的"35B 总参数 / 每 token 激活约 3B"是它本地部署的核心优势:显存占用按 35B 算(躲不过去),但计算量和 KV 缓存压力按 3B 算——推理速度接近小模型,知识容量接近 35B。这正是 1.0 时代社区实测反复验证过的结论(16G 显存环境下 4-bit 版 Ornith 35B 推理速度 18.2 t/s,快于同规格 Qwen 35B),到了 1.5 上这个结构性优势被完整保留。

分数撑起了下载量

被抢着下的另一层原因,是分数确实对得起"Agentic 编码模型"的定位。以下数据来自 README 中的官方基准表(全部为 5 次独立运行均值,评测中删除 git 历史并断网以防 reward hacking),对比对象是同档位 Qwen 3.6-35B 及两个 30B 级稠密模型:

基准Ornith-1.5-35B-A3BOrnith-1.0-35BQwen 3.6-35B-A3BGemma 4-31B
SWE-bench Verified79.075.673.452.0
SWE-bench Pro59.650.449.535.7
SWE-bench Multilingual71.469.367.251.7
Terminal-Bench 2.1 (Terminus-2)67.864.252.542.1
Terminal-Bench 2.1 (Claude Code)68.562.849.2—
SWE Atlas QnA39.837.115.5—
GPQA Diamond(推理)89.286.286.084.3

值得玩味的是两点:一是相对自家 1.0 的全面提升幅度很大,尤其是 SWE-bench Pro(50.4 → 59.6)和 SWE Atlas QnA(37.1 → 39.8),而 1.0 到 1.5 的差异恰恰是训练方法学上的差异;二是在终端 Agent 场景(Terminal-Bench 2.1)上拉开 15 分以上差距,这解释了为什么 Ollama、OpenCode 等 CLI/Agent 工具链的接入文档被写进了 README 的一等公民位置。

1.5 的官方说法是把自我改进闭环从 1.0 的"scaffold + rollout 优化"扩展为任务生成、脚手架构建、解题 rollout 三者联合优化:模型持续自己生成新训练任务、自己发现有效解题策略、再用强化学习改进策略,而不是吃固定的人工任务集。社区报道(如 36Kr 的转述)提到其编码自测两个月提升约 11%,"AI 自己出题自己练"正是这次传播度最高的技术叙事。

部署:从一行命令到双卡 256K 上下文

本地侧的部署路径在 README 里写得很直白,官方主推两条命令:

# Ollama:一行拉起 ollama run hf.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF # llama.cpp:OpenAI 兼容 API,256K 上下文 llama-server -hf ornith-ai/Ornith-1.5-35B-A3B-GGUF --port 8000 -c 262144

社区实测(CSDN 部署帖,双 5090 跑 Q8_0)则给出了消费级多卡的典型配置——张量分割 + 量化 KV cache:

llama-server \ --model ./Ornith-1.5-35B-Q8_0.gguf \ --mmproj ./mmproj-Ornith-1.5-35B-BF16.gguf \ --n-gpu-layers 999 --ctx-size 131072 \ --flash-attn auto --load-mode mmap \ --cache-type-k q8_0 --cache-type-v q8_0 \ --split-mode layer --main-gpu 0 --tensor-split 36G,28G

需要多模态就带上--mmproj;生产级双 80GB 卡走 vLLM/SGLang 时,README 强调必须开启--tool-call-parser qwen3_xml与--reasoning-parser qwen3——因为这是一个推理模型,默认 assistant 回合以<think>…</think>开头,不配 reasoning parser 会把思维链混进正文,工具调用同理。长上下文方面官方验证了 YaRN 4.0 倍缩放,可将 262,144 的窗口扩到约 1M token,但明确提示静态缩放对常规长度请求有轻微质量损耗,按需开启。采样参数日常用temperature=0.6, top_p=0.95, top_k=20;如果要复现官方基准,则需用temperature=1.0。

三、登顶速度背后:这次发布踩中了什么节奏

把时间线排开看,这次的热度不是"运气好撞上热搜",而是几个窗口精准叠加的结果。

1. 发布节奏:媒体窗口 24 小时内完成闭环。8 月 19 日 DeepReinforce 官宣 Ornith-1.5 系列(397B MoE / 35B-A3B MoE / 9B 稠密),IT之家等媒体 24 小时内跟进,核心标题就是"部分性能超 Claude Opus 4.8""量化版可跑在手机上"——这是标准的传播钩子。而 ModelScope 的 GGUF 仓库于 8 月 20 日(北京时间)上线,几乎与首发同步,国内用户当天就能在魔搭上拉满速下载,不用再等 HF 源——GGUF 仓库的创建时间戳就落在 8 月 20 日。

2. 需求空档:抢在"下一个 35B MoE"之前落位。多篇部署文章的开头都提到同一个背景:Qwen3.8-27B 发布之后,社区在等它的 35B MoE 版本,结果等来的是 Ornith-1.5-35B-A3B 先行卡位。多篇对比实测直接以"小显存部署大模型的新答案"作为选题框架。空档期卡位,比挤在竞品发布的同一天发布,拿到的自然流量完全不同。

3. 量化先行,跳过"等量化"环节。1.0 时代社区最典型的体验是"先下 BF16、量化慢慢等"。这次首发即提供 BF16 + Q4_K_M/Q5_K_M/Q6_K/Q8_0 全档量化 + 视觉投影文件,llama.cpp、Ollama、LM Studio 用户当天可跑。对 GGUF 仓库这种形态而言,首发即全档量化基本等于把下载曲线的起点直接顶高——下载榜的热度在头 24 小时里就被锁定了。

4. 叙事与分发渠道叠加。"端到端自我改进 / AI 自己出题自己练"提供了区别于"又一个 Qwen 衍生模型"的独立叙事;短视频平台(抖音实测、头条讨论)负责把"35B 总参数只激活 3B"这种强记忆点扩散到泛技术人群;MIT 协议则扫清了二次分发与镜像托管的障碍,ModelScope 社区镜像组织当天完成建库。榜单热度(下载速度)→ 媒体跟进(话题)→ 短视频实测(破圈)→ 更多下载,这条正反馈链在 8 月 20 日一天内就跑完了一圈。

5. 下载量领先指标的真正含义。21k→27k 的下载增速与其说是"新闻热度",不如说是一次集体下注:本地部署人群在用下载按钮投票,押注"激活 3B 的 35B MoE"会成为小显存跑大模型的新默认选项。Q4_K_M 的 20GB 入场券、<think>推理格式与工具调用的一等支持、以及 SWE-bench Verified 79 分这个 30B 级模型少见的分数,共同构成了下注的理由。榜单会回落,但如果后续 397B 的 GGUF 档也补齐,这条曲线大概率还会再走一段。

【免费下载链接】Ornith-1.5-35B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/ornith-ai/Ornith-1.5-35B-A3B-GGUF

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/9 23:28:14

AI应用架构图解:四层图谱驱动工程落地

1. 项目概述&#xff1a;这不是画PPT&#xff0c;而是给AI系统“搭骨架”“图解AI应用架构设计”这八个字&#xff0c;乍看像培训课件标题&#xff0c;实则直指当前AI落地最卡脖子的环节——从模型跑通到业务可用之间&#xff0c;那道看不见却厚得惊人的墙。我带过十几个AI项目…

作者头像 李华
网站建设 2026/10/9 23:23:08

基于YOLO的寄生虫虫卵检测:数据集解析与训练实践

1. 先聊聊&#xff1a;寄生虫虫卵检测为什么要上 YOLO检验科显微镜检查这件事&#xff0c;老检验人应该都有体会&#xff1a;一张粪便涂片看下来&#xff0c;眼睛酸胀是常态&#xff0c;碰上形态相近的几种虫卵&#xff0c;还得反复调焦、换视野、对照图谱。寄生虫虫卵的判定&a…

作者头像 李华
网站建设 2026/10/9 23:21:17

关于 ChatGPT 必看的 10 篇论文:从 Transformer 到 RLHF 的进阶阅读路线

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/10/9 23:16:30

Cursor 九个月实战:工作流优化 ROI 远超选型

1. 为什么“工作流优化”比“选型”更值得投入1.1 从一次真实的效率复盘说起九个月前&#xff0c;我和团队开始把 Cursor 引入到日常开发流程里。当时大家的关注点几乎全在“选哪个工具”上——对比补全速度、模型能力、价格、免费额度、注册门槛&#xff0c;甚至纠结手机号怎么…

作者头像 李华
网站建设 2026/10/9 23:08:53

Page Object模式实战:从元素定位到职责边界,重构UI自动化测试架构

接手这套UI自动化脚本的第一周&#xff0c;我就把"Page Object模式"这五个字刻在了脑门上。项目里的自动化用例从最开始的130多个跑到现在剩80多个&#xff0c;掉下来的那三分之一&#xff0c;原因几乎都挂在同一件事上——可维护性太差。元素定位符散落在几十个用例…

作者头像 李华