刚刚开源就登顶热榜:Ornith-1.5 空降 ModelScope 前 15,下载量直奔 2.1 万
【免费下载链接】Ornith-1.5-35B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/ornith-ai/Ornith-1.5-35B-A3B-GGUF
Ornith-1.5 系列 8 月 19 日官宣开源,20 日 GGUF 量化仓库即在 ModelScope 上线,上线 24 小时内累计下载量冲至 2.1 万量级,并一度挤进 ModelScope 热榜前 15。对于一个单仓库存储体量超过 170GiB 的模型仓库来说,这个数字的分量远超普通的"上榜新闻"。本文基于该仓库(Ornith-1.5-35B-A3B-GGUF)的真实文件与 README,结合社区部署实测数据,拆解三件事:榜单与下载量背后的信号、35B 总参数仅激活 3B 的量化版本为什么被本地部署社区抢着下,以及这次发布在节奏上踩中了什么点。
一、ModelScope 榜单位置与 2.1 万下载量:这组数字说明什么
先给三个可复核的硬数据。发布初期,Ornith-1.5-35B-A3B-GGUF 仓库的累计下载量为 2.12 万;而在文章撰写前的最新平台 API 快照中,该数字已上涨至 2.7 万,仓库星标 128,存储体量 172.8GiB——也就是说,"2.1 万"只是它爬升轨迹上的一个中间点,热度仍在延续。
这组数据有三层值得注意的含义:
第一,热榜本身就是下载速度的函数。模型社区的热门榜由下载增速驱动,而不是由话题量驱动。一个刚上线一两天的新仓库能压进前 15,意味着它不是靠"围观",而是靠实打实的带宽消耗在拉排名。
第二,仓库体量决定了流量含金量。该仓库 6 个 GGUF 文件(BF16 主权重 + Q4_K_M / Q5_K_M / Q6_K / Q8_0 四档量化 + 视觉投影文件)合计约 173GiB,平均一份完整克隆约 165GB。2.7 万次下载对应的是 PB 级出口流量,而不是"顺手试一下"级别的采样行为——每一笔下载背后大概率都是一台准备实际跑推理的机器。
第三,下载量集中在 Q4_K_M 档,指向一个明确的消费场景。20.2GB 的 Q4_K_M 是这个 35B 模型能在单张 24GB 消费级显卡上完整加载的档位(配合 mmap 与量化 KV cache,甚至可以在更小显存上以 CPU offload 方式运行)。对比一下:同参数的稠密模型 BF16 权重就要 70GB。谁在 35B 档位把"单卡可跑"的门槛压到 20GB,谁就能吃到本地部署的主力流量——这个仓库目前的下载曲线,验证的就是这一点。
二、35B 总参数、每 token 激活 3B:量化版为何被社区抢着下
仓库里到底有什么
这个仓库是标准的 llama.cpp 系 GGUF 发布形态,6 个文件全部经 Git LFS 托管,sha256 可从平台元数据直接核对:
| 文件 | 大小 | 说明 |
|---|---|---|
| Ornith-1.5-35B-BF16.gguf | 66.5GB | 全精度权重 |
| Ornith-1.5-35B-Q4_K_M.gguf | 20.2GB | 约为 BF16 的 61%,本地部署主力档 |
| Ornith-1.5-35B-Q5_K_M.gguf | 23.6GB | 质量优先档 |
| Ornith-1.5-35B-Q6_K.gguf | 27.2GB | 双卡中显存场景 |
| Ornith-1.5-35B-Q8_0.gguf | 35.2GB | 接近无损 |
| mmproj-Ornith-1.5-35B-BF16.gguf | 860MB | 视觉投影模块,多模态推理时配套加载 |
两个细节常被忽略:其一,量化压缩比相当漂亮,Q4_K_M 仅占 BF16 的 60.8%,Q8_0 仍有 84.3%,这得益于 MoE 权重的分布特性——量化损失没有稠密 35B 那么敏感;其二,从平台解析出的架构标记为qwen35moe,chat 模板中带有<|vision_start|><|image_pad|><|vision_end|>等视觉标记,配合 860MB 的 mmproj 文件可以确认:这是一个带图像输入能力的 MoE 模型,"35B-A3B" 并不只是纯文本编码模型。
MoE 的"35B 总参数 / 每 token 激活约 3B"是它本地部署的核心优势:显存占用按 35B 算(躲不过去),但计算量和 KV 缓存压力按 3B 算——推理速度接近小模型,知识容量接近 35B。这正是 1.0 时代社区实测反复验证过的结论(16G 显存环境下 4-bit 版 Ornith 35B 推理速度 18.2 t/s,快于同规格 Qwen 35B),到了 1.5 上这个结构性优势被完整保留。
分数撑起了下载量
被抢着下的另一层原因,是分数确实对得起"Agentic 编码模型"的定位。以下数据来自 README 中的官方基准表(全部为 5 次独立运行均值,评测中删除 git 历史并断网以防 reward hacking),对比对象是同档位 Qwen 3.6-35B 及两个 30B 级稠密模型:
| 基准 | Ornith-1.5-35B-A3B | Ornith-1.0-35B | Qwen 3.6-35B-A3B | Gemma 4-31B |
|---|---|---|---|---|
| SWE-bench Verified | 79.0 | 75.6 | 73.4 | 52.0 |
| SWE-bench Pro | 59.6 | 50.4 | 49.5 | 35.7 |
| SWE-bench Multilingual | 71.4 | 69.3 | 67.2 | 51.7 |
| Terminal-Bench 2.1 (Terminus-2) | 67.8 | 64.2 | 52.5 | 42.1 |
| Terminal-Bench 2.1 (Claude Code) | 68.5 | 62.8 | 49.2 | — |
| SWE Atlas QnA | 39.8 | 37.1 | 15.5 | — |
| GPQA Diamond(推理) | 89.2 | 86.2 | 86.0 | 84.3 |
值得玩味的是两点:一是相对自家 1.0 的全面提升幅度很大,尤其是 SWE-bench Pro(50.4 → 59.6)和 SWE Atlas QnA(37.1 → 39.8),而 1.0 到 1.5 的差异恰恰是训练方法学上的差异;二是在终端 Agent 场景(Terminal-Bench 2.1)上拉开 15 分以上差距,这解释了为什么 Ollama、OpenCode 等 CLI/Agent 工具链的接入文档被写进了 README 的一等公民位置。
1.5 的官方说法是把自我改进闭环从 1.0 的"scaffold + rollout 优化"扩展为任务生成、脚手架构建、解题 rollout 三者联合优化:模型持续自己生成新训练任务、自己发现有效解题策略、再用强化学习改进策略,而不是吃固定的人工任务集。社区报道(如 36Kr 的转述)提到其编码自测两个月提升约 11%,"AI 自己出题自己练"正是这次传播度最高的技术叙事。
部署:从一行命令到双卡 256K 上下文
本地侧的部署路径在 README 里写得很直白,官方主推两条命令:
# Ollama:一行拉起 ollama run hf.co/ornith-ai/Ornith-1.5-35B-A3B-GGUF # llama.cpp:OpenAI 兼容 API,256K 上下文 llama-server -hf ornith-ai/Ornith-1.5-35B-A3B-GGUF --port 8000 -c 262144社区实测(CSDN 部署帖,双 5090 跑 Q8_0)则给出了消费级多卡的典型配置——张量分割 + 量化 KV cache:
llama-server \ --model ./Ornith-1.5-35B-Q8_0.gguf \ --mmproj ./mmproj-Ornith-1.5-35B-BF16.gguf \ --n-gpu-layers 999 --ctx-size 131072 \ --flash-attn auto --load-mode mmap \ --cache-type-k q8_0 --cache-type-v q8_0 \ --split-mode layer --main-gpu 0 --tensor-split 36G,28G需要多模态就带上--mmproj;生产级双 80GB 卡走 vLLM/SGLang 时,README 强调必须开启--tool-call-parser qwen3_xml与--reasoning-parser qwen3——因为这是一个推理模型,默认 assistant 回合以<think>…</think>开头,不配 reasoning parser 会把思维链混进正文,工具调用同理。长上下文方面官方验证了 YaRN 4.0 倍缩放,可将 262,144 的窗口扩到约 1M token,但明确提示静态缩放对常规长度请求有轻微质量损耗,按需开启。采样参数日常用temperature=0.6, top_p=0.95, top_k=20;如果要复现官方基准,则需用temperature=1.0。
三、登顶速度背后:这次发布踩中了什么节奏
把时间线排开看,这次的热度不是"运气好撞上热搜",而是几个窗口精准叠加的结果。
1. 发布节奏:媒体窗口 24 小时内完成闭环。8 月 19 日 DeepReinforce 官宣 Ornith-1.5 系列(397B MoE / 35B-A3B MoE / 9B 稠密),IT之家等媒体 24 小时内跟进,核心标题就是"部分性能超 Claude Opus 4.8""量化版可跑在手机上"——这是标准的传播钩子。而 ModelScope 的 GGUF 仓库于 8 月 20 日(北京时间)上线,几乎与首发同步,国内用户当天就能在魔搭上拉满速下载,不用再等 HF 源——GGUF 仓库的创建时间戳就落在 8 月 20 日。
2. 需求空档:抢在"下一个 35B MoE"之前落位。多篇部署文章的开头都提到同一个背景:Qwen3.8-27B 发布之后,社区在等它的 35B MoE 版本,结果等来的是 Ornith-1.5-35B-A3B 先行卡位。多篇对比实测直接以"小显存部署大模型的新答案"作为选题框架。空档期卡位,比挤在竞品发布的同一天发布,拿到的自然流量完全不同。
3. 量化先行,跳过"等量化"环节。1.0 时代社区最典型的体验是"先下 BF16、量化慢慢等"。这次首发即提供 BF16 + Q4_K_M/Q5_K_M/Q6_K/Q8_0 全档量化 + 视觉投影文件,llama.cpp、Ollama、LM Studio 用户当天可跑。对 GGUF 仓库这种形态而言,首发即全档量化基本等于把下载曲线的起点直接顶高——下载榜的热度在头 24 小时里就被锁定了。
4. 叙事与分发渠道叠加。"端到端自我改进 / AI 自己出题自己练"提供了区别于"又一个 Qwen 衍生模型"的独立叙事;短视频平台(抖音实测、头条讨论)负责把"35B 总参数只激活 3B"这种强记忆点扩散到泛技术人群;MIT 协议则扫清了二次分发与镜像托管的障碍,ModelScope 社区镜像组织当天完成建库。榜单热度(下载速度)→ 媒体跟进(话题)→ 短视频实测(破圈)→ 更多下载,这条正反馈链在 8 月 20 日一天内就跑完了一圈。
5. 下载量领先指标的真正含义。21k→27k 的下载增速与其说是"新闻热度",不如说是一次集体下注:本地部署人群在用下载按钮投票,押注"激活 3B 的 35B MoE"会成为小显存跑大模型的新默认选项。Q4_K_M 的 20GB 入场券、<think>推理格式与工具调用的一等支持、以及 SWE-bench Verified 79 分这个 30B 级模型少见的分数,共同构成了下注的理由。榜单会回落,但如果后续 397B 的 GGUF 档也补齐,这条曲线大概率还会再走一段。
【免费下载链接】Ornith-1.5-35B-A3B-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/ornith-ai/Ornith-1.5-35B-A3B-GGUF
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考