news 2026/9/28 5:53:20

推理快30%,性能超过千亿参数模型,15B模型Apriel-1.6重新定义端侧推理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
推理快30%,性能超过千亿参数模型,15B模型Apriel-1.6重新定义端侧推理

Apriel-1.6-15b-Thinker以150亿参数的轻量级体量,在多模态推理能力上击败了体量大其十倍的对手,并将推理Token的消耗量降低了30%以上,精准卡位企业级应用的高效甜蜜点。

ServiceNow人工智能团队最新发布的Apriel-1.6-15b-Thinker,作为Apriel SLM(小型语言模型)系列的最新力作,在文本与视觉推理的深度上实现了质的飞跃。

这款模型在NVIDIA DGX Cloud(英伟达DGX云)平台上,依托GB200训练而成。

它在Artificial Analysis Index(人工智能分析指数)中获得了57分的高分,这一成绩不仅超越了Gemini 2.5 Flash、Claude Haiku 4.5以及GPT OSS 20b等知名模型,更在保持极高能效比的同时,达到了与Qwen3 235B A22B相当的水准。

Apriel-1.6显著优化了计算成本,为资源受限但追求极致性能的企业环境提供了绝佳选择。

精准的数据配方与训练策略

训练大模型并非单纯的算力堆砌,而是一场关于数据筛选与策略调优的精密工程。

Apriel-1.6沿用了前代产品行之有效的整体训练流程,即深度上采样阶段配合两个持续预训练阶段。

在深度上采样阶段,团队构建了一个高度多元化的语料库:35%的数据来自高质量网页内容、科学技术文献、数学题集及程序代码;15%源自NVIDIA Nemotron的高质量合成数据集;剩余50%则采用预训练风格的数据进行回放,以巩固模型的基础知识。

进入第一阶段持续预训练,团队针对Apriel-1.6的特性,扩展了数据混合配方。

为了强化文本推理与图像理解能力,新配方中加入了全合成的文本样本与图文对。

这些合成文本覆盖了通用推理、知识问答、代码编写及创意写作等领域;多模态数据则涵盖了文档与图表理解、OCR(光学字符识别)、视觉推理任务以及SVG/Web代码合成。

这种全方位的数据覆盖,确保了模型在面对复杂任务时不仅能看懂,更能理解。

随后进行的纯文本持续预训练将序列长度扩展至49K,紧接着的第二阶段则专注于打磨模型的视觉推理能力。

这套中期训练流程仅在NVIDIA GB200s上消耗了约10,000个GPU时。

中期训练赋予了模型坚实的底座,随后的监督微调则赋予了它解决问题的逻辑。

ServiceNow-AI构建了一个包含240万个高信号文本样本的精选数据集。

与传统数据集不同,这里的每一个样本都包含了显式的、分步骤的推理轨迹。

为了打造这个高质量数据集,团队结合了可执行验证的合成样本,涵盖数学、编程及科学问题解决,同时融入了指令遵循、对话交互、API/函数调用、创意写作及安全知识等多种样本。

数据质量被视为最高优先级:所有样本均经过多级去重、内容过滤、启发式质量修剪、LLM-as-Judge(大模型作为裁判)验证以及基于执行的验证,并严格剔除了评估基准中的污染数据。

监督微调分为两个阶段,均在32K上下文长度下进行。

第一阶段是对240万个样本进行4个周期的纯文本大规模训练。

团队简化了聊天模板,移除了冗余标签,并引入了四个特殊Token(令牌):<tool_calls>、</tool_calls>、[BEGIN FINAL RESPONSE]、<|end|>,极大提升了输出解析的便捷性。

第二阶段则是一个轻量级的多模态运行,训练时长为3个周期,利用从前代模型中拒绝采样的数据,确保模型在引入新Token后仍能保持强大的图像处理能力,为后续的强化学习打下基础。

Apriel-1.6的强化学习环节采用多阶段设置,旨在同步提升推理能力与运行效率。

训练数据覆盖了视觉推理、通用视觉问答、OCR等图像领域,以及简单问答、数学数值推理、STEM(科学、技术、工程、数学)多选题及结构化工具使用等跨域数据。

奖励机制的设计充满了巧思:模型不仅因为回答正确而获得奖励,还会因为冗长、格式错误等不良行为受到惩罚。

这套机制鼓励模型在面对简单问题时直截了当,避免不必要的中间步骤;在确信时尽早停止,从而大幅减少推理Token的消耗。

训练过程采用了GSPO(群组序列策略优化)损失函数,依托VeRL(验证强化学习)框架及基于规则的验证进行。

Apriel-1.6在保持甚至提升推理深度的同时,成功将推理Token的使用量减少了30%以上。

多维度的性能实测

在文本评估方面,Apriel-1.6在工具使用、数学、编程、指令遵循及长上下文等多个领域展现了卓越性能。

各项基准测试数据显示,它在多个维度上不仅超越了同等体量的对手,甚至在部分指标上优于参数量更大的模型。

在图像评估方面,Apriel-1.6同样表现不俗。

通过VLMEvalkit工具,在数学推理、视觉问答、逻辑推理及图表分析等关键领域进行了测试。

结果显示,它在包含MathVision、MathVista、MMMU等13个基准的Image Index(图像指数)平均分上,比前代提高了4分。

Apriel-1.6-15B-Thinker不仅是一个高性能的推理者,更是一个成本效益的典范。

在智力与参数量的对比图表中,它位于最吸引人的象限:以150亿参数提供了媲美巨型模型的智力分数。

作为资源相对有限的实验室,ServiceNow-AI坦诚地指出了模型的局限性。

1,虽然它在推理效率上表现出色,但面对复杂或低质量的图像,OCR的准确率可能会下降;

2,在人群或相似物体密集的场景中,细节捕捉和计数能力面临挑战;

3,对于高度详细或格式异常的图表,解释可能不够完美;

4,在细粒度的视觉定位上,边界框预测有时也可能不够精确。

Apriel-1.6用有效的数据策略和训练方法,让小规模计算也能诞生SOTA级别的模型,用更少的资源做更聪明的事,这正是AI进化的方向。

参考资料:

https://huggingface.co/blog/ServiceNow-AI/apriel-1p6-15b-thinker

https://huggingface.co/ServiceNow-AI/Apriel-1.6-15b-Thinker

END

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/26 20:20:20

机器视觉相机参数

选型助手连接 链接: https://www.trstmv.com/mtool/ 海康链接: https://www.hikrobotics.com/cn/machinevision/service/machinevisionTool?typeId40&id3

作者头像 李华
网站建设 2026/9/27 19:32:14

springboot基于vue的观赏鱼养殖互助商城系统的设计与实现_1vlf0334

目录已开发项目效果实现截图开发技术核心代码参考示例1.建立用户稀疏矩阵&#xff0c;用于用户相似度计算【相似度矩阵】2.计算目标用户与其他用户的相似度系统测试总结源码文档获取/同行可拿货,招校园代理 &#xff1a;文章底部获取博主联系方式&#xff01;已开发项目效果实现…

作者头像 李华
网站建设 2026/9/27 5:01:07

压差式静力水准仪液体选择必看!从充液到排气:沉降监测系统安装全流程避雷手册

建筑结构全寿命周期内都会持续受到重力作用&#xff0c;产生沉降趋势。因此沉降监测成为结构健康监测系统中的主要监测内容。能够实现自动化沉降监测的静力水准仪成为了结构自动化健康监测系统中用量最多的传感器之一。静力水准仪是利用连通器原理&#xff0c;通过液体连通管连…

作者头像 李华
网站建设 2026/9/27 14:24:36

构建可靠数据库连接:人大金仓JDBC驱动8.6.0实战指南

构建可靠数据库连接&#xff1a;人大金仓JDBC驱动8.6.0实战指南 【免费下载链接】人大金仓JDBC驱动包8.6.0版本 本仓库提供人大金仓 JDBC 驱动包的下载&#xff0c;版本为 8.6.0&#xff0c;适用于 KingBaseES 8V6R 数据库。该驱动包是连接 KingBaseES 数据库的重要组件&#x…

作者头像 李华
网站建设 2026/9/27 17:16:17

嵌入式零基础到就业年班

前言&#xff1a;嵌入式学习&#xff0c;是“深坑”还是“捷径”&#xff1f;“嵌入式太难了&#xff0c;要懂硬件&#xff0c;还要会软件&#xff0c;我零基础能学会吗&#xff1f;” “网上免费教程一大堆&#xff0c;花上万元报班到底值不值&#xff1f;” “学完之后&#…

作者头像 李华
网站建设 2026/9/27 6:27:55

如何快速提取Chrome密码:跨平台开源工具完整指南

如何快速提取Chrome密码&#xff1a;跨平台开源工具完整指南 【免费下载链接】chromepass Get all passwords stored by Chrome on WINDOWS. 项目地址: https://gitcode.com/gh_mirrors/chr/chromepass 你是否曾经遇到过这样的情况&#xff1a;急需登录某个重要网站&…

作者头像 李华