news 2026/11/3 10:23:11

Ling-3.0-flash-VL chat_template.jinja 完整拆解:读懂 enable_thinking、工具调用与视觉 ID 注入的 6 个关键段落

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Ling-3.0-flash-VL chat_template.jinja 完整拆解:读懂 enable_thinking、工具调用与视觉 ID 注入的 6 个关键段落

Ling-3.0-flash-VL chat_template.jinja 完整拆解:读懂 enable_thinking、工具调用与视觉 ID 注入的 6 个关键段落

Ling-3.0-flash-VL是蚂蚁集团(inclusionAI)开源的 124B 参数原生多模态模型,支持图片与视频输入、256K 上下文,每个 token 仅激活 5.5B 参数。它的 chat_template.jinja 只有 183 行,却把enable_thinking 思考开关、工具调用(tool calling)和视觉 ID 注入三大核心能力写得清清楚楚,是多模态模型模板里难得的"教科书级"范例。本文将这份模板逐段拆解,帮你彻底看懂它的每一行在做什么。

模板速览:3 个可配置参数

在看细节之前,先认识模板暴露给调用方的 3 个参数(都通过chat_template_kwargs传入):

参数默认值作用
enable_thinkingtrue思考模式总开关,控制模型是否先输出推理过程
preserve_thinkingtrue多轮对话中是否保留历史轮次的思考内容
add_vision_id未定义(不添加)为图片/视频插入Picture 1:、Video 1:编号前缀

模板生成的最终格式如下:每段内容用<role>SYSTEM</role>、<role>HUMAN</role>等角色标签包裹,段落之间以特殊 token<|role_end|>分隔。

第 5–15 行:enable_thinking 思考开关如何生效

模板开头对enable_thinking做了归一化:

{%- set enable_thinking = enable_thinking if enable_thinking is defined else true %}
  • 不传参时默认为开启——这正是官方文档说"Thinking is enabled by default"的实现来源;
  • 开启时生成指令detailed thinking on,关闭时生成detailed thinking off,这段指令后面会写进系统区,直接告诉模型该不该先"想"再答;
  • 需要按请求关闭思考时,只需在请求里传"chat_template_kwargs": {"enable_thinking": false}即可。

紧接着的preserve_thinking(默认true)决定多轮对话中,历史轮次的思考过程要不要继续带给模型——保留它可以维持推理连续性,代价是上下文变长。

第 18–57 行:视觉 ID 注入的计数器与渲染宏

namespace 计数器

{%- set image_count = namespace(value=0) %} {%- set video_count = namespace(value=0) %}

这里用 Jinja 的namespace对象实现跨宏调用共享的计数器——普通变量出了宏就失效,namespace可以"带回",这是模板里最关键的小技巧。

render_content 宏:多模态内容的统一入口

宏render_content负责把一条消息的内容渲染成文本:

  • 字符串:原样输出;
  • 列表(OpenAI 多模态 content 格式):逐项判断类型
    • image→ 输出占位符 `

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/11/3 10:21:56

三步装好 Folia:第一次打开就铺满全屏歌词

三步装好 Folia&#xff1a;第一次打开就铺满全屏歌词 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major Folia 是一款以全屏歌词动画为招牌的播放…

作者头像 李华
网站建设 2026/11/3 10:18:29

Kornia 图像拼接实战:LoFTR + RANSAC 跑通你的第一条全景图流水线

Kornia 图像拼接实战&#xff1a;LoFTR RANSAC 跑通你的第一条全景图流水线 【免费下载链接】kornia &#x1f40d; Geometric Computer Vision Library for Spatial AI 项目地址: https://gitcode.com/GitHub_Trending/ko/kornia 拿 6 张有重叠的照片想拼成一张完整全…

作者头像 李华
网站建设 2026/11/3 10:17:12

PyCharm远程开发连接失败排查与解决

PyCharm 远程开发连接失败&#xff1a;SSH 测试成功&#xff0c;却提示 No connection handle was returned 使用 PyCharm 的“远程开发”功能连接 Linux 服务器时&#xff0c;SSH 检查已经通过&#xff0c;但点击“下载 IDE 并连接”后&#xff0c;仍然出现连接失败弹窗。本文…

作者头像 李华
网站建设 2026/11/3 10:15:03

3 个变量决定成败:Toxiproxy 的 Windows 与 ARM 跨平台编译实操

3 个变量决定成败&#xff1a;Toxiproxy 的 Windows 与 ARM 跨平台编译实操 【免费下载链接】toxiproxy :alarm_clock: :fire: A TCP proxy to simulate network and system conditions for chaos and resiliency testing 项目地址: https://gitcode.com/gh_mirrors/to/toxip…

作者头像 李华