news 2026/9/10 5:53:30

llmfit TUI Select 模式(V 键):如何按列头快速筛选参数区间、量化与运行模式

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
llmfit TUI Select 模式(V 键):如何按列头快速筛选参数区间、量化与运行模式

llmfit TUI Select 模式(V 键):如何按列头快速筛选参数区间、量化与运行模式

【免费下载链接】llmfitHundreds of models & providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit

在本地跑 LLM 之前,llmfit 会列出几百个模型并给出各自在你硬件上的评分、tok/s 估算和运行模式。列表太长时,逐个用fas等单键切换过滤器很慢。Select 模式就是为这个场景设计的:在 llmfit 的 TUI 里按下V,焦点直接跳到表格列头上,对哪一列想操作就移到哪一列,一次按键即可应用参数区间、量化格式、运行模式等筛选,把候选列表快速收敛到目标范围。

准备工作:安装并启动 TUI

Select 模式是 TUI 交互功能,前提是已安装 llmfit。README 提供了多种安装方式,任选其一即可,例如 macOS/Linux 上推荐 Homebrew 预编译二进制:

brew install AlexsJones/llmfit/llmfit

也可以不依赖 sudo 安装到~/.local/bin(脚本会从 GitHub Releases 下载最新二进制):

curl -fsSL https://llmfit.axjns.dev/install.sh | sh -s -- --local

启动 TUI:

llmfit

顶部会显示你系统的 CPU、内存、GPU 型号、显存和后端;下方是按综合评分排序的可滚动模型表,每行包含评分、估算 tok/s、针对你硬件的最佳量化、运行模式、内存占用和使用场景。后续所有操作都基于这张表格。

进入 Select 模式并移动列头

在 Normal 模式下按V(shift-v)进入 Select 模式,然后:

  • h/l或左右方向键在列头之间移动,当前激活的列会高亮显示;
  • EnterSpace触发该列对应的动作(过滤器、弹出面板或排序);
  • Esc回到 Normal 模式(实现中也允许用q退出)。

Select 模式下行导航仍然有效,可以在每次筛选后立刻看到列表变化:j/k、方向键、Ctrl-U/Ctrl-DPageUp/PageDownHomeEnd均可用。

各列头能触发什么动作

不同列触发的动作不同,docs/tui.md 给出的完整对应关系如下:

触发的动作
Inst循环切换可用性过滤(All, GGUF Avail, Installed)
Model进入搜索模式(支持名称、provider、参数、用途的部分匹配)
Provider打开 provider 弹出面板
Params打开参数规模区间弹出面板(<3B, 3-7B, 7-14B, 14-30B, 30-70B, 70B+)
Score / tok/s / Mem% / Ctx / Date按该列排序
Quant打开量化格式弹出面板
Mode打开运行模式弹出面板(GPU, MoE, CPU+GPU, CPU)
Fit循环切换适配度过滤(All, Runnable, Perfect, Good, Marginal)
Use Case打开使用场景弹出面板

注意两点:

  • 对排序类列(Score、tok/s、Mem%、Ctx、Date)重复按键会切换排序方向,而不是重新应用同一个排序(排序实现)。
  • 磁盘占用(Disk)列在 Select 模式下没有对应的过滤或排序动作,移过去按键无效果(实现)。

组合实操:先按参数区间,再按量化和运行模式

下面是一条典型的收敛路径:假设你想只看 7B 以下、指定量化格式、且能走 GPU 的模型。

  1. V进入 Select 模式,用l(或)把焦点移到Params列头,按Enter打开参数区间弹出面板。
  2. 弹出面板中用j/k或上下方向键移动光标,EnterSpace勾选/取消某个区间(如3-7B),a一键全选或清空全部选项,Escq关闭面板(面板按键处理)。勾选即时生效,模型表立即缩小到对应区间。
  3. 焦点仍停留在 Params 列头,继续用l右移到Quant列,按Enter打开量化弹出面板,同样用j/kSpace/Enter勾选目标量化(面板按键逻辑见 实现),Esc/q关闭。
  4. 再右移到Mode列,按Enter打开运行模式弹出面板,只勾选GPU(选项共 GPU、MoE、CPU+GPU、CPU 四类,按键逻辑见 实现),关闭后表格只剩 GPU 直接可跑的模型。
  5. 若还想进一步收窄,可用h/l移回InstFit列:这两列没有弹出面板,按Enter会直接循环切换过滤档位,每按一次前进一档,方便逐个尝试。

每一轮操作后,用j/k扫一遍剩余行确认列表是否符合预期;不符合就再回到对应列头调整。多个筛选条件叠加生效,互相独立,可以随时单独改某一列。

验证结果与退出

Select 模式没有单独的结果确认步骤——表格本身的变化就是验证方式:

  • 每次勾选/循环后,模型行数和内容应立即变化;行数不变说明该选项本来就没有匹配的行,或被其他条件抵消;
  • 顶部系统栏保持显示你的硬件规格,各行显示的评分、tok/s、Mem% 等即当前筛选集下的估算值;
  • 操作完成后按Esc回到 Normal 模式,此时m标记模型、c打开对比、d下载、Enter查看详情等 Normal 模式按键恢复可用,可以继续对筛选结果做对比或下载。

边界与限制

  • 列头动作固定为上表列出的那些,Docs 中未提供为列头增加自定义动作或保存筛选方案的方式;筛选状态随 TUI 会话存在,退出后重新运行llmfit需再次应用。
  • Quant、Mode、Use Case、Provider 等弹出面板内的按键(j/k导航、Space/Enter切换、a全选、Esc/q关闭)在 docs/tui.md 中没有逐一列出,本文依据 llmfit-tui/src/tui_events.rs 的实现整理,与文档已说明的面板类按键(如 Use Case 弹出面板)行为一致。
  • 如果只是单一维度的过滤,Normal 模式下的f(适配度)、a(可用性)、s(排序列)单键循环更直接;Select 模式的价值在于需要连续跨多个维度收敛时,不用离开列头视角。

【免费下载链接】llmfitHundreds of models & providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/10 5:53:14

苏轼《东坡八首》教你破局职场内耗:把攀比换成耕耘

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/10 5:52:44

AI编程高效工作流:Skill机制与ponytail上下文管理实战解析

最近一段时间我几乎把市面上能碰到的 AI 编程工作流工具都折腾了一遍&#xff0c;最大的感受是&#xff1a;模型能力早就不是瓶颈了&#xff0c;真正卡人的是"怎么让 AI 稳定且高质量地干活"。你想想&#xff0c;每次开新项目都得把代码风格、输出格式、验收标准从头…

作者头像 李华
网站建设 2026/9/10 5:52:33

Fastify 如何接入 Zod Type Provider 实现路由类型推导?

Fastify 如何接入 Zod Type Provider 实现路由类型推导&#xff1f; 【免费下载链接】fastify Fast and low overhead web framework, for Node.js 项目地址: https://gitcode.com/GitHub_Trending/fa/fastify 如果你在 TypeScript 项目里用 Fastify 写路由&#xff0c;…

作者头像 李华
网站建设 2026/9/10 5:52:16

积分商城源码解析:独立代理后台与积分交易架构设计

简介&#xff1a;一套积分商城与代理分销一体化系统源码&#xff0c;面向需要快速搭建积分兑换、会员成长体系和代理推广返利场景的PHP开发者、产品运营及中小团队。系统包含商城前台、用户积分管理、订单处理、独立代理后台等模块&#xff0c;覆盖商品展示、积分抵扣、订单流转…

作者头像 李华
网站建设 2026/9/10 5:51:53

Java田径运动管理系统实战:Spring Boot+MySQL构建赛事管理平台

简介&#xff1a;本资源是一套基于Java开发的田径运动管理系统完整设计源码&#xff0c;面向计算机专业本科生、软件工程初学者及课程设计实践者&#xff0c;解决传统田径赛事与人员管理中信息分散、操作低效、数据难追溯等实际问题。压缩包共69个文件&#xff0c;含57个Java核…

作者头像 李华
网站建设 2026/9/10 5:51:01

Skills不是功能开关,而是事件驱动的行为调度中枢

1. “Skills”不是功能模块&#xff0c;而是系统级行为调度中枢很多人第一次看到“Skills”这个词&#xff0c;下意识会把它当成某个App里的“技能开关”——比如语音助手里能打开电灯、查天气的那些小按钮。我刚接触这个概念时也这么想&#xff0c;结果在实际部署一个自动化工…

作者头像 李华