llmfit TUI Select 模式(V 键):如何按列头快速筛选参数区间、量化与运行模式
【免费下载链接】llmfitHundreds of models & providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit
在本地跑 LLM 之前,llmfit 会列出几百个模型并给出各自在你硬件上的评分、tok/s 估算和运行模式。列表太长时,逐个用f、a、s等单键切换过滤器很慢。Select 模式就是为这个场景设计的:在 llmfit 的 TUI 里按下V,焦点直接跳到表格列头上,对哪一列想操作就移到哪一列,一次按键即可应用参数区间、量化格式、运行模式等筛选,把候选列表快速收敛到目标范围。
准备工作:安装并启动 TUI
Select 模式是 TUI 交互功能,前提是已安装 llmfit。README 提供了多种安装方式,任选其一即可,例如 macOS/Linux 上推荐 Homebrew 预编译二进制:
brew install AlexsJones/llmfit/llmfit也可以不依赖 sudo 安装到~/.local/bin(脚本会从 GitHub Releases 下载最新二进制):
curl -fsSL https://llmfit.axjns.dev/install.sh | sh -s -- --local启动 TUI:
llmfit顶部会显示你系统的 CPU、内存、GPU 型号、显存和后端;下方是按综合评分排序的可滚动模型表,每行包含评分、估算 tok/s、针对你硬件的最佳量化、运行模式、内存占用和使用场景。后续所有操作都基于这张表格。
进入 Select 模式并移动列头
在 Normal 模式下按V(shift-v)进入 Select 模式,然后:
- 用
h/l或左右方向键在列头之间移动,当前激活的列会高亮显示; - 按
Enter或Space触发该列对应的动作(过滤器、弹出面板或排序); - 按
Esc回到 Normal 模式(实现中也允许用q退出)。
Select 模式下行导航仍然有效,可以在每次筛选后立刻看到列表变化:j/k、方向键、Ctrl-U/Ctrl-D、PageUp/PageDown、Home、End均可用。
各列头能触发什么动作
不同列触发的动作不同,docs/tui.md 给出的完整对应关系如下:
| 列 | 触发的动作 |
|---|---|
| Inst | 循环切换可用性过滤(All, GGUF Avail, Installed) |
| Model | 进入搜索模式(支持名称、provider、参数、用途的部分匹配) |
| Provider | 打开 provider 弹出面板 |
| Params | 打开参数规模区间弹出面板(<3B, 3-7B, 7-14B, 14-30B, 30-70B, 70B+) |
| Score / tok/s / Mem% / Ctx / Date | 按该列排序 |
| Quant | 打开量化格式弹出面板 |
| Mode | 打开运行模式弹出面板(GPU, MoE, CPU+GPU, CPU) |
| Fit | 循环切换适配度过滤(All, Runnable, Perfect, Good, Marginal) |
| Use Case | 打开使用场景弹出面板 |
注意两点:
- 对排序类列(Score、tok/s、Mem%、Ctx、Date)重复按键会切换排序方向,而不是重新应用同一个排序(排序实现)。
- 磁盘占用(Disk)列在 Select 模式下没有对应的过滤或排序动作,移过去按键无效果(实现)。
组合实操:先按参数区间,再按量化和运行模式
下面是一条典型的收敛路径:假设你想只看 7B 以下、指定量化格式、且能走 GPU 的模型。
- 按
V进入 Select 模式,用l(或→)把焦点移到Params列头,按Enter打开参数区间弹出面板。 - 弹出面板中用
j/k或上下方向键移动光标,Enter或Space勾选/取消某个区间(如3-7B),a一键全选或清空全部选项,Esc或q关闭面板(面板按键处理)。勾选即时生效,模型表立即缩小到对应区间。 - 焦点仍停留在 Params 列头,继续用
l右移到Quant列,按Enter打开量化弹出面板,同样用j/k、Space/Enter勾选目标量化(面板按键逻辑见 实现),Esc/q关闭。 - 再右移到Mode列,按
Enter打开运行模式弹出面板,只勾选GPU(选项共 GPU、MoE、CPU+GPU、CPU 四类,按键逻辑见 实现),关闭后表格只剩 GPU 直接可跑的模型。 - 若还想进一步收窄,可用
h/l移回Inst或Fit列:这两列没有弹出面板,按Enter会直接循环切换过滤档位,每按一次前进一档,方便逐个尝试。
每一轮操作后,用j/k扫一遍剩余行确认列表是否符合预期;不符合就再回到对应列头调整。多个筛选条件叠加生效,互相独立,可以随时单独改某一列。
验证结果与退出
Select 模式没有单独的结果确认步骤——表格本身的变化就是验证方式:
- 每次勾选/循环后,模型行数和内容应立即变化;行数不变说明该选项本来就没有匹配的行,或被其他条件抵消;
- 顶部系统栏保持显示你的硬件规格,各行显示的评分、tok/s、Mem% 等即当前筛选集下的估算值;
- 操作完成后按
Esc回到 Normal 模式,此时m标记模型、c打开对比、d下载、Enter查看详情等 Normal 模式按键恢复可用,可以继续对筛选结果做对比或下载。
边界与限制
- 列头动作固定为上表列出的那些,Docs 中未提供为列头增加自定义动作或保存筛选方案的方式;筛选状态随 TUI 会话存在,退出后重新运行
llmfit需再次应用。 - Quant、Mode、Use Case、Provider 等弹出面板内的按键(
j/k导航、Space/Enter切换、a全选、Esc/q关闭)在 docs/tui.md 中没有逐一列出,本文依据 llmfit-tui/src/tui_events.rs 的实现整理,与文档已说明的面板类按键(如 Use Case 弹出面板)行为一致。 - 如果只是单一维度的过滤,Normal 模式下的
f(适配度)、a(可用性)、s(排序列)单键循环更直接;Select 模式的价值在于需要连续跨多个维度收敛时,不用离开列头视角。
【免费下载链接】llmfitHundreds of models & providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考