【免费下载链接】larql
LARQL是一个开源大模型研究系统,其中的LQL(Lazarus Query Language,Lazarus 查询语言)让你可以像写 SQL 一样查询、浏览甚至编辑大模型的"知识"——把模型权重直接当作图数据库:每一行权重是一张"表",模型本身就是数据库。一个 Rust 二进制,无需 Python、无需 GPU,几分钟即可完成第一次查询。
什么是 LQL?3 个核心设计思想
LQL 不是 SQL 的复刻,而是为"反编译、检查、编辑、重编译神经网络"而生。它的设计原则可以概括为三点:
- 权重即行(Weights are rows):每一个 FFN 门控向量、每一个 embedding 向量都是一条记录,模型即数据库;
- 两种后端、一套语言:既可以直接查询原始 safetensors 权重(免提取、即开即用),也可以查询预提取的
.vindex索引文件(生产环境,毫秒级查找); - 语句化而非脚本化:每条语句自包含,不依赖跨语句变量,结果可用管道
|>串联。
完整语言规范见 crates/larql-lql/docs/spec.md,入门示例集中在 docs/lql-guide.md。
环境准备:如何安装 LARQL 并启动 LQL REPL
一键获取仓库并构建
git clone https://gitcode.com/gh_mirrors/la/larql cd larql cargo build --release -p vindex-cli -p larql-cli # Linux/Windows 追加 --no-default-features两种进入 LQL 的方式
| 方式 | 命令 | 适合场景 |
|---|---|---|
| 交互式 REPL | cargo run -p larql-cli -- repl | 反复探索,支持方向键历史、Ctrl-R 搜索、Ctrl-C 取消、Ctrl-D 退出 |
| 单条执行 | cargo run -p larql-cli -- lql 'SHOW MODELS;' | 脚本化、CI 集成 |
REPL 的命令实现位于 crates/larql-lql/src/repl.rs,命令入口文档见 docs/cli.md。
3 分钟上手:从提取模型到第一次查询
第 1 步:提取模型为可查询索引(EXTRACT)
-- 只读浏览版(约 3 GB,快速查询,不含推理) EXTRACT MODEL "google/gemma-3-4b-it" INTO "gemma3-4b.vindex"; -- 带推理支持(约 6 GB,解锁 INFER) EXTRACT MODEL "google/gemma-3-4b-it" INTO "gemma3-4b.vindex" WITH INFERENCE;💡 不想提取?
USE MODEL "google/gemma-3-4b-it"可直接指向权重开始查询(支持 INFER / STATS)。
第 2 步:连接并查看模型概览
USE "gemma3-4b.vindex"; STATS; -- 知识图谱覆盖度、规模统计 SHOW LAYERS; -- 逐层摘要第 3 步:浏览"模型脑子里"的知识
DESCRIBE "France"; -- 模型对"法国"知道什么? DESCRIBE "France" BRIEF; -- 紧凑视图:Top 边 + 主层 WALK "The capital of France is" TOP 10; -- 特征扫描:哪些特征被激活 SELECT entity, target FROM EDGES WHERE relation = "capital" LIMIT 10; -- 纯正 SQL 风格边查询DESCRIBE会自动把特征分入语法层 / 知识层 / 输出层三个频段(如 Gemma 3 4B 的知识层为 L14-27),让你只关心事实关系所在的层。
第 4 步:跑一次真实推理
INFER "The capital of France is" TOP 5; -- 带注意力的下一词预测 INFER "The capital of France is" TOP 5 COMPARE; -- 对比"无注意力 vs 有注意力"常用 LQL 查询语句清单
| 类别 | 语句 | 用途 |
|---|---|---|
| 🔍 浏览 | WALK/DESCRIBE/SELECT | 特征扫描、实体知识浏览、SQL 风格边查询 |
| ⚡ 推理 | INFER(TOP/GENERATE/ROUTE) | 下一词预测、贪心续写、KNN 路由控制 |
| ✏️ 编辑 | INSERT/UPDATE/DELETE/MERGE | 增删改模型中的知识边 |
| 🩺 追踪 | TRACE | 逐层分解注意力与 FFN 贡献 |
| 📋 内省 | SHOW MODELS/SHOW RELATIONS/STATS | 索引清单、关系类型、覆盖度统计 |
给大模型"打补丁":编辑知识而不改原文件
LQL 最有意思的能力之一是知识编辑。基线索引不可变,所有修改都走"补丁(Patch)"——一个可移植的 JSON 知识差异文件:
BEGIN PATCH "medical-knowledge.vlp"; INSERT INTO EDGES (entity, relation, target) VALUES ("aspirin", "side_effect", "bleeding"); SAVE PATCH; -- 保存补丁,不触碰基线文件 APPLY PATCH "medical-knowledge.vlp"; -- 应用补丁(可叠加多个) COMPILE CURRENT INTO VINDEX "gemma3-4b-medical.vindex"; -- 烘焙成全新独立索引编辑完成后,COMPILE还能把结果写回标准 safetensors 格式——知识修改就落在标准的down_proj张量里,Transformers / GGUF 运行时加载即用。
进阶玩法:用 TRACE 观察每一层的"思考"
TRACE "The capital of France is" FOR "Paris"; -- 逐层显示答案的排名、概率,以及注意力/FFN 各自贡献了多少如果你想把执行记录导入网页端做协同检查和回放,可以配合 Observatory 观测台(observatory/README.md),它专门用于导入执行记录、复现与可视化。
进一步阅读
- 📖 LQL 快速上手指南:全部语句示例与层级频段说明
- 📐 LQL 语言规范 v0.4:语法、能力模型与完整契约
- 🗂️ larql-lql 模块说明:AST、解析器、执行器源码地图
- 🚀 CLI 完整参考:
repl/lql之外的全部命令 - 📜 Vindex 生成策略:V2 与 VINDEX3 容器如何共存
小贴士:
SHOW MODELS;可以随时列出当前目录下的所有 vindex;SHOW PATCHES;查看当前激活的补丁栈——这两个命令是新手排错的第一选择。
【免费下载链接】larql
相关推荐
打造专属搜索引擎门户:yacy_webclient_bootstrap二次开发完整清单(页面/颜色/导航)
打造专属搜索引擎门户:yacy_webclient_bootstrap二次开发完整清单(页面/颜色/导航) yacy_webclient_bootstrap 是
如何在嵌入式平台部署GNSS-SDR:Raspberry Pi与Zynq FPGA全指南
如何在嵌入式平台部署GNSS SDR:Raspberry Pi与Zynq FPGA全指南 GNSS SDR是一款开源软件定义GNSS接收器,能够在多种嵌入式平台
科研科学计算通信多语言翻译新范式:hf_mirrors/ai-gitcode/seamless-m4t-v2-large支持的96种文本与35种语音语言全解析
多语言翻译新范式:hf_mirrors/ai gitcode/seamless m4t v2 large支持的96种文本与35种语音语言全解析 Seamless
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考