如何在手机上跑本地大模型？OpenClaw on Android搭配node-llama-cpp本地推理实测-育师

移动开发
AI 应用
CLI
开发工具

【免费下载链接】openclaw-android

Run OpenClaw on Android with a single command — no proot, no Linux

项目地址：https://gitcode.com/gh_mirrors/op/openclaw-android

这篇文章带你用OpenClaw on Android在手机上直接运行本地大模型，并实测node-llama-cpp本地 LLM 推理效果。无需 proot、无需安装完整的 Linux 系统，一条命令就能在 Termux 中搭好完整的 AI Agent 环境——GGUF 模型、本地推理、网关与仪表盘全部就绪。

OpenClaw on Android 是什么？为什么手机能跑本地大模型

OpenClaw on Android 是一个把 AI Agent 平台 OpenClaw 搬到 Android 上的开源项目。它和常规做法的最大区别在于：不安装 proot-distro 整套 Linux 发行版（那需要 700MB~1GB 额外空间），而是只安装 glibc 动态链接器（ld.so），让标准 Linux 二进制文件直接运行：

对比项	常规方案（proot-distro）	OpenClaw on Android
存储占用	1~2GB	约 200MB
安装耗时	20~30 分钟	3~10 分钟
性能	有 proot 层开销，较慢	原生速度

而本地大模型之所以能在手机上跑起来，关键在于：OpenClaw 内置了node-llama-cpp的预构建原生二进制（@node-llama-cpp/linux-arm64），它在项目的 glibc 环境下可以直接加载，无需在手机上现场编译 llama.cpp。

快速安装 OpenClaw on Android：3 个步骤搞定

📌 准备要求：Android 7.0+（推荐 10+）、约 2GB 空闲存储、Wi-Fi 环境。

第 1 步：安装 Termux（F-Droid 版）

⚠️ 注意：Play 商店里的 Termux 已停止维护，无法使用，请从 F-Droid 下载安装。

打开 Termux 后，先执行环境初始化：

pkg upgrade -y && pkg install -y curl

第 2 步：一条命令安装 OpenClaw

curl -sL myopenclawhub.com/install | bash && source ~/.bashrc

安装程序会自动完成 glibc 环境、Node.js 24（linux-arm64）、路径转换、临时目录配置等全部工作，全程 3~10 分钟。安装完成后会显示 OpenClaw 版本号和后续指引。

第 3 步：完成 onboarding 并启动网关

openclaw onboard

按屏幕提示完成初始配置（包含安全确认与模型接入设置）。

重要：启动网关openclaw gateway时，请直接在 Termux 里新开一个会话运行，不要通过 SSH 运行——SSH 会话断开，网关也会随之停止。

网关启动后，可以通过openclaw dashboard查看仪表盘地址（http://127.0.0.1:18789/），从电脑 SSH 隧道访问后，即可在网页仪表盘里管理 Agent、查看运行时状态。

node-llama-cpp 本地 LLM 推理是如何工作的

这是很多新手会疑惑的地方：为什么安装 OpenClaw 时本地推理就已经"开箱可用"了？

安装程序执行的是npm install -g openclaw@2026.9.8 --ignore-scripts（版本锁定）。这里的--ignore-scripts会跳过 node-llama-cpp 的 postinstall 脚本——该脚本原本会通过 cmake 从源码编译 llama.cpp，在手机上需要 30 分钟以上且会因 Bionic/glibc 工具链不兼容而失败。
项目直接使用预构建的llama-addon.node二进制，它在 glibc 环境中加载正常，完全省去了编译环节。
如果某次更新时看到 node-llama-cpp 的源码构建报错，可以忽略——失败的源码编译不会覆盖已装好的预构建二进制，详见故障排除指南。

想确认本地推理模块是否可用，可以在 Termux 里执行：

node -e "require('$(npm root -g)/openclaw/node_modules/@node-llama-cpp/linux-arm64/bins/linux-arm64/llama-addon.node'); console.log('OK')"

输出OK即表示本地 LLM 推理模块加载成功。

实测结论：手机上到底能跑多大的本地大模型

根据项目官方给出的实测数据，本地大模型在手机上属于"技术可行、体验有限"：

约束	实测详情
内存（RAM）	7B 模型 Q4 量化至少需要 2~4GB 空闲内存，而手机内存还要和 Android 及其他 App 共享
存储	GGUF 模型文件从 4GB 到 70GB+，手机存储很快见底
速度	ARM 纯 CPU 推理非常慢，且 Android 不支持 llama.cpp 的 GPU 卸载
定位	本地推理是辅助功能，OpenClaw 主力场景仍是云端 LLM API（OpenAI、Gemini 等）

🎯实测建议：

尝鲜体验：选 TinyLlama 1.1B（Q4 量化，约 670MB），是当前手机上能流畅体验的档位。
进阶尝试：12~14GB 大内存机型可以试 7B Q4 模型，但生成速度请做好心理预期。
生产用途：直接用云端 API，响应速度和 PC 上完全一致（网关常驻内存，无额外开销）。

本地大模型 vs 云端 API：该怎么选

一句话总结：本地推理适合"验证可行性"和离线场景，云端 API 适合日常使用。

手机本地推理的最大价值是数据不出设备——敏感对话、离线环境、不想付 API 费用时，node-llama-cpp 提供了一条真实可用的路径；
OpenClaw on Android 的架构设计本身就很聪明：云端响应在外部服务器处理，本地只做调度，所以日常对话体验与 PC 端无差异，本地 LLM 则作为可插拔的补充。