ModelScope 本地部署速成：从克隆仓库到三行代码跑通推理-育师

ModelScope 本地部署速成：从克隆仓库到三行代码跑通推理

【免费下载链接】modelscopeModelScope: bring the notion of Model-as-a-Service to life.项目地址: https://gitcode.com/GitHub_Trending/mo/modelscope

你想做 ModelScope 本地部署，结果克隆好仓库、装完核心，跑第一行推理代码就报No module named 'transformers'——别慌，领域依赖本来就不在核心包里。这篇用 3 张任务卡、10 分钟上下，带你把情感分析示例真正跑起来。

ModelScope 本地部署前的自检清单

动手前，先对着下面 5 项过一遍。不用追求高配，"够用"档就能跑通第一次推理，"舒服"档是给之后训练更大模型留的余量。

检查项	够用	舒服	怎么查	不满足怎么办
Python 版本	3.10	3.10～3.12	`python --version`	核心包低于 3.10 装不上，先升级 Python
内存	8GB	16GB 以上	`free -h`（Linux）	大模型跑不动就先从 base 小模型入手
显卡	不需要，CPU 能跑	4GB 以上显存的 N 卡	`nvidia-smi`	没有就 CPU 跑，只是慢，不阻塞
磁盘空间	5GB	20GB 以上	`df -h`	先清理；模型缓存删掉可重新下载
git	任意版本	任意版本	`git --version`	先装 git，拉代码要用

显卡这一栏能写"不需要"，是因为本文用到的模型都是 base 规格，CPU 完全跑得动；N 卡只影响快慢，不影响能不能跑。

让 ModelScope 本地部署跑起来的 3 张任务卡

每张卡都有明确的验收标准，不达标就先修它，别急着往下走。

任务卡一 | 拿到代码，建好隔离环境

这一步结束时，你应当位于项目目录内、虚拟环境已激活，where python（Linux 下which python）指向.venv里的解释器。

前两条命令拉代码并进入目录，后两条在项目里创建名为.venv的虚拟环境并激活它。后面所有安装都只影响这个 venv，装坏了删掉目录重来即可，不会污染系统 Python：

git clone https://gitcode.com/GitHub_Trending/mo/modelscope cd modelscope python -m venv .venv source .venv/bin/activate

⚠️ Windows 没有source命令，激活时改用.\.venv\Scripts\activate。 ⚠️ 报python: command not found时，Windows 上入口常是py，把建环境命令改成py -m venv .venv重试。

环境隔离好了，下一步的风险就小了一半：无论安装成功还是失败，都跟系统环境无关。

任务卡二 | 装上核心框架

这一步结束时，终端里import modelscope应当不报错。

命令里的.指项目本身，pip 会按pyproject.toml的打包配置从本地源码安装 modelscope 包。注意核心只带模型管理相关的小依赖（filelock、requests、tqdm 几个），torch、transformers 这类大件都不在里面，所以这一步会很快：

pip install . python -c "import modelscope; print('OK')"

⚠️ 安装时提示requires Python >=3.10，说明 Python 太旧，回自检清单升级即可，没有别的绕法。 ⚠️ 下载慢得反常，基本是网络问题，给 pip 配置里加个国内镜像源再重试，不是代码问题。

看到核心装好了，你大概会问：那开头的 transformers 报错为什么没出现？因为接下来要跑的是 NLP 模型，还得把对应领域的包装上——这正是下一张卡的事。

任务卡三 | 三行代码跑通第一次推理

这一步结束时，屏幕应当打印出情感分析结果的字典，里面带标签和概率。

先装 NLP 领域的依赖。这一步会拉 transformers 这类大件，下载量是全程最大的，耐心等它跑完：

pip install ".[nlp]"

然后写三行代码，用 StructBERT 的中文情感分析 base 模型：

from modelscope.pipelines import pipeline clf = pipeline('text-classification', model='damo/nlp_structbert_sentiment-classification_chinese-base') print(clf('这个产品用着很顺手，交付也快，会推荐给身边的朋友。'))

首次运行会自动把模型权重下载到本地缓存，下载逻辑在 modelscope/hub/file_download.py 里，下完之后的推理就完全在本地进行。

⚠️ 第一次运行慢是正常的，它在下权重，不是卡死。 ⚠️ 出现 CUDA 相关报错，多半是有 N 卡但 torch 装的是 CPU 版；装对应 CUDA 版的 torch，或者这个小模型直接用 CPU 也行。 ⚠️ 还报No module named 'transformers'，说明这张卡的.[nlp]没装上，回头补装。

跑通之后路就通了：同一个 pipeline 接口对 CV、音频、多模态模型都适用，把任务卡二的.[nlp]换成.[cv]或.[audio]，再替换代码里的任务名和模型 ID 就行。