Llama 3 权重下载完整指南:官方脚本与 Hugging Face 双渠道实操
【免费下载链接】llama3The official Meta Llama 3 GitHub site项目地址: https://gitcode.com/GitHub_Trending/ll/llama3
部署 Llama 3 的第一步是拿到模型权重。Meta 官方仓库提供了下载脚本与推理示例代码,但权重本体不在仓库内,需要通过官方邮件链接或 Hugging Face 完成 Llama 3 模型下载。本文从权限申请、脚本配置到文件校验走一遍完整流程,帮你在本地跑通第一次推理。
Llama 3 仓库速览
Meta Llama 3 官方仓库包含 8B 与 70B 两个规格、预训练与指令微调共四种模型的加载代码与示例。与下载直接相关的文件如下:
| 文件 | 用途 |
|---|---|
| download.sh | 官方权重下载脚本,交互式选择模型版本 |
| USE_POLICY.md | 可接受使用政策,使用前必读 |
| example_chat_completion.py | 指令微调模型的推理示例 |
| example_text_completion.py | 预训练模型的文本补全示例 |
| llama/model.py | 模型结构定义与权重加载逻辑 |
| MODEL_CARD.md | 模型能力边界与已知局限说明 |
动手前先选对下载渠道
两条渠道都能拿到可用的权重,但前置条件和产物格式不同,建议先对照下表确定走哪条路:
| 对比项 | 官方 download.sh | Hugging Face 渠道 |
|---|---|---|
| 所需权限 | Meta 官网申请,通过邮件获取 Presigned URL,24 小时内有效 | HF 账号并在模型页接受许可协议 |
| 环境要求 | bash、wget、md5sum | Python 环境加 huggingface_hub |
| 产物格式 | 原生 .pth 权重,与仓库代码直接配套 | original 目录为原生格式,另有 safetensors 等 |
| 适用场景 | 生产部署、需要官方校验 | 开发测试、快速验证 |
简单原则:要和本仓库代码配套部署选官方脚本,只想快速拉权重做实验选 Hugging Face。
渠道一:官方 download.sh 逐步指引
环境准备:访问权限、工具与磁盘空间
先到 Meta Llama 官网提交下载申请,审核通过后邮件会附带一个 Presigned URL,这是脚本唯一的下载凭证。然后确认本机已安装 wget 和 md5sum,并预留磁盘:8B 系列至少 20GB,70B 系列至少 140GB。
git clone https://gitcode.com/GitHub_Trending/ll/llama3 cd llama3运行脚本与交互式配置
进入仓库根目录执行:
bash download.sh脚本会依次提示输入邮箱中的 URL,以及要下载的模型列表(可选 8B、8B-instruct、70B、70B-instruct,多个用逗号分隔,直接回车则全部下载):
Enter the URL from email: https://... Enter the list of models: 8B-instruct注意 URL 必须从邮件正文手动复制,不要使用浏览器的"复制链接"功能。
脚本内置的完整性校验机制
每下载完一个模型,脚本会自动执行 MD5 校验(arm64 系统使用 md5 命令):
cd Meta-Llama-3-8B-Instruct md5sum -c checklist.chk输出FAILED时,说明该文件传输中断或损坏。删除对应模型目录中的 .pth 文件后重新运行脚本即可,wget 支持断点续传,已完成的分片不会重复下载。
渠道二:Hugging Face 快速接入
登录与权限获取
打开目标模型页面(如 meta-llama/Llama-3-8B-Instruct),阅读并接受许可协议;申请通过后即可访问全部 Llama 3 模型。本地环境安装依赖并完成登录:
pip install huggingface_hub huggingface-cli login按提示粘贴访问令牌。
用 snapshot_download 拉取模型
用 Python 接口把模型拉到本地目录,可按需过滤不需要的文件:
from huggingface_hub import snapshot_download snapshot_download( repo_id="meta-llama/Llama-3-8B-Instruct", local_dir="./Meta-Llama-3-8B-Instruct", ignore_patterns=["*.safetensors"] )若要走 transformers 推理,可不下载原生物件,直接由 pipeline 拉取 safetensors 格式并自动缓存。
下载后的验证与排错
文件校验分三层做,由粗到细:
- MD5 校验:官方脚本已自动执行;HF 渠道下载的文件若来自 original 目录,同样可用
md5sum -c checklist.chk复验。 - 参数核对:打开模型目录下的 params.json,8B 模型的四个关键值应为:
{ "dim": 4096, "n_layers": 32, "n_heads": 32, "vocab_size": 128256 }- 跑通示例程序:权重正确与否最终以能否推理为准。
torchrun --nproc_per_node 1 example_chat_completion.py \ --ckpt_dir Meta-Llama-3-8B-Instruct/ \ --tokenizer_path Meta-Llama-3-8B-Instruct/tokenizer.model \ --max_seq_len 512 --max_batch_size 6常见问题速查:
| 现象 | 可能原因 | 处理办法 |
|---|---|---|
| 403 Forbidden | Presigned URL 过期(24 小时)或下载次数用尽 | 重新申请链接 |
| checklist.chk: FAILED | 传输中断,文件损坏 | 删除对应 .pth 后重跑脚本 |
| 内存溢出 | 70B 模型超出机器内存/显存 | 改用 8B,或增加 swap 分区 |
| 示例程序报缺依赖 | 项目依赖未安装 | pip install -r requirements.txt |
结尾:合规提示与下一步
开始使用权重前,请通读 USE_POLICY.md 与 LICENSE:模型不得用于军事、医疗等政策禁止的敏感领域,商用需符合许可条款。
接下来可以立即做两件事:
- 运行上文示例命令,确认本地推理链路通畅;
- 阅读 MODEL_CARD.md,了解该模型的能力边界与已知的安全局限,再决定是否接入业务。
完成以上两步,你的 Llama 3 本地部署就算正式起步了。🚀
【免费下载链接】llama3The official Meta Llama 3 GitHub site项目地址: https://gitcode.com/GitHub_Trending/ll/llama3
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考