AutoGLM-Phone-9B实战教程：法律咨询智能助手开发

AutoGLM-Phone-9B实战教程：法律咨询智能助手开发

随着移动端AI应用的快速发展，轻量化、多模态的大语言模型成为构建智能服务的关键。AutoGLM-Phone-9B 作为一款专为移动设备优化的多模态大模型，在有限资源下实现了高效的跨模态理解与生成能力，特别适用于法律咨询、医疗问答等专业场景的本地化部署。本文将围绕AutoGLM-Phone-9B的实际应用，手把手带你搭建一个可运行的法律咨询智能助手系统，涵盖模型服务启动、接口调用、功能验证和工程优化建议。

1. AutoGLM-Phone-9B 简介

1.1 模型架构与核心特性

AutoGLM-Phone-9B 是基于智谱 AI 的 GLM 架构进行深度轻量化的多模态大语言模型，专为边缘计算和移动端推理设计。其参数量压缩至90亿（9B），在保持较强语义理解能力的同时，显著降低了显存占用和推理延迟，适合部署在消费级 GPU 或嵌入式设备上。

该模型融合了三大核心能力： -文本理解与生成：支持自然语言对话、文档摘要、逻辑推理 -语音输入处理：集成ASR模块，实现“语音→文本”自动转换 -视觉信息感知：具备基础图像理解能力，可用于识别合同、证件等关键材料

通过模块化设计，AutoGLM-Phone-9B 实现了跨模态信息对齐机制，能够在接收到图文或语音指令时，统一编码并生成结构化响应，是构建端侧智能代理的理想选择。

1.2 适用场景分析

在法律咨询服务中，用户常需上传合同截图、口述纠纷经过或提出复杂条款疑问。传统纯文本模型难以应对这类多源输入，而 AutoGLM-Phone-9B 可以： - 解析用户拍摄的租赁合同图片，提取关键条款 - 将口头陈述转化为法律事实描述 - 结合上下文进行法规匹配与风险提示

因此，它非常适合用于开发离线可用、隐私安全、响应迅速的移动端法律助手产品。

2. 启动模型服务

2.1 硬件与环境要求

由于 AutoGLM-Phone-9B 虽然经过轻量化处理，但仍需较高算力支持完整推理流程，推荐使用以下配置：

⚠️注意：若显存不足，可能出现CUDA Out of Memory错误，无法完成模型加载。

2.2 切换到服务脚本目录

确保已将模型服务脚本部署至目标服务器，并进入脚本所在路径：

cd /usr/local/bin

该目录应包含以下关键文件： -run_autoglm_server.sh：主启动脚本 -config.yaml：模型配置参数 -model_weights/：模型权重文件夹

2.3 运行模型服务脚本

执行启动命令：

sh run_autoglm_server.sh

正常输出日志如下（节选）：

[INFO] Loading AutoGLM-Phone-9B model... [INFO] Using device: cuda:0, cuda:1 [INFO] Model shard distributed across 2 GPUs. [INFO] Starting FastAPI server on port 8000... [SUCCESS] Model service is now running at http://0.0.0.0:8000

当看到Model service is now running提示后，说明服务已成功启动，可通过 REST API 或 LangChain 接口访问。

✅ 图像说明：服务启动成功界面，显示模型加载进度及监听端口信息。

3. 验证模型服务

3.1 访问 Jupyter Lab 开发环境

打开浏览器，访问已部署的 Jupyter Lab 实例地址（通常为http://<server_ip>:8888），登录后创建一个新的 Python Notebook。

3.2 编写测试脚本调用模型

使用langchain_openai模块作为客户端工具（兼容 OpenAI 格式接口），连接本地部署的 AutoGLM 服务。

from langchain_openai import ChatOpenAI import os # 配置模型连接参数 chat_model = ChatOpenAI( model="autoglm-phone-9b", # 指定模型名称 temperature=0.5, # 控制生成多样性 base_url="https://gpu-pod695cce7daa748f4577f688fe-8000.web.gpu.csdn.net/v1", # 替换为实际服务地址 api_key="EMPTY", # 本地服务无需密钥 extra_body={ "enable_thinking": True, # 启用思维链推理 "return_reasoning": True, # 返回中间推理过程 }, streaming=True, # 开启流式输出 ) # 发起首次对话请求 response = chat_model.invoke("你是谁？") print(response.content)

输出示例：

我是 AutoGLM-Phone-9B，由智谱AI研发的轻量化多模态大模型，专注于移动端高效推理任务。我可以理解文本、语音和图像信息，并提供智能问答服务。

同时，若设置了"return_reasoning": True，还将返回类似以下的推理轨迹：

{ "reasoning_steps": [ "问题类型识别：身份询问", "检索自我认知知识库", "组织回答结构：身份+能力+用途", "生成自然语言回复" ] }

这表明模型不仅完成了响应生成，还具备可解释的内部推理路径。

✅ 图像说明：Jupyter 中成功调用模型并获得响应，证明服务通信正常。

4. 构建法律咨询智能助手

4.1 功能需求定义

我们希望开发一个具备以下能力的法律咨询助手： - 支持用户上传合同图片并解析关键内容 - 能够回答常见法律问题（如劳动法、婚姻法） - 对潜在风险点给出预警提示 - 支持语音输入转文字 + 文本回复朗读

4.2 核心代码实现

（1）图像理解 + 文本提取封装函数

def extract_contract_info(image_path): """从合同图片中提取关键信息""" from PIL import Image import base64 with open(image_path, "rb") as img_file: encoded = base64.b64encode(img_file.read()).decode('utf-8') prompt = f""" 请分析以下合同图像，提取以下信息： - 合同类型（如租赁、买卖、劳动合同） - 签约双方姓名/公司名 - 关键条款（金额、期限、违约责任） - 是否存在明显不公平条款？ 以JSON格式输出结果。 """ response = chat_model.invoke([ {"role": "user", "content": prompt}, {"role": "user", "image": f"data:image/jpeg;base64,{encoded}"} ]) return response.content

（2）法律问题解答增强逻辑

def legal_qa(question: str): """针对法律问题进行专业回答""" system_prompt = """ 你是一名专业的法律顾问，请根据中国现行法律法规回答问题。 回答需包含三部分： 1. 直接答案（简洁明了） 2. 法律依据（引用具体法条） 3. 风险提示（如有） """ full_prompt = system_prompt + "\n\n用户问题：" + question response = chat_model.invoke(full_prompt) return response.content

（3）语音输入处理（结合 Whisper）

import whisper def speech_to_text(audio_path): model = whisper.load_model("base") result = model.transcribe(audio_path) return result["text"] # 使用示例 audio_input = "user_question.mp3" text_query = speech_to_text(audio_input) answer = legal_qa(text_query) print("用户提问（语音转写）：", text_query) print("AI 回答：", answer)

4.3 完整交互流程演示

# 示例：用户上传租房合同图片并提问 image_path = "rental_contract.jpg" info = extract_contract_info(image_path) print("【合同解析结果】\n", info) # 用户追问：“押金超过两个月合法吗？” question = "根据这份合同，押金超过两个月，是否违反法律规定？" answer = legal_qa(question) print("【法律回答】\n", answer)

输出示例：

{ "合同类型": "房屋租赁合同", "签约方": ["张三", "李四（房东）"], "租金": "每月5000元", "押金": "三个月租金（15000元）", "风险提示": "押金超过两个月，可能违反《民法典》第七百零三条，建议协商调整" }

💡获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。