如何让大模型帮你操作电脑:cgft-llm RPA自动化结合LLM Workflow终极实战指南
【免费下载链接】cgft-llmcgft-llm 是一个学习大语言模型(LLM)开发的开源资源。它提供代码、文档和视频教程,帮助用户通过实践掌握前沿核心 LLM 技术项目地址: https://gitcode.com/echonoshy/cgft-llm
在 cgft-llm 这个动手做大模型的开源项目中,RPA自动化结合LLM Workflow 是解锁"AI 操作电脑"的关键一步:用影刀RPA这类流程自动化工具定时触发 Dify 上搭建的 LLM 工作流,让大模型从"只会回答"进化为"能干活",完成端到端的业务流程自动化。本文面向新手,讲清楚这套组合的原理、搭建路径和落地方向,全程无需复杂代码。
为什么是"RPA + LLM Workflow"这个组合
大模型很聪明,但它没有手。它不会自己打开浏览器、点按钮、填表单,也无法在凌晨 3 点按时起床干活。这时候需要两位搭档:
- LLM Workflow(大模型工作流):单轮操作,给定输入直接得到输出,逻辑确定、结果可控,适合"加工信息"
- RPA(机器人流程自动化):模拟人手操作网页和桌面软件,支持定时触发、API 集成,负责"执行动作"
而另一个常被对比的概念是Agent(智能体),三者的分工可以这样记:
| 场景 | 推荐方式 | 原因 |
|---|---|---|
| 多轮对话、开放任务 | Agent | 需要多轮推理和工具调用 |
| 固定流程、输入→输出 | LLM Workflow | 单次执行,稳定可控 |
| 定时任务、操作软件 | RPA | 可编程触发,能"动手" |
Agent 与 LLM Workflow 的更多概念辨析,可以参考项目文档:dify-agent-llm-workflow.md。
💡 核心思路就一句话:大模型负责思考,RPA 负责执行。
大模型如何"操作电脑":两条落地路径
路径一:Browser-use,大模型自己开浏览器
除了 RPA,还有一条更"极客"的路:让大模型通过 tool-call 直接驱动浏览器,自己点击、输入、截图、判断。cgft-llm 中提供了一个极简的 Browser-use 实践,自动抓取 GitHub Trending 热榜并整理成表格:
该案例的完整说明与环境安装步骤见:readme.md,抓取脚本位于 github_trending_scraper.py。
路径二:影刀RPA + Dify,新手更友好的生产方案
function-calling 实现流程图 揭示了这个组合背后的通用原理:
- 用户/定时器把 prompt 交给Tools Workflow(工作流)
- 工作流把 prompt + 工具描述一起发给LLM
- LLM 判断"用不用工具":用,则执行工具流程;不用,则直接返回结果
影刀RPA 恰好提供了这套闭环需要的能力:网页自动化操作、桌面应用自动化、定时触发任务、与 API 集成(详见 rpa-automation-with-llm-agent.md)。
三步搭出你的第一个 RPA + LLM 自动流
🧭第 1 步:在 Dify 里搭建 LLM Workflow
Dify 是开源 LLM 应用开发平台,用拖拽节点的方式构建工作流。开始前先配置两样东西:基础 LLM(OpenAI API 或 Ollama 本地部署均可)和**知识库(Knowledge)**用于 RAG 检索增强。不会部署?Docker 一行命令搞定,参考 dify-agent-llm-workflow.md 中的本地部署章节。
🤖第 2 步:用影刀RPA 定时触发工作流
在影刀中新建流程,设定触发时间(如每天 09:00),通过 API 节点调用 Dify 应用的 Workflow 接口,传入输入参数(比如"今天的竞品动态"),等待返回结果。
📮第 3 步:结果自动处理与反馈
RPA 拿到 LLM 输出的结构化结果后,可以继续执行动作:写入表格、发送邮件、推送到群聊……至此,"触发 → 思考 → 执行 → 反馈"的自动化闭环就跑通了。
再进一步:给工作流接上 RAG 知识库
想让大模型"更懂你的业务",就在 Dify Workflow 里挂上知识库:文档、数据库、API 数据统一建索引,查询时把最相关的内容注入 prompt,再交给 LLM 生成回答:
这样 RPA 定时触发的就不只是"通用问答",而是"带着你私有资料的智能任务"。知识库构建的完整知识清单(数据接入、切分、Embedding、Rerank 策略)可以参考:readme.md。
如何选出有价值的自动化场景
作者给出的判断标准非常朴素,就两句话:选出有价值的事情,然后变成自动化。可以这样找切入点:
- ⏰ 每天/每周固定重复的信息汇总(日报、榜单、舆情)
- 📊 跨系统的数据搬运(网页 → 表格 → 邮件)
- 📝 批量表单填写、批量资料录入
- 📬 定时抓取 + 智能改写 + 自动推送
想深入理解 LLM 为什么会选择"调用工具"而不是直接回答,可以延伸阅读 function calling 自动发邮件的实战:README.md,其实现入口为 app.py。
学习路径与文件资料清单
| 资料 | 路径 |
|---|---|
| RPA 自动化结合 LLM Agent 核心文档 | rpa-automation-with-llm-agent.md |
| Dify 实现 Agent 和 LLM Workflow | dify-agent-llm-workflow.md |
| tool-call 原理及极简 Browser-use 实现 | readme.md |
| function calling 自动发邮件 | README.md |
| 构建高效 RAG 知识库 | readme.md |
项目整体目录导航见 README.md。想动手跟练,可先克隆仓库(仓库地址:https://gitcode.com/echonoshy/cgft-llm),按"第 15 期 RPA 自动化结合 LLM Workflow → 第 14 期 Dify 实现 Agent 和 LLM Workflow → 第 17 期 tool-call 与 Browser-use"的顺序学习,由浅入深,很快就能让大模型替你上手干活。
🎯 小结:LLM 出脑子,RPA 出双手。选一件你每周都在重复的小事,用 Dify 工作流 + 影刀RPA 跑通第一个闭环,就是通往 AI 自动化的最短路径。
【免费下载链接】cgft-llmcgft-llm 是一个学习大语言模型(LLM)开发的开源资源。它提供代码、文档和视频教程,帮助用户通过实践掌握前沿核心 LLM 技术项目地址: https://gitcode.com/echonoshy/cgft-llm
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考