news 2026/6/23 23:54:50

谷歌开源computer-use-preview:AI Agent如何操控电脑?架构设计与实战解析

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
谷歌开源computer-use-preview:AI Agent如何操控电脑?架构设计与实战解析

文章介绍谷歌开源的computer-use-preview项目,这是一个让AI直接操控电脑的Agent框架。它采用三层架构:BrowserAgent智能层、Computer接口抽象层和Playwright/Browserbase执行层。主要技术特点包括坐标归一化、截图滑动窗口和新页面劫持。该框架成本较高(每步约$0.002+),速度较慢(单步3-6秒),目前仅适配Chrome,面临页面加载完整性、弹窗广告等挑战。

前排提示,文末有大模型AGI-CSDN独家资料包哦!

前两天,谷歌悄咪咪开源了一个叫computer-use-preview的项目。

可以让AI直接操控你电脑的Agent框架, 对标broswer_use。

虽然是为了适配自家的新模型,但是代码里边的一些处理细节还是可以学习一下的~

这到底是个什么东西?

简单来说,就是让Gemini模型看着你的屏幕截图,然后自己决定该点哪、该输什么、该滚动到哪。

自然语言驱动,AI Agent执行,大家应该都非常熟悉了。

架构设计,真的很谷歌

3层架构,干净得一批。

```plaintext
BrowserAgent(智能层) ↓Computer 接口(抽象层) ↓Playwright/Browserbase(执行层)

BrowserAgent - 负责和Gemini对话,维护整个任务的上下文。 Computer 接口 - 定义了15个标准动作,任何浏览器环境都得实现。包括鼠标的点击、悬停、拖拽,键盘的输入、快捷键,导航的搜索、跳转,获取当前截图、url。 几个设计 ---- ### 1. 坐标归一化 - 跨分辨率适配 LLM只知道 0-1000 的坐标系,不管屏幕多大,换显示器都不用重新训练。 ```plaintext def denormalize_x(x: int) -> int: screen_width, _ = computer.screen_size() return int(x / 1000 * screen_width)

2. 截图滑动窗口 - 上下文不炸

只保留最近3轮的截图,老的直接删除。这个策略让长任务也能跑下去。

MAX_RECENT_TURN_WITH_SCREENSHOTS = 3for i, content in enumerate(contents[:-MAX_RECENT_TURN_WITH_SCREENSHOTS]): if has_screenshot(content): remove_screenshot(content) # 保留结构,删除图片数据

3. 新页面劫持 - 单标签约束

网页想开新标签?不存在的。涉及会强行把多标签场景转成单标签,简化模型决策。

def _handle_new_page(new_page): url = new_page.url new_page.close() # 立刻关闭 current_page.goto(url) # 在当前页打开

谷歌没讲的那些事儿

这套模式的局限性,可以简单归纳一下:

成本问题

每个动作都要截图+LLM推理,Gemini API调用,每次 $0.002+,带视觉的请求更贵 长任务可能几刀起步。

速度问题

截图(0.5s) + LLM推理(2-5s) + 动作执行(0.5s) = 单步3-6秒

复杂任务10步,就是30-60秒。

还有目前只适配了chrome;以及 页面加载完整性、弹窗广告、网络问题,都是纯视觉Agent的困扰。

好了,这就是我今天想分享的内容。如果你对构建AI智能体感兴趣,我们下期再见!

如何学习AI大模型 ?

“最先掌握AI的人,将会晚掌握AI的人有竞争优势,晚掌握AI的人比完全不会AI的人竞争优势更大”。在这个技术日新月异的时代,不会新技能或者说落后就要挨打。

老蓝我作为一名在一线互联网企业(保密不方便透露)工作十余年,指导过不少同行后辈。帮助很多人得到了学习和成长。

我是非常希望可以把知识和技术分享给大家,但苦于传播途径有限,很多互联网行业的朋友无法获得正确的籽料得到学习的提升,所以也是整理了一份AI大模型籽料包括:AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、落地项目实战等免费分享出来。

👉点击即可获取大模型学习包2026年最新版👈

  1. AI大模型学习路线图
  2. 100套AI大模型商业化落地方案
  3. 100集大模型视频教程
  4. 200本大模型PDF书籍
  5. LLM面试题合集
  6. AI产品经理资源合集

大模型学习路线

想要学习一门新技术,你最先应该开始看的就是学习路线图,而下方这张超详细的学习路线图,按照这个路线进行学习,学完成为一名大模型算法工程师,拿个20k、15薪那是轻轻松松!

视频教程

首先是建议零基础的小伙伴通过视频教程来学习,其中这里给大家分享一份与上面成长路线&学习计划相对应的视频教程。文末有整合包的领取方式

技术书籍籽料

当然,当你入门之后,仅仅是视频教程已经不能满足你的需求了,这里也分享一份我学习期间整理的大模型入门书籍籽料。文末有整合包的领取方式

大模型实际应用报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。文末有整合包的领取方式

大模型落地应用案例PPT

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。文末有整合包的领取方式

大模型面试题&答案

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。文末有整合包的领取方式

领取方式

这份完整版的 AI大模型学习籽料我已经上传CSDN,需要的同学可以微⭐扫描下方CSDN官方认证二维码免费领取

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/23 17:23:19

9大高级RAG技术详解:提升大模型检索效果的实战指南

文章介绍9种优化RAG系统的高级技术,包括智能文本分块、重新排序、元数据利用、混合搜索等,解决基本RAG系统的嘈杂结果和不相关上下文问题。文章详细说明如何使用Meilisearch、LangChain等工具实现这些策略,以及如何评估效果,帮助开…

作者头像 李华
网站建设 2026/6/23 15:59:26

Langchain-Chatchat移动设备安全管理知识库

Langchain-Chatchat移动设备安全管理知识库 在企业IT运维的日常场景中,一个常见的难题是:现场工程师面对突发的安全事件——比如员工手机丢失或平板电脑感染恶意软件——往往无法立即查阅冗长的安全手册,也难以在无网络环境下获取准确的操作…

作者头像 李华
网站建设 2026/6/23 15:18:14

Langchain-Chatchat JWT令牌机制知识库构建

Langchain-Chatchat JWT令牌机制与本地知识库构建解析 在企业数字化转型加速的今天,如何让沉睡在PDF、Word和内部文档中的知识“活起来”,成为提升组织效率的关键命题。尤其在金融、医疗、法律等高合规要求行业,数据不出内网已成为硬性底线。…

作者头像 李华
网站建设 2026/6/23 8:58:45

Langchain-Chatchat文件共享权限管理问答系统

Langchain-Chatchat 文件共享权限管理问答系统 在企业知识管理的现实场景中,一个常见的困境是:技术文档堆积如山,新员工入职却无从下手;HR制度频繁更新,但每次都被追问“年假怎么算”;研发团队积累了上百份…

作者头像 李华
网站建设 2026/6/23 15:13:08

Langchain-Chatchat IOC指标查询问答工具

Langchain-Chatchat IOC指标查询问答工具 在网络安全事件频发的今天,威胁情报分析已成为安全团队日常工作的核心环节。每当一次新的攻击曝光,分析师往往需要从数十份PDF格式的APT报告中手动提取恶意IP、C2域名和文件哈希等IOC(Indicators of …

作者头像 李华
网站建设 2026/6/23 5:52:04

Langchain-Chatchat渗透测试报告生成辅助工具

Langchain-Chatchat:构建私有化渗透测试报告生成系统的实践探索 在网络安全攻防对抗日益激烈的今天,渗透测试作为企业安全建设的关键环节,正面临效率与规范性的双重挑战。一份高质量的渗透测试报告不仅需要详实的技术细节、严谨的风险评估&am…

作者头像 李华