news 2026/9/11 16:03:34

Milvus 2.6.1 CAGRA:GPU建索引+CPU查,成本腰斩性能不减

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Milvus 2.6.1 CAGRA:GPU建索引+CPU查,成本腰斩性能不减

Milvus上的CAGRA有什么不同?

尽管GPU在图索引构建阶段优势显著,但在实际生产环境中,GPU资源通常比CPU更昂贵且稀缺。若索引构建与查询均依赖GPU,会导致一系列问题:

资源利用率低(查询请求零散,GPU大量时间空闲)

 

部署成本高(需为每个查询服务配置GPU,增加不必要的硬件成本)

扩展性受限(GPU数量限制服务实例数)

灵活性不足(无法按需切换 GPU 和 CPU )

针对这些痛点,开源向量数据库Milvus在2.6.1版本中,通过adapt_for_cpu参数,为GPU索引CAGRA推出灵活部署选项,实现GPU构建高质量图索引+CPU查询(一般用 HNSW )的混合模式,在保证索引质量的同时大幅降低部署成本。对于数据更新频率低(无需频繁重新构建索引)、查询规模大(需大量查询服务实例)、成本敏感(希望降低GPU资源投入)的场景,这是一种非常实用的解决方案。

(1)adapt_for_cpu解读

Milvus通过adapt_for_cpu

 

参数控制CAGRA索引的序列化与反序列化行为,实现构建与查询设备的灵活切换。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/11 6:09:45

LobeChat能否对接Asana任务管理?项目协作智能化

LobeChat能否对接Asana任务管理?项目协作智能化 在远程办公常态化、跨职能协作日益频繁的今天,团队每天要面对大量分散的信息源:会议纪要藏在聊天记录里,待办事项写在白板上,关键决策埋没于邮件长河。一个常见的场景是…

作者头像 李华
网站建设 2026/9/11 7:34:54

重构开发链路:低代码如何成为企业数智化转型的关键抓手

目录 一、技术破局:低代码不是“简化开发”,而是“重构开发” 1. 组件化设计:从“重复造轮”到“模块复用” 2. 引擎化驱动:支撑复杂业务的“技术底座” 3. 可视化编排:打破“业务-IT”的沟通壁垒 二、成本重构&a…

作者头像 李华
网站建设 2026/9/8 17:05:50

使用PyTorch训练微调Qwen3-14B的入门级教程

使用PyTorch训练微调Qwen3-14B的入门级教程 在企业智能化转型加速的今天,越来越多公司希望部署具备领域理解能力的AI助手——既能读懂行业术语,又能联动内部系统自动执行任务。然而,通用大模型往往“懂语言但不懂业务”,而从零训练…

作者头像 李华
网站建设 2026/9/11 14:29:00

从代码看BuildingAI:企业级智能体平台设计解析

引言 近期, 在企业级开源智能体平台领域引起了开发者社区的关注。作为一名长期关注 AI 工程化落地的架构师,我决定深入其代码仓库(GitHub/BidingCC/BuildingAI),从工程实现的角度进行一次系统性的技术分析。本文将以专…

作者头像 李华
网站建设 2026/9/11 1:56:17

负责处理大数据量的Excel导出功能

/*** 数据导出控制器* 负责处理大数据量的Excel导出功能*/ RestController RequestMapping("/api/export") public class ExportController {Autowiredprivate DataService dataService;/*** 内部类:Excel数据导出服务器* 实现EasyPOI的IExcelExportServe…

作者头像 李华
网站建设 2026/9/11 4:37:39

JMeter---正则表达式提取器

JMeter的正则表达式提取器是一个用于从服务器响应中提取特定数据的监听器。它可以根据正则表达式模式匹配响应内容,并提取匹配到的数据供后续测试步骤使用。 在JMeter的测试计划中选择需要提取数据的HTTP请求或其他请求,右键点击,选择"…

作者头像 李华