85_Spring AI 干货笔记之 Apache Cassandra 向量存储

一、Apache Cassandra 向量存储

本节将引导您设置 CassandraVectorStore 以存储文档嵌入并执行相似性搜索。

二、什么是 Apache Cassandra？

Apache Cassandra® 是一个真正的开源分布式数据库，以其线性可扩展性、经过验证的容错性和低延迟而闻名，使其成为关键任务事务数据的完美平台。

其向量相似性搜索（VSS）基于 JVector 库，确保了一流的性能和相关性。

在 Apache Cassandra 中进行向量搜索就像这样简单：

SELECTcontentFROMtableORDERBYcontent_vector ANNOFquery_embedding;

更多相关文档可以在这里 阅读。

此 Spring AI 向量存储设计用于全新的 RAG 应用程序，并且能够基于现有数据和表进行改造。

该存储还可用于现有数据库中的非 RAG 用例，例如语义搜索、地理邻近搜索等。

存储将根据其配置自动创建或增强所需的模式。如果您不希望修改模式，请使用 initializeSchema 配置存储。

使用 spring-boot-autoconfigure 时，根据 Spring Boot 标准，initializeSchema 默认为 false，您必须通过在 application.properties 文件中设置 …​initialize-schema=true 来选择加入模式创建/修改。

三、什么是 JVector？

JVector 是一个纯 Java 嵌入式向量搜索引擎。

与其他 HNSW 向量相似性搜索实现相比，它之所以脱颖而出，是因为：

• 算法快速：JVector 使用受 DiskANN 和相关研究启发的最先进图算法，提供高召回率和低延迟。

• 实现快速：JVector 使用 Panama SIMD API 来加速索引构建和查询。

• 内存高效：JVector 使用产品量化压缩向量，以便在搜索期间它们可以保留在内存中。

• 磁盘感知：JVector 的磁盘布局设计为在查询时进行最少必要的 IOPS。

• 并发：索引构建至少可线性扩展到 32 个线程。线程数加倍，构建时间减半。

• 增量：在构建索引的同时查询索引。在添加向量和能够在搜索结果中找到它之间没有延迟。

• 易于嵌入：API 设计易于嵌入，由在生产中使用它的人设计。

四、先决条件

一个 EmbeddingModel实例 来计算文档嵌入。这通常配置为 Spring Bean。有几种选择：

• Transformers 嵌入- 在您的本地环境中计算嵌入。默认是通过 ONNX 和 all-MiniLM-L6-v2 句子转换器。这可以直接使用。

• 如果您想使用 OpenAI 的嵌入- 使用 OpenAI 嵌入端点。您需要在 OpenAI 注册 创建账户，并在 API 密钥 生成 api-key 令牌。

• 还有许多其他选择，请参阅嵌入 API 文档。

一个 Apache Cassandra 实例，版本为 5.0-beta1 或更高

• DIY 快速入门

• 对于托管服务，Astra DB 提供了一个相当不错的免费层级服务。

五、依赖项

Spring AI 自动配置、启动器模块的工件名称发生了重大变化。请参阅升级说明以获取更多信息。

对于 依赖管理，我们建议使用 Spring AI BOM，如依赖管理部分所述。

将这些依赖项添加到您的项目中：

• 仅用于 Cassandra 向量存储：

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-cassandra-store</artifactId></dependency>

或者，用于 RAG 应用程序中所需的一切（使用默认的 ONNX 嵌入模型）：

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-starter-vector-store-cassandra</artifactId></dependency>

六、配置属性

您可以在 Spring Boot 配置中使用以下属性来自定义 Apache Cassandra 向量存储。

七、使用

7.1 基本用法

创建一个 CassandraVectorStore 实例作为 Spring Bean：

@BeanpublicVectorStorevectorStore(CqlSessionsession,EmbeddingModelembeddingModel){returnCassandraVectorStore.builder(embeddingModel).session(session).keyspace("my_keyspace").table("my_vectors").build();}

一旦有了向量存储实例，您就可以添加文档并执行搜索：

// 添加文档vectorStore.add(List.of(newDocument("1","内容1",Map.