news 2026/9/29 18:14:40

38_Spring AI 干货笔记之 OCI GenAI 嵌入

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
38_Spring AI 干货笔记之 OCI GenAI 嵌入

一、Oracle Cloud Infrastructure (OCI) GenAI 嵌入

OCI GenAI 服务 提供文本嵌入功能,支持按需模型或专用 AI 集群。

OCI 嵌入模型页面 和 OCI 文本嵌入页面 提供了关于在 OCI 上使用和托管嵌入模型的详细信息。

二、先决条件

添加仓库和 BOM

Spring AI 工件发布在 Maven Central 和 Spring Snapshot 仓库中。请参阅 工件仓库 部分,将这些仓库添加到您的构建系统中。

为了帮助管理依赖项,Spring AI 提供了一个 BOM(物料清单)来确保在整个项目中使用一致的 Spring AI 版本。请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建系统中。

三、自动配置

Spring AI 的自动配置和 starter 模块的工件名称发生了重大变化。更多信息请参阅 升级说明。

Spring AI 为 OCI GenAI 嵌入客户端提供了 Spring Boot 自动配置。要启用它,请将以下依赖项添加到项目的 Maven pom.xml 文件中:

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-starter-model-oci-genai</artifactId></dependency>

或添加到您的 Gradle build.gradle 构建文件中:

dependencies{implementation'org.springframework.ai:spring-ai-starter-model-oci-genai'}

请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

嵌入属性

前缀 spring.ai.oci.genai 是用于配置连接到 OCI GenAI 的属性前缀。

嵌入自动配置的启用和禁用现在通过顶级属性 spring.ai.model.embedding 前缀进行配置。

  • 要启用:spring.ai.model.embedding=oci-genai(默认启用)

  • 要禁用:spring.ai.model.embedding=none(或任何与 oci-genai 不匹配的值)

进行此更改是为了允许配置多个模型。

前缀 spring.ai.oci.genai.embedding 是用于配置 OCI GenAI 的 EmbeddingModel 实现的属性前缀。

所有以 spring.ai.oci.genai.embedding.options 为前缀的属性都可以在运行时通过向 EmbeddingRequest 调用添加请求特定的 运行时选项 来覆盖。

四、运行时选项

OCIEmbeddingOptions 提供嵌入请求的配置信息。OCIEmbeddingOptions 提供了一个构建器来创建选项。

在启动时,使用 OCIEmbeddingOptions 构造函数来设置用于所有嵌入请求的默认选项。在运行时,您可以通过向 EmbeddingRequest 请求传递带有您设置的 OCIEmbeddingOptions 实例来覆盖默认选项。

例如,为特定请求覆盖默认模型名称:

EmbeddingResponseembeddingResponse=embeddingModel.call(newEmbeddingRequest(List.of("Hello World","World is big and salvation is near"),OCIEmbeddingOptions.builder().model("my-other-embedding-model").build()));

五、示例代码

这将创建一个 EmbeddingModel 实现,您可以将其注入到您的类中。下面是一个简单的 @Controller 类示例,它使用 EmbeddingModel 实现。

spring.ai.oci.genai.embedding.model=<your model>spring.ai.oci.genai.embedding.compartment=<your model compartment>
@RestControllerpublicclassEmbeddingController{privatefinalEmbeddingModelembeddingModel;@AutowiredpublicEmbeddingController(EmbeddingModelembeddingModel){this.embeddingModel=embeddingModel;}@GetMapping("/ai/embedding")publicMapembed(@RequestParam(value="message",defaultValue="给我讲个笑话")Stringmessage){EmbeddingResponseembeddingResponse=this.embeddingModel.embedForResponse(List.of(message));returnMap.of("embedding",embeddingResponse);}}

六、手动配置

如果您不想使用 Spring Boot 自动配置,可以在应用程序中手动配置 OCIEmbeddingModel。为此,请将 spring-oci-genai-openai 依赖项添加到项目的 Maven pom.xml 文件中:

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-oci-genai-openai</artifactId></dependency>

或添加到您的 Gradle build.gradle 构建文件中:

dependencies{implementation'org.springframework.ai:spring-oci-genai-openai'}

请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。

接下来,创建一个 OCIEmbeddingModel 实例并使用它来计算两个输入文本之间的相似性:

finalStringEMBEDDING_MODEL="cohere.embed-english-light-v2.0";finalStringCONFIG_FILE=Paths.get(System.getProperty("user.home"),".oci","config").toString();finalStringPROFILE="DEFAULT";finalStringREGION="us-chicago-1";finalStringCOMPARTMENT_ID=System.getenv("OCI_COMPARTMENT_ID");varauthProvider=newConfigFileAuthenticationDetailsProvider(this.CONFIG_FILE,this.PROFILE);varaiClient=GenerativeAiInferenceClient.builder().region(Region.valueOf(this.REGION)).build(this.authProvider);varoptions=OCIEmbeddingOptions.builder().model(this.EMBEDDING_MODEL).compartment(this.COMPARTMENT_ID).servingMode("on-demand").build();varembeddingModel=newOCIEmbeddingModel(this.aiClient,this.options);List<Double>embedding=this.embeddingModel.embed(newDocument("加拿大有多少个省?"));
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/30 2:45:07

1、Red Hat Linux 性能调优与安全保障指南

Red Hat Linux 性能调优与安全保障指南 在当今数字化时代,Red Hat Linux 系统在企业和个人用户中都得到了广泛应用。为了确保系统的高效运行和数据安全,性能调优和安全保障显得尤为重要。下面将详细介绍相关的关键内容和操作方法。 作者与出版信息 本书由 Mohammed Kabir …

作者头像 李华
网站建设 2026/9/30 2:41:46

基于Python+Django的社区服务管理系统源码设计与文档

前言 本课题聚焦社区管理数字化转型需求&#xff0c;设计并实现基于 PythonDjango 的社区服务管理系统。系统以解决传统社区管理效率低、服务响应慢、信息传递不及时等痛点为目标&#xff0c;采用 Django 框架搭建后端架构&#xff0c;结合 Bootstrap 前端技术与 MySQL 数据库&…

作者头像 李华
网站建设 2026/9/30 6:46:11

电子信息毕设 stm32 RFID员工打卡门禁系统(源码+硬件+论文)

文章目录 0 前言1 主要功能2 硬件设计(原理图)3 核心软件设计4 实现效果5 最后 0 前言 &#x1f525; 这两年开始毕业设计和毕业答辩的要求和难度不断提升&#xff0c;传统的毕设题目缺少创新和亮点&#xff0c;往往达不到毕业答辩的要求&#xff0c;这两年不断有学弟学妹告诉…

作者头像 李华
网站建设 2026/9/30 7:04:10

Go后端工程师

随着全球云原生市场突破千亿美元门槛&#xff0c;Go语言凭借其在云原生基础设施领域的统治级地位&#xff0c;正将后端工程师从“技术实现者”推向商业化价值创造的前沿。这不仅是技术的胜利&#xff0c;更是技术人才与市场价值深度绑定的历史性机遇。一、市场洞察&#xff1a;…

作者头像 李华
网站建设 2026/9/29 19:49:47

Rust二进制大小优化终极指南:从新手到专家的完整解决方案

Rust二进制大小优化终极指南&#xff1a;从新手到专家的完整解决方案 【免费下载链接】min-sized-rust &#x1f980; How to minimize Rust binary size &#x1f4e6; 项目地址: https://gitcode.com/gh_mirrors/mi/min-sized-rust Rust以其出色的性能和内存安全性而闻…

作者头像 李华
网站建设 2026/9/30 8:38:47

F2批量重命名的7个安全技巧:从新手到高手的防护指南

F2批量重命名的7个安全技巧&#xff1a;从新手到高手的防护指南 【免费下载链接】f2 F2 is a cross-platform command-line tool for batch renaming files and directories quickly and safely. Written in Go! 项目地址: https://gitcode.com/gh_mirrors/f21/f2 还在为…

作者头像 李华