news 2026/6/23 6:33:06

企业级 Prompt 管理中心:实验分流 + 曝光埋点 + 可回溯,版本化/AB/DSL/可观测全齐

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
企业级 Prompt 管理中心:实验分流 + 曝光埋点 + 可回溯,版本化/AB/DSL/可观测全齐

系列文章目录

第一篇 AI 数据治理:LangChain4J 文本分类器在字段对标中的高级玩法
第二篇 LangChain4J + OpenTelemetry:AI 调用全链路可观测方案
第三篇 企业级 Neo4j GraphRAG:向量检索 + 图谱扩散怎么融合?Neo4j GraphRAG 给你答案
第四篇 多模型路由 + Resilience4j 熔断降级,Java 大模型服务的降级与兜底体系
第五篇「企业级智能体」LangChain4j Multi-Agent:角色分离 + 协同编排实战
第六篇 LangChain4j + MCP:从工具协议到生产级 Agent
第七篇 企业级 Prompt 管理中心:实验分流 + 曝光埋点 + 可回溯,版本化/AB/DSL/可观测全齐


文章目录

  • 系列文章目录
  • 前言:为什么企业需要 Prompt 管理中心?
  • 一、整体架构与数据模型
    • 1.1 整体链路(从请求到答案)
    • 1.2 四张核心表
  • 二、代码实践
    • 2.1 启动类
    • 2.2 配置层:LangChain4J + MyBatis-Plus
      • 2.2.1 OpenAI 配置属性
      • 2.2.2 LangChain4J ChatModel Bean
      • 2.2.3 MyBatis-Plus 自动填充 createdAt/updatedAt
    • 2.3 DTO:对外 API 入参出参
    • 2.4 实体与 Mapper(MyBatis-Plus)
      • 2.4.1 实体:PromptTemplateDO
      • 2.4.2 实体:ExperimentDO / VariantDO / ExposureDO
      • 2.4.3 Mapper
    • 2.5 核心服务:版本化 / 实验分流 / DSL / 曝光埋点 / 调用模型
      • 2.5.1 Prompt 版本化服务
      • 2.5.2 Prompt DSL:Mustache 渲染器
      • 2.5.3 AB 实验:一致性分桶
      • 2.5.4 人群圈选(SpEL)
      • 2.5.5 实验解析服务(ExperimentService)
      • 2.5.6 实验管理(创建/启动/暂停/结束)
      • 2.5.7 曝光埋点服务(ExposureService)
      • 2.5.8 PromptResolver:实验命中 → 取版本 → DSL 渲染 → 返回
      • 2.5.9 LangChainChatService:曝光埋点 + 调用模型
    • 2.6 Controller:对外接口(管理端 + 对话端)
      • 2.6.1 ChatController
      • 2.6.2 PromptAdminController
      • 2.6.3 ExperimentAdminController
    • 2.7 application.properties(MySQL + Flyway + 运行配置)
    • 2.8 建表脚本(V1__init.sql)
    • 2.9 pom依赖
    • 2.10 完整功能测试:curl 一把跑通(实验分流 + 曝光埋点)
  • 总结

前言:为什么企业需要 Prompt 管理中心?

很多团队把大模型接入做成一个 ChatController -> ChatModel 就上线了,但运行一段时间很快会遇到三类问题:

  • Prompt 无法版本化:一改 Prompt 就“线上回答风格突变”,无法回滚,也无法对比效果
  • 无法做 AB Test:不知道新 Prompt 到底是提升还是变差,只能拍脑袋上线
  • Prompt 维护成本高:大量 Prompt 分散在代码里/配置里,无法统一管理、审核、发布、统计
    企业级落地的核心不是“能调用模型”,而是:让 Prompt 可治理、可灰度、可回溯、可评估。

这篇文章给你一套可运行的工程化方案:
✅ Prompt 版本化 + 发布(ACTIVE/ARCHIVED)
✅ 实验分流(权重 0~10000)+ 人群圈选(SpEL)
✅ Prompt DSL(Mustache)渲染
✅ 曝光记录落库(requestId 级追踪)
✅ LangChain4J 统一对话入口


一、整体架构与数据模型

1.1 整体链路(从请求到答案)

用户请求 /api/chat ↓ PromptResolver.
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/22 20:30:51

Part 10|我给这套系统划的第一个边界

在决定从业务边界开始拆系统之后,我很快遇到了一个非常具体的问题。 这个问题不是“模块怎么拆”, 而是:某些逻辑,到底该不该跨过模块边界?这个问题如果不先想清楚, 后面的设计会非常难受。一、这个问题&am…

作者头像 李华
网站建设 2026/6/22 22:47:16

agent-zh.md

你是一个 AI 助手,帮助用户完成各种任务,包括编程、研究和分析。 核心角色 你的核心角色和行为可能会根据用户反馈和指示进行更新。当用户告诉你应该如何表现或你的角色应该是什么时,立即更新此记忆文件以反映该指导。 记忆优先协议 你可以访…

作者头像 李华
网站建设 2026/6/23 3:04:58

为什么过滤 rtmpt 而不是 rtmp?

😄作者简介: 小曾同学.com,一个致力于测试开发的博主⛽️,主要职责:测试开发、CI/CD 如果文章知识点有错误的地方,还请大家指正,让我们一起学习,一起进步。 😊 座右铭:不…

作者头像 李华
网站建设 2026/6/17 15:33:03

Navicat x 达梦技术指引 | 启用和配置AI助手

近期,Navicat 宣布正式支持国产达梦数据库。Navicat 旗下全能工具 支持达梦用户的全方位管理开发需求,而轻量化免费的 则满足小型和独立开发者的基础需求。 Navicat Premium 自版本 17.3 开始支持达梦 DM8 或以上版本。它支持的系统有 Windows、Linux …

作者头像 李华
网站建设 2026/6/23 2:00:15

Transformer的注意力权重的理解

""" Transformer 注意力权重分析工具 详细解析注意力矩阵的含义和使用方法 """import torch import torch.nn as nn import numpy as np import math# # 简化的多头注意力(用于演示) # class SimpleMultiHeadAttention(…

作者头像 李华