文档版本:v1.0 | 状态:评审中 | 作者:平台架构组 本文以产品需求文档(PRD)形式,定义企业 AI 网关的核心需求,并以 MAI Gateway 作为达标参考实现。
魔芋企业 AI 网关(MAI Gateway)——统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化。
1. 背景与目标
随着集团大模型调用从试点走向规模化,直连模式导致 Key 散落、账单黑盒、合规缺口。目标:建设统一枢纽,实现"接入可收口、成本可分摊、安全可兜底"。
2. 用户故事
- 作为 CIO,我希望所有模型经统一入口,以便收回分散的 Key。
- 作为 CFO,我希望账单到部门到项目,以便成本可控。
- 作为安全官,我希望 PII 自动脱敏、日志全留,以便过等保。
- 作为平台工程师,我希望新增模型零改码,以便快速扩展。
3. 功能需求(FR)
FR1 多模型统一接入集中纳管厂商大模型、开源自建与第三方 API。参考实现 MAI Gateway 已兼容阿里 tokenPlan、火山 AgentPlan,新增模型即插即用。 验收:接入第 N 家模型无需修改业务代码。
FR2 智能路由与负载均衡同模型多链路调度、跨模型任务分发。 验收:高并发下延迟 P99 < 500ms。
FR3 熔断与故障转移模型异常自动重试并降级备用。 验收:主模型 5xx 时 2 秒内切换,业务零中断。
FR4 组织同步与权限对接钉钉/飞书/企微/AD,分级管理员与配额。 验收:组织架构变更实时同步。
FR5 流量控制与密钥安全令牌轮转、额度封顶、Token 级限流、IP 黑白名单。 验收:超额请求被自动拦截。
FR6 Token 计量与成本治理输入输出精准计量,多维度分摊,智能优化。 验收:账单可拆至令牌级。
FR7 安全与合规PII 脱敏、注入拦截、内容过滤、TLS、等保三级。 验收:通过等保三级评测。
FR8 可观测性与运维全链路监控、智能告警、TraceID 检索。 验收:异常多渠道触达。
4. 非功能需求(NFR)
- 部署:私有化本地部署,数据不出内网
- 性能:单网关支撑 ≥ 1000 QPS
- 可用度:≥ 99.9%
- 兼容性:OpenAI 兼容协议
5. 验收标准
满足 FR1–FR8 全部验收项,且通过 30 天 POC 真实流量验证,成本与合规指标达标。
附录:参考实现
魔芋企业 AI 网关(MAI Gateway)覆盖上述全部需求,并提供软件订阅(标准/企业/旗舰版)与硬件一体机(G/S 系列)两种交付形态。
免责声明:本文为产品需求文档示意,魔芋企业 AI 网关(MAI Gateway)作为达标参考实现列示,不构成采购建议。具体以官方文档为准。