业务跑到一定规模都会长出同样一团:模型选择散落在各个服务里、提供方 ID 直接硬编码在环境变量、安全例外靠 commit message 解释。加一个新模型要发版,加一条新规则要开会。
治理规则收回到一个统一入口——安全团队在控制台直接配置与审阅,平台团队不用重新发布业务就能上线。
对 prompt 与响应做内容检查,违规请求在到达模型之前被拦截。可按团队与密钥粒度启用。
内置中文识别器:身份证号、手机号、银行卡号等在离开网关前自动识别,按规则脱敏、阻断或告警。
prompt 或响应里出现 API 密钥、连接串等凭证特征时自动拦截,防止企业凭证经模型外泄。
按密钥、团队、组织限制可调用的模型范围;访问组让「谁能用哪个模型」成为一条可审计的配置。
软预算达到阈值自动告警(邮件 / IM / 值班),硬上限超额自动阻断并返回结构化错误与重置时间。
按团队与密钥设置每分钟请求数、token 数与并发上限,保护下游提供方配额,拦住失控的循环调用。
PII 自动脱敏、凭证泄露拦截、模型白名单、预算与限流——全部挂在一个团队上,控制台保存即生效。
在控制台或配置文件中定义防护规则、模型白名单与预算,按团队与密钥挂载。
每一次配置变更都记录在审计日志中——谁改的、改了什么、何时生效,可随时回溯。
保存即生效,无需重新部署业务。规则在网关侧对每次请求执行。
拦截与告警事件集中可查:哪条规则命中、哪些请求被阻断,合规评审有据可依。