跳到主要内容
辰宇智书

融合方案

Dify + AI Gateway 融合方案

用 Dify 快速完成业务侧 AI 应用落地,用私有化 AI Gateway 在网关层统一管控模型调用、密钥、配额与审计——应用敏捷,治理不失控。

解决方案架构 · 02

应用构建与出口治理

作为企业 AI 应用的构建与治理底座:可独立快速起步,也可在规模扩大后接入企业级 Agent 平台。

架构怎么融

三层分工清晰:Dify 做应用赋能,Gateway 做出口治理,模型与数据驻留客户域

业务应用层

Dify

应用编排与赋能

  • 工作流 / Agent / 知识库应用快速搭建
  • 部门业务人员可参与配置与迭代
  • 智能客服、文档问答、内部助手等场景
  • 降低「从 0 写代码」的交付成本

治理控制层

私有化 AI Gateway

模型出口统一管控

  • 所有模型流量强制经网关收敛
  • 虚拟 Key / 密钥零明文长效散落
  • 限流、配额、预算熔断、模型路由
  • 调用审计、租户/成本中心计量

模型与基础设施

客户域部署

数据驻留与弹性

  • 公有云模型 API 或私有化大模型
  • VPC / 内网 / 离线环境可选
  • 与现有身份、网络、日志体系对接
  • 可与企业级 Agent 平台能力叠加
流量原则:Dify 内所有模型请求强制指向私有化 AI Gateway;业务侧不再持有长效明文 Key,网关统一鉴权、计量、限流与审计。

解决什么问题

企业 AI 落地常见卡点:应用要快、治理要稳、评审要过

痛点后果融合方案怎么解
应用做得出,治理跟不上各部门各自接 Key,成本失控、泄密风险高Dify 负责应用,Gateway 统一出口与凭证,谁调用、调了什么、花了多少一目了然
安全评审过不了明文 Key、无审计、数据路径不清网关层鉴权、审计留痕、策略门禁,支撑安全与合规材料
业务要快,IT 要稳自研周期长,或上云黑盒不可控Dify 加速业务落地,Gateway 保证企业级控制面不掉队
试点后难复制一个 Demo 成功,全公司推广推不动标准融合架构 + 策略模板,可按部门/租户复制扩展

核心价值

应用敏捷,出口可控,路径清晰,可继续演进

应用层敏捷

基于 Dify 快速搭建对话、工作流与知识库应用,业务部门可参与配置,缩短从需求到可用的周期。

网关层可控

模型调用统一经私有化 AI Gateway:密钥、限流、预算、路由、审计一体,杜绝 Key 散落。

数据与路径清晰

调用链路可观测、可计量、可追责;支持私有化与 VPC,满足数据驻留与出域策略。

可叠加演进

当前用 Dify 赋能业务;后续可平滑叠加企业级 Agent 平台(多租户、真内核、强隔离)而不推倒重来。

交付能力清单

Dify 侧、Gateway 侧与融合联调,分项可验收

Dify 企业赋能

  • 私有化 / 内网部署 Dify
  • 知识库与文档问答
  • 工作流与工具调用编排
  • 多应用、多团队协作空间
  • 与飞书 / 企微等渠道对接(按需)
  • 业务场景模板(客服、助手、审批辅助等)

私有化 AI Gateway

  • 统一模型入口与多供应商路由
  • 虚拟 Key 与凭证治理
  • 按组织 / 应用 / 成本中心计量
  • 限流、配额、预算熔断
  • 调用日志与审计导出
  • 敏感策略与访问边界控制

融合落地

  • Dify 全部模型请求指向 Gateway
  • 应用级身份与 Key 映射策略
  • 试点→部门→集团的扩展路径
  • 验收清单:连通、计量、审计、熔断演练
  • 运维手册与权限交接
  • 可选对接企业级 Agent 平台

方案对比

相对纯自研拼装与纯公有云应用

维度自研拼装纯云应用Dify + Gateway
落地速度自研周期长快,但治理弱Dify 快交付 + Gateway 强治理
密钥与成本易散落、难统计平台内可见、跨系统仍乱统一出口,计量到应用/部门
合规审计依赖自建黑盒或有限导出私有化网关全链审计
后续扩展架构难复用易被平台锁定可叠加 Agent 平台与更多应用

实施路径

先网关治理基线,再应用场景上线,最后复制推广

  1. 01

    现状与边界评估

    梳理现有模型供应商、Key 使用方式、合规要求与优先业务场景

  2. 02

    Gateway 私有化落地

    部署 AI Gateway,建立组织、配额、路由与审计策略基线

  3. 03

    Dify 接入与场景上线

    部署 Dify,应用流量全部走 Gateway,完成 1~2 个标杆场景

  4. 04

    验收与复制推广

    完成计量/审计/熔断验收,输出模板后向更多部门复制

典型场景

集团 AI 中台起步

IT 统一建设 Gateway,各部门用 Dify 自建应用,成本与安全由中台统一兜底。

知识库与内部助手

Dify 承载文档问答与助手,Gateway 控制模型供应商与调用预算,防止滥用与泄密。

智能客服 / 业务工作流

客服与流程自动化在 Dify 快速迭代,网关保证生产环境的限流、审计与故障熔断。

业务侧用 Dify 造应用,出口侧用 Gateway 守边界:既能快速赋能,又能过安全与采购评审。

可提供私有化试点包:Dify 部署 + Gateway 接入 + 策略模板与验收清单。

先把交付路径验证清楚

从首个业务场景、数据边界和验收方式开始,再决定平台、网关与后续扩展的组合。这样更利于技术、采购与安全团队形成同一份判断。