3.3 整体设计.md 5.4 KB

(一)产品架构设计

核心思路: 基于 Dify 平台搭建智能客服 Agent,采用 Chatflow + RAG + 工具调用 的架构,通过企业微信客服接口对接用户,实现知识问答、订单查询、人机协同的完整闭环。

整体架构图

架构分层说明

层级 核心组件 职责
用户层 企业微信客服 用户触达入口,后续可扩展至 App、小程序、网页等多渠道
接入层 企微 API 网关 + 会话管理 接收用户消息、管理会话状态、处理转人工路由、调用 Dify API
AI 核心层 Dify Chatflow 对话编排引擎,串联意图识别、知识检索、工具调用、Prompt 管理等核心能力
知识库层 Dify 知识库 管理商品、政策、FAQ、活动等知识文档,支持向量检索 + 全文检索的混合检索
工具层 自定义 API 工具 对接公司内部业务系统,提供订单、物流、商品、优惠券等实时数据查询能力
运营支撑层 监控 + Badcase 管理 数据埋点、核心指标看板、低满意度对话采集与分析
安全层 内容安全 + 兜底机制 敏感信息过滤、AI 输出安全审查、异常场景兜底回复

(二)技术方向选型

1. 为什么选择 Dify?

评估维度 Dify 能力 与本项目的匹配度
应用编排 Chatflow 可视化编排,支持条件分支、循环、变量传递 ✅ 完美支持意图路由 → 知识检索/工具调用 → 回复生成的流程
RAG 能力 内置知识库管理,支持多种分段策略、混合检索、Rerank ✅ 满足商品/政策/FAQ 等多知识库检索需求
工具调用 支持自定义 API 工具接入,OpenAPI 规范导入 ✅ 可快速对接订单、物流、商品等内部 API
模型灵活性 支持 GPT、Claude、通义千问、DeepSeek 等 100+ 模型 ✅ 可灵活切换和评测不同模型,不被厂商锁定
Prompt 管理 可视化 Prompt 编辑,支持变量插入和版本管理 ✅ 产品可直接调优 Prompt,无需开发介入
可观测性 内置日志、标注、对话记录查看 ✅ 支持 Badcase 标注和持续优化闭环
部署方式 支持私有化部署(Docker/K8s)和 SaaS 云服务 ✅ 可私有化部署保障数据安全
开发成本 低代码平台,产品可直接配置 ✅ 大幅降低开发周期,预计节省 40%~50% 开发工时

2. 核心技术选型

技术环节 选型方案 说明
AI 应用平台 Dify(私有化部署) Docker Compose 部署,保障数据不出内网
应用编排方式 Dify Chatflow 可视化编排对话流程,支持条件分支和工具调用节点
大语言模型 待评测选型 候选:DeepSeek-V3 / 通义千问-Max / GPT-4o-mini,综合评估准确率、延迟和成本
Embedding 模型 待评测选型 候选:text-embedding-v3 / bge-m3,评估中文语义检索效果
Rerank 模型 待评测选型 候选:bge-reranker-v2-m3 / Cohere Rerank,提升检索精度
知识库 Dify 内置知识库 向量数据库 + 全文检索,混合检索策略
会话管理 自研中间层服务 管理企微会话状态、调用 Dify Chatflow API、处理转人工逻辑
接入渠道 企业微信客服 API 通过企微客服接口收发消息,对接 Dify API
监控看板 Dify 日志 + 自建看板 Dify 提供对话日志和标注;自建看板统计满意度、转人工率等业务指标

3. Dify Chatflow 核心流程设计

(三)产品路线图

分期策略: 采用 MVP → 增强 → 规模化 三阶段渐进上线,每阶段有明确的交付物和验收标准,降低项目风险。

里程碑 1:MVP 版本(第 1~8 周)

目标: 跑通核心链路,验证技术可行性

  • Dify 私有化部署 & 环境搭建

  • 知识库构建:商品 FAQ + 售后政策(覆盖 Top 50 高频问题)

  • Chatflow 基础编排:意图识别 → 知识检索 → 回复生成

  • 基础工具调用:订单查询、物流查询

  • 企微客服接口对接

  • 基础 Prompt 调优

  • 评测集构建 & 模型选型

  • 验收标准: Top 50 高频问题准确率 ≥ 90%

里程碑 2:增强版本(第 9~14 周)

目标: 完善功能,达到上线标准

  • 知识库扩展:覆盖全品类商品 + 活动规则

  • 工具扩展:商品查询、优惠券查询

  • 转人工策略完善:对话摘要传递、人工辅助建议

  • 安全合规模块:敏感信息过滤、内容安全审查、异常兜底

  • 监控看板:满意度、转人工率、响应时长等核心指标

  • Prompt 深度调优 & 检索策略优化

  • 验收标准: 未转人工满意度 ≥ 85%,转人工率 ≤ 25%

里程碑 3:规模化上线(第 15~17 周)

目标: 灰度验证 → 全量上线

  • 30% 客服账号灰度测试,持续监控 2 周

  • 根据灰度数据迭代优化

  • 全量切换上线

  • 建立持续运营机制:Badcase 收集 → 分析 → 优化闭环

  • 验收标准: 未转人工满意度 ≥ 90%,转人工率 ≤ 20%,首次响应 ≤ 10 秒