分享AI实践与思考
入门
上手
教程
基础
概念解释
Microsoft Foundry
开发工具
操作指南
参考
治理与网络
工具与知识
概念解释
操作指南
Agent Service
总览
概念解释
Azure OpenAI
API 与开发
总览
Azure AI Search
权限与安全
参考
检索概念
概念解释
快速上手
教程
Foundry Tools
其他与已退役
总览
概念解释
RAG 与知识工程
智能体与工具
MCP 与 Skills
操作指南
基础
评测、观测与安全
安全
评测
概念解释
参考
企业架构与成本
解决方案场景
样例与学习资源
附录
企业 RAG 设计与评估
本页从企业落地角度,列出 RAG 方案需要做的设计决策和分阶段评估方法,并说明企业环境(网络、身份、数据源)带来的额外约束。
为什么需要
RAG 的分块、嵌入、索引、检索和生成各环节相互影响。原文建议逐阶段独立优化,并为每个阶段确定验收标准,但最终结果以用户体验为准。企业场景还要处理权限、网络隔离和数据来源管理,这些在演示环境中通常不会出现。
设计阶段与关注问题
阶段 | 要做的事 | 关键决策 |
准备 | 明确业务领域;收集有代表性的测试文档和测试查询,包括合成查询和文档未覆盖的查询 | 测试集能否代表真实问题 |
分块 | 评估分块成本;做媒体分析(忽略什么、保留什么);选择分块方法 | 分块方法是否与文档结构匹配,见「分块方案对比」 |
块丰富 | 清洗块内容;补充元数据 | 哪些元数据用于过滤与检索 |
嵌入 | 选择并评估嵌入模型 | 领域词汇是否与模型词汇匹配 |
信息检索 | 配置索引与向量设置;选择向量、全文、混合或多次检索;评估检索结果 | 是否需要查询拆分与过滤 |
端到端评估 | 评估回答质量指标;记录超参数与结果;聚合并可视化 | 见「RAG 评测指标」 |
企业环境的额外约束
下表依据企业 Foundry 聊天参考架构的正文整理。该架构使用 Foundry Agent Service 的标准代理设置,并采用自带虚拟网络与自带存储。
维度 | 原文要点 | 设计含义 |
网络 | 面向互联网的入口只有带 WAF 的应用网关;PaaS 连接使用私有终结点 | 检索服务和模型不直接暴露在公网 |
身份 | 推荐托管标识,并按资源与功能隔离;同一项目内的 agent 共享一个托管标识 | 不同访问模式使用不同项目 |
会话授权 | Agent Service 不按用户校验会话归属,应用需确认用户拥有该会话 ID | 否则存在越权访问(Broken Object Level Authorization)风险 |
内容安全 | 每个模型部署绑定内容过滤策略,默认策略不满足时使用自定义策略 | 过滤策略按部署配置 |
数据源 | 原文建议保留独立的、可定期更新的权威数据源,以便重建索引 | 索引可重建、可在验证后切换 |
区域与容灾 | 原文设计为单区域内的可用区部署,不是多区域方案;Agent Service 没有内置容灾 | 容灾需另行规划 |
与相邻参考架构的对比
维度 | 标准 RAG 设计指南 | 企业 Foundry 聊天基线 |
关注点 | 每个阶段的设计与评估 | 端到端企业部署,含网络、身份与治理 |
编排 | 由编排器调用搜索(可用多种框架) | 由 Foundry Agent Service 托管的提示型 agent |
检索 | 编排器按设计发起检索 | agent 通过 Azure AI Search 工具经私有终结点检索 |
分块 | 由团队选择分块方法 | 静态知识文件由 Agent Service 管理索引与分块策略 |
架构图
图中列出设计 RAG 方案时需要回答的问题,可对照上文的设计阶段表使用。
限制与待核实
- 企业基线中的区域、模型和工具支持情况,以及配额与 SKU 限制,以页面当前版本为准,均待核实(2026-11-05 获取)。原文提示:工具支持取决于模型与区域,不支持的组合可能在创建时通过、运行时失败。
- 原文未给出评估阈值。本页不设定通过标准,需团队根据业务要求自行确定。
来源与核对
- 来源:
- https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/rag/rag-solution-design-and-evaluation-guide
- https://learn.microsoft.com/en-us/azure/architecture/ai-ml/architecture/baseline-microsoft-foundry-chat
- read_scope:正文已读
- 核对说明:正文通过网页抓取工具获取,工具返回的是整理后的文本。企业基线页的前约 10 万字符已读,文末运营卓越之后的内容未读,本页未引用该部分。表格内容据抓取结果归纳,数字与产品细节待人工复核。
上一篇
分块方案对比
下一篇
RAG 参考架构
Loading...